오픈AI, AI 발 허위조작정보 막는다…워터마크 의무 법안 '지지'

캘리포니아 하원서 62대 0 만장일치
전 세계 선거 앞두고 가짜정보 막을 것

▲키보드 위로 오픈AI 로고가 보인다. 로이터연합뉴스

챗GPT 개발사 오픈AI가 인공지능(AI)으로 생성한 콘텐츠에 워터마크를 붙이는 법안을 지지한다고 밝혔다.

27일(현지시간) 블룸버그통신에 따르면 오픈AI는 허위조작정보, 딥페이크 등 AI가 생성한 콘텐츠에 워터마크를 붙여 식별하도록 하는 캘리포니아 법안에 찬성 의지를 내비쳤다.

앞서 미국 캘리포니아주 하원은 '디지털 출처 표준법(AB 3211)'이라는 이름의 법안을 62대 0 만장일치로 통과시킨 바 있다. 이에 따라 현재 주 상원 전체 표결을 앞두고 있다. 캘리포니아주 상하원을 모두 통과할 경우 개빈 뉴섬 주지사가 다음 달 30일까지 서명하거나 거부권을 행사하게 된다.

해당 법안은 AI가 조작한 음성이나 이미지, 영상 등 허위 콘텐츠 생성을 방지하고 출처를 확인하기 위해 도입됐다. AI 생성 콘텐츠에 자체 워터마크를 붙여 구분한다. 또 AI 개발자가 자체 모델에 대한 안전 테스트를 수행하도록 의무화하는 내용을 담고 있다.

오픈AI는 캘리포니아주 버피 웍스 하원의원에 서한을 보내 "특히 올해는 전 세계에서 선거가 있으므로 AI로 생성된 콘텐츠의 경우 워터마크와 같은 출처 표식과 투명성이 중요하다고 생각한다"고 말했다.

올해는 미국, 유럽(EU), 대만, 인도네시아 등 전 세계 인구의 3분의 1을 차지하는 국가에서 선거가 예정되어 있다. 이미 미국과 인도네시아 등 각지에서는 AI가 생성한 허위조작정보를 정치 지형에 이용하는 사례가 발견되고 있다.