오픈AI·MS 등 AI 선도 20개사, 딥페이크 선거 악용 방지책 마련 약속

뮌헨 안보회의서 협력안 발표
딥페이크 자동 검출·워터마크 표기 등 기술 협력하기로
X·틱톡 등 플랫폼 기업들도 참여

▲미국 미시간주 배틀크릭에서 17일(현지시간) 투표 안내판이 보인다. 배틀크릭(미국)/AFP연합뉴스

‘챗GPT’로 생성형 인공지능(AI) 돌풍을 일으킨 오픈AI를 비롯해 마이크로소프트(MS), 구글 모회사 알파벳, 메타 등 AI 기술을 선도하는 빅테크 20개사가 딥페이크 등 AI 기술의 선거 악용 방지책을 마련하겠다고 약속했다.

17일(현지시간) CNN방송에 따르면 이들 기업은 독일 뮌헨안보회의에서 성명을 내고 ‘2024년 선거에서 AI의 기만적 사용을 방지하기 위한 기술 협약’을 공개했다.

협약에는 AI가 만들어낸 딥페이크 콘텐츠를 자동으로 검출, 배제하는 기술을 개발하고 가짜 콘텐츠 유통을 막기 위해 워터마크 등 출처를 표시하는 기술을 개발, 공유하는 등의 내용이 담겼다. 이와 함께 이들의 노력을 대중에게 투명하게 공개하겠다는 약속도 포함됐다. 이번 협약에는 아마존닷컴과 엑스(X·옛 트위터), 틱톡 등 플랫폼 기업들도 참여하기로 했다. 브래드 스미스 MS 부회장은 “AI가 (혼자서) 가짜 선거 뉴스를 만드는 것은 아니지만, 우리는 가짜 뉴스가 확산하는 데 AI가 도움 되지 않도록 해야 한다”고 말했다.

이미 일부 기업들은 개별적으로 관련 움직임을 보인다. 다만 전 세계 주요 선거가 치러지는 상황에서 AI에 대한 대중의 우려가 커지자 기업들은 공개적으로 협력을 강화하기로 했다. 생성형 AI가 나날이 발전하는 점도 이들을 서두르게 했다. 오픈AI는 15일 텍스트 기반의 챗GPT에 이어 동영상 프로그램인 ‘소라(Sora)’를 공개했다. 이용자가 텍스트를 입력하면 1분 이내 분량의 영상을 만들어주는 신제품이다.

일부 시민단체들은 기업들의 약속이 제대로 이행되지 않을 것을 우려했다. 기술·미디어 감시단체인 프리프레스의 노라 베나비데즈 변호사는 “선거철마다 기술 기업들은 모호한 기준을 약속했고 약속을 완전히 이행하지 못했다”며 “이번에 발표된 자발적인 약속은 민주주의가 직면한 전 세계적 과제를 해결하기에 충분하지 않다”고 지적했다. 이어 “선거가 있는 바쁜 해에 AI가 초래하는 실질적인 피해를 해결하려면 인적 검토와 법 집행 등 강력한 콘텐츠 관리가 필요하다”고 강조했다.