尹대통령 가짜 영상 논란에…방통위, 네카오·구글 등과 딥페이크 예방책 논의

정부가 최근 인공지능(AI) 기술로 이미지나 영상을 합성해 만들어낸 가짜 이미지, 영상물인 ‘딥페이크’에 대응하기 위해 네이버, 카카오, 구글, 메타 등 국내·외 플랫폼 사업자와 논의했다.

방송통신위원회(방통위)는 23일 딥페이크 허위정보 대응 관련 자율규제 강화를 위한 민관협력 회의를 개최했다. 딥페이크는 AI 기술인 딥러닝과 페이크의 합성어로, AI 기술을 이용해 진위 여부를 구별하기 어렵도록 다른 이미지·영상과 합성한 가짜 이미지나 영상물이다.

이날 회의는 최근 딥페이크 기술을 활용한 유명인 관련 허위조작정보가 사회관계망서비스(SNS) 등을 통해 확산되면서 실제 사기 피해가 발생하는 등 사회적 문제로 대두되면서 사업자가 즉시 취할 수 있는 피해 예방 대책을 논의하기 위해 마련됐다.

회의에는 국내·글로벌 플랫폼이자 AI 기술 개발사인 네이버, 카카오, 구글, 메타, 엑스(X, 옛 트위터), 바이트댄스(틱톡) 관계자들이 참석했다. 이들은 △AI 생성물 표시 △탐지 모니터링 △삭제·차단 조치 등 관련 자율규제 현황과 강화 방안 등에 대해 의견을 나눴다.

이상인 부위원장은 이날 회의를 주재하면서 “딥페이크 허위정보로 인한 개인 피해와 사회적 혼란을 예방하기 위해서는 플랫폼의 자정 노력이 무엇보다 중요하다”며 “특히 올해는 전 세계적으로 큰 선거들도 앞두고 있는 만큼, 더욱 적극적이고 선제적인 자율규제에 나서달라”고 주문했다.

또 이 부위원장은 국내 사업자에게 뮌헨 기술협약 등 글로벌 기업의 자율규제 강화에 상응하는 조치를 요청하고, 글로벌 사업자에게는 국내 사업자 수준의 신속한 조치에 최선을 다해 줄 것을 당부했다. 뮌헨 기술협약은 지난 2024년 선거 관련 AI의 기만적 사용을 방지하기 위한 기술협약이다. 구글, 메타, 엑스(X), 틱톡 등 20개 주요 플랫폼·기술 기업이 자발적으로 서명했다.