중앙선관위, 'AI딥페이크 특별대응팀' 가동…"적극 대응 중"

▲중앙선거관리위원회 특별대응팀이 선거법 위반 혐의 게시물에 대한 모니터링을 하고 있다. (중앙선거관리위원회 제공)

중앙선거관리위원회는 딥페이크 영상과 이미지 등을 활용한 위법한 선거운동을 방지하기 위해 '허위 사실·비방 AI 딥페이크 특별대응팀'을 운영하고 있다고 23일 밝혔다.

중앙선관위는 "허위 사실 공표·비방 행위는 후보자에게 회복하기 어려운 피해를 입힐 수 있고, 유권자의 올바른 선택을 방해해 선거 결과를 왜곡시킬 수 있다"며 "예방과 확산 방지에 최선의 노력을 다할 것"이라고 밝혔다.

이어 "특히, 파급력이 큰 악의적인 딥페이크 영상 등의 유포자는 고발 등 엄중하게 대응할 방침"이라고 덧붙였다.

중앙선관위는 "누구나 손쉽게 AI를 활용한 영상이나 이미지를 제작할 수 있는 만큼 제21대 대통령선거를 앞두고 유권자들이 영상이나 이미지를 활용할 때 선거법에 위반되지 않도록 각별히 주의해야 한다"고 당부했다.

중앙선관위는 또 "딥페이크 영상 위법 게시물 등의 확산을 차단하기 위해 9일부터 중앙 및 시·도 선관위에 특별대응팀을 운영하고, 15일에는 검찰·경찰 및 네이버·카카오 등과 공동 대응방안을 논의하는 등 선거 딥페이크에 적극 대응 중"이라고 밝혔다.

그러면서 "특별대응팀을 통해 온라인 위법 게시물을 상시 모니터링하고, 위반 혐의가 있는 게시물을 발견하면 포털사이트 등에 신속히 삭제 요청을 해 위법 게시물의 확산을 방지하고 있다"고 부연했다.

중앙선관위는 딥페이크 영상 등의 위법 여부 판별을 위해 시청각적 탐지, 프로그램 감별, AI 전문가 감별의 3단계 감별체계를 운영한다. 프로그램 감별 단계에서는 국립과학수사연구원(NFS)과 한국전자기술연구원(KETI)이 공동 개발한 감별 도구 등을 활용한다.

공직선거법에 따르면 누구든지 선거일 전 90일부터 선거일까지 선거운동을 위해 AI 등을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등을 제작·게시할 수 없다.