“딥페이크 잡아라”…글로벌 대기업 합종연횡

어도비·MS·소니그룹, 변조 판별 기술 공동 개발 나서
딥페이크, 범죄 악용 늘어나
현재 이미지 데이터 가짜 여부 육안으로 비교 검증

▲버락 오바마 전 미국 대통령이 등장하는 딥페이크 영상. AP뉴시스

전 세계적으로 사회문제로 떠오르고 있는 딥페이크(Deepfake) 동영상을 잡기 위해 글로벌 기업들이 손을 잡았다.

18일(현지시간) 일본 니혼게이자이신문(닛케이)은 미국 어도비와 마이크로소프트(MS), 일본 소니그룹 등이 동영상과 이미지 변조를 구분하는 기술 개발에 나섰다고 보도했다.

이들 글로벌 기업은 암호화로 편집 이력을 변조할 수 없게 하는 소프트웨어를 개발해 공유할 계획이다. 또한, 스마트폰이나 카메라 등 영상촬영 기기 외에 동영상 편집 소프트웨어 등에도 해당 기술을 탑재해 소포트웨어 차원에서도 구현할 수 있도록 할 계획이다. 이를 통해 가짜 정보가 담긴 복제 영상이 소셜미디어상으로 확산해도 인공지능(AI) 등을 활용해 위조 이력을 자동으로 감지하도록 한다는 방침이다.

딥페이크는 인공지능(AI)을 활용해 합성한 영상을 말한다. 최근 딥페이크 기술은 디지털 성범죄에서부터 전쟁 선전 등 각종 범죄에 활용되면서 심각한 사회 문제로 떠오르고 있다. 특히 최근에는 볼로디미르 젤린스키 우크라이나 대통령과 관련한 딥페이크 영상이 전쟁 선전에 악용되면서 우려를 키우기도 했다.

하지만 현재로써는 뚜렷한 해결 방법은 없는 상황이다. 관련 기술 개발이 아직 제대로 이뤄지지 않아 출처를 모르는 이미지 데이터의 가짜 여부를 주로 육안으로 비교 검증하고 있기 때문이다. 물론 편집 이력 등 메타데이터를 보존하는 형태의 검증도 진행되고는 있지만, 전용 소프트웨어를 사용하면 변조할 수 있고, 판별할 수 없는 경우가 많다.

사진 편집 소프트웨어 ‘포토샵’을 개발하는 어도비가 이러한 이력 증명의 기술 규격 제정에 가장 앞장서고 있다. 어도비는 더욱 효과적인 딥페이크 확산 방지를 위해 인텔과 MS 등과 함께 국제단체인 ‘콘텐츠 출처와 진위 확인 위한 연합(C2PA)’ 설립한 상태다. 여기에는 영국 BBC와 암홀딩스 등이 합류한 상태며 지난달에는 일본 카메라 업체 니콘과 소니그룹, 트위터도 참여했다.

앤디 파슨스 어도비 콘텐츠 진위 이니셔티브(CAI) 총괄은 “딥페이크 동영상 확산 방지에는 소셜미디어에서부터 동영상 스트리밍 업체에 이르기까지 다양한 기업들의 협력이 불가피하다”면서 “모든 플랫폼에서 널리 확산 방지 기술이 채택돼 활용되는 것이 가장 중요하다”고 말했다. 이에 C2PA는 유튜브 등 다양한 기업들의 참여 확대를 유도할 방침이다.