인니, 머스크의 그록 전 세계 첫 접속 차단

AI 이용한 딥페이크 성착취물 생성 논란 지속
머스크, 단속 강화한 영국에 “파시스트냐” 반발

▲일론 머스크 테슬라 최고경영자(CEO)와 그록, xAI 로고. ( AFP연합뉴스)

인도네시아가 일론 머스크 테슬라 최고경영자(CEO)의 인공지능(AI) 서비스 그록에 대한 접속을 차단했다. 전 세계 처음이다.

10일(현지시간) 경제 전문매체 비즈니스 인사이더에 따르면 인도네시아 통신디지털부는 성명을 내고 “AI 기술을 이용해 생성된 가짜 음란물 콘텐츠의 위험으로부터 여성, 어린이, 전체 사회를 보호하고자 그록 접속을 일시적으로 차단한다”고 밝혔다.

무티아 하피드 통신디지털부 장관은 “정부는 동의 없이 제작된 성적 딥페이크 영상 유포 행위를 디지털 공간에서 시민의 인권과 존엄성, 안전을 심각하게 침해하는 행위로 간주한다”고 설명했다.

앞서 그록은 AI를 이용한 딥페이크 성착취물을 생성ㆍ유포해 논란을 일으켰다. 이용자가 특정인의 사진을 제공하고 다른 옷차림이나 헐벗은 이미지를 요구하면 그록이 만들어주는 게 논란의 중심이 됐다.

이후 세계 곳곳에서 AI 음란물 단속을 강화해야 한다는 목소리가 커졌다. 프랑스 정부는 그록으로 생성된 딥페이크 성착취물에 대해 조사하겠다고 밝혔고 인도 정부도 그록이 자주 활용되는 소셜미디어 엑스(X·옛 트위터)의 인도 담당자에게 서한을 보내고 문제를 제기했다. 영국 정부는 이용자 보호에 대한 법적 의무를 준수하기 위해 엑스가 어떤 조치를 했는지 파악하는 중이라고 발표했다.

그록은 미국 기업이지만, 미국 의회에서조차 앱스토어에서 그록과 엑스에 대한 다운로드를 중단해야 한다는 지적이 나오고 있다.

논란이 커지자 엑스는 유료 구독자에게만 그록을 통한 이미지 생성 기능을 허용하기로 했다. 그러나 머스크 CEO는 되레 AI 음란물 단속이 너무하다면서 반발하고 있다.

그는 영국의 온라인 범죄 단속 건수가 세계에서 가장 많다는 내용을 담은 게시글을 인용하면서 “영국 정부는 왜 이렇게 파시스트인가”라고 따졌다. 또 키어 스타머 영국 총리의 비키니 차림을 합성한 AI 이미지를 리트윗(재게시)하면서 “그들은 단지 표현의 자유를 억압하고 싶을 뿐”이라고 비난했다.

그러면서 그록이 멀쩡한 콘텐츠도 잘 만든다는 것을 호소라도 하듯 그록을 통해 이미지와 영상을 만든 게시물들을 지속적으로 리트윗했다.