메타, 모든 AI 이미지에 ‘라벨’ 붙인다…합성 이미지 집중 단속

▲(출처=게티이미지뱅크)

사회관계망서비스(SNS)에서 AI가 만든 이미지를 식별하기 용이해진다.

메타는 6일(현지시간) 공식 홈페이지에서 “몇 달 안에 페이스북, 인스타그램, 스레드에서 AI로 생성된 이미지에 라벨을 붙일 계획이다”라고 밝혔다.

이어 메타는 “이용자들이 접한 콘텐츠가 AI를 사용해 언제 만들어졌는지 알 수 있도록 돕겠다”라고 강조했다. 그동안 자체 도구인 메타AI에서 만든 AI 이미지에 라벨을 붙여왔던 것을 모든 게시물 이미지로 확대하겠다는 것이다.

메타의 이 같은 결정은 AI 기술의 발달로 실제 사람의 모습과 합성한 사람의 모습의 차이를 가리기 어려워진 현실과 대선을 앞두고 허위사실 확산에 민감해진 미 정부를 고려한 결정인 것으로 보인다.

최근 미국 대선을 앞두고 조 바이든 대통령의 목소리를 AI로 조작한 가짜 전화 유세가 확산되고 팝스타 테일러 스위프트의 얼굴과 음란물을 합성한 AI 조작 이미지가 SNS를 떠돌며 ‘딥페이크(AI를 활용한 이미지 및 음성 합성 기술) 규제’가 미국 내 주요 의제로 떠올랐다.

틱톡 역시 6일 개최된 ‘안전한 인터넷의 날’ 미디어 워크숍을 통해 “의도한 바와 상관없이 개인이나 사회에 상당한 위해를 미칠 수 있는 정확하지 않거나 오해의 소지가 있는 거짓된 콘텐츠를 불허한다”라며 SNS 내 콘텐츠에 대한 사실 검증을 강화할 계획이라고 밝혔다.