AI 생성물 표시ㆍ징벌적 손해배상 도입⋯정부, AI 가짜 광고 차단 총력

AI 생성물 표시 의무화부터 징벌적 손해배상까지 전면 강화
긴급 차단 절차 도입…허위광고 확산 원천 차단

▲AI를 활용한 가짜 광고 예시. (사진제공=국무조정실)

정부가 SNS를 중심으로 확산하는 ‘AI 가짜 의사·전문가 광고’에 대해 생성 단계부터 유통, 제재까지 전 과정을 아우르는 대응책을 내놨다. 김민석 국무총리는 10일 정부서울청사에서 국가정책조정회의를 주재하고 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 확정하며 “신기술 악용으로 시장 질서가 무너지는 상황을 바로잡겠다”고 밝혔다.

최근 AI 기술을 이용해 가짜 의사나 전문가가 식품, 건강기능식품, 화장품, 의약품 등을 추천하는 광고가 SNS에서 급격히 확산하고 있다. AI 합성 영상으로 전문가를 사칭하거나 before-after 이미지를 조작한 사례 등이 다수 확인됐다. 특히 노년층 피해가 빠르게 증가하고 있는 것으로 파악됐다. 정부는 기존 제재 방식만으로는 확산 속도를 따라잡기 어렵고 해외 제작자까지 존재하는 만큼 새로운 대응 체계가 필요하다고 설명했다.

이를 위해 플랫폼 기반의 ‘AI 생성물 표시제’가 도입된다. 앞으로 AI로 만든 사진·영상·음성은 게시자가 반드시 AI 생성물임을 표시해야 하며, 플랫폼은 이러한 표시 의무가 지켜지는지 관리해야 한다. 이용자가 표시를 삭제하거나 훼손하는 행위도 금지된다. 기존 AI 기본법의 ‘생성자 표시의무’를 넘어, 게시자 전체를 규율하도록 범위를 확대한 조치다.

유통 과정에서는 신속 차단에 나선다. 식·의약품, 화장품, 의료기기 등 허위광고가 빈번한 분야는 신속 심의 체계가 적용돼 24시간 이내 심의가 가능해진다. 또한 생명·재산 피해 우려가 큰 광고는 정식 심의 완료 전에도 플랫폼에 차단을 요청할 수 있는 긴급 절차가 마련된다. 정부는 이를 통해 기존보다 훨씬 빠른 ‘심의 전 차단–사후 확정’ 방식의 대응이 가능해진다고 설명했다.

사후 제재 역시 크게 강화된다. AI로 생성된 가상의 전문가가 제품을 추천하는 광고에서 ‘가상인간 표시’를 하지 않으면 위법으로 명확히 규정하고 AI 생성 의사·전문가가 식·의약품을 추천하는 행위를 명백한 소비자 기만행위로 판단해 법령을 정비한다. 이와 함께 악의적 허위정보 유통에는 최대 5배까지 배상 책임을 묻는 징벌적 손해배상 제도가 도입되고 표시광고법상 과징금도 대폭 상향된다.

감시·단속도 강화된다. 정부는 최근 온라인 식·의약품 부당광고 적발 건수가 급증한 점을 고려해 식품의약품안전처·소비자원의 인력과 전산 시스템을 보강하고, AI 기반 자동 탐지 기술을 도입해 허위광고를 선제적으로 찾아내는 체계를 구축할 예정이다.

김민석 총리는 “AI 기술이 발전할수록 허위·과장광고는 더 정교해진다”며 “정부는 국민 피해를 막기 위해 제도 정비를 신속히 추진하고 시장 질서를 확립하겠다”고 강조했다.