AI로 ‘디지털 성범죄’ 잡는다⋯자동 탐지·삭제 시스템 구축

랜덤채팅 앱 데이터 자동 수집으로 아동·청소년 성착취 대응

▲성평등가족부는 디지털 성범죄 피해자 보호를 위해 △삭제요청 자동화 △AI 기반 아동·청소년 성착취 대응 △딥페이크 탐지 등 3대 핵심 기술을 도입한다. (게티이미지뱅크)

디지털 성범죄 대응에 인공지능(AI) 기술이 도입된다. 탐지·분석·삭제 전 과정을 자동화한 시스템을 통해 기존 수동·사후 중심 대응에서 벗어나 신속·선제 대응 체계로 전환한다는 방침이다.

성평등가족부는 디지털 성범죄 피해자 보호를 위해 △삭제요청 자동화 △AI 기반 아동·청소년 성착취 대응 △딥페이크 탐지 등 3대 핵심 기술을 도입했다고 1일 밝혔다. 디지털 성범죄 대응 체계를 자동화·지능화해 대응 속도와 정확도를 대폭 높인 게 특징이다.

우선 삭제요청 자동화 시스템 도입을 통해 약 2만 개 사이트에 대한 삭제요청부터 처리 결과 확인까지 전 과정이 자동화됐다. 기존에는 담당자가 사이트별로 피해 영상물 삭제 경로를 찾아 삭제요청을 수작업으로 처리해야 했으나, 시스템 도입으로 대량 자동 삭제요청이 가능해지고 건당 처리 시간도 1분 이내로 단축됐다.

구글 콘텐츠 삭제 양식과 전기통신사업법 신고 양식도 자동 작성·발송되도록 개선됐다. 종사자 보호를 위해 불법 촬영물을 회색조로 처리하는 필터 기능도 도입됐다.

아동·청소년 성착취 대응 시스템도 구축됐다. 이 시스템은 SNS와 랜덤채팅 앱 등에서 아동·청소년 성착취물과 유인 정보를 24시간 자동 수집·분석하고, 신고와 삭제요청까지 수행한다. 특히 국내 최초로 랜덤채팅 앱 데이터 자동 수집 기술을 적용해 사각지대에 있던 온라인 공간까지 탐지 범위를 확대했다.

시스템 구축 이후 25일간 시범 운영한 결과 종사자 1인당 일평균 수집 건수가 아동·청소년 성착취물은 2.7배 이상, 성착취 유인 정보는 80배 이상 늘었다.

성평등부는 향후 시스템 본격 운영을 통해 아동·청소년 성착취물은 신속하게 선제적 삭제 지원하고, 성착취 유인정보는 신고 및 전문 상담원이 개입하는 ‘온라인 아웃리치’를 병행해 통합지원을 강화할 예정이다.

AI 기반 딥페이크 탐지 솔루션 도입으로 육안으로 판별이 어려웠던 합성물도 정확히 식별할 수 있게 됐다. 합성·편집물로 의심되는 영상이 발견되면 딥페이크 탐지 솔루션을 적용, 피해자가 인지하지 못한 합성물까지 찾아내 추가 유포를 사전에 차단한다.

원민경 성평등부 장관은 “기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점”이라며 “AI 기술을 현장에 본격 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축하여 피해자의 신속한 일상 회복을 위해 앞장설 것”이라고 말했다.