24시간 쉬지 않는 AI 감시망⋯디지털성범죄 대응 현장 가보니

중앙디성센터, 불법촬영물 삭제지원 시스템 공개
AI 도입 6개월 만에 성착취물 9만6210건 삭제지원
삭제 불응 여전⋯2027년 탐지 플랫폼 139개로 확대

▲중앙디지털성범죄피해자지원센터 삭제기술팀 사무실 모습. (사진제공=성평등가족부)

“사람이 24시간 지킬 수 없었던 온라인 공간을 이제는 시스템이 쉬지 않고 지키고 있습니다.”

10일 서울 중구 한국여성인권진흥원에서 공개된 인공지능(AI) 기반 탐지 시스템은 온라인에 유포되는 성착취 의심 게시물을 실시간으로 감시하고 있었다. 사람의 눈과 손에 의존하던 디지털성범죄 대응 현장에 24시간 가동되는 AI 감시망이 구축된 것이다.

성평등가족부와 한국여성인권진흥원은 이날 중앙디지털성범죄피해자지원센터의 디지털성범죄 피해 지원 현장을 공개했다.

시연에서는 AI가 온라인에 유포되는 성착취 의심 게시물을 찾아내고 신고하는 과정이 소개됐다. 시스템은 실무자들이 축적한 220여 개의 성착취 관련 키워드를 바탕으로 온라인 게시물을 자동으로 수집했다. 사람이 일일이 검색하지 않아도 AI가 24시간 의심 게시물을 찾아내는 방식이다.

수집된 게시물은 AI의 분석을 거친다. 단순히 특정 단어가 포함됐는지만 확인하는 것이 아니라 게시물의 문구와 이미지를 함께 살펴 성착취물일 가능성을 판단한다. 담당자의 화면에는 게시물별 의심 확률과 AI가 해당 게시물을 선별한 이유가 함께 표시됐다. 담당자는 AI가 추려낸 게시물과 판단 근거를 검토한 뒤 최종 신고 여부를 결정한다.

▲박성혜 중앙디지털성범죄피해자지원센터 삭제기술팀장이 삭제 지원 시스템을 소개하고 있다. (사진제공=성평등가족부)

신고 절차도 한층 간소화됐다. 플랫폼마다 신고 방식이 다르지만 시스템이 해당 플랫폼에 맞춰 필요한 자료를 자동으로 정리한다. 담당자가 최종 확인을 마치면 신고 절차가 진행된다. 현재 구글과 엑스(X·옛 트위터), 블루스카이, 텔레그램, 채팅 애플리케이션 등 14개 플랫폼을 대상으로 운영되고 있다.

AI 도입 이후 삭제지원 업무 처리량은 크게 늘었다. 담당자 1인당 하루 평균 아동·청소년 성착취물 삭제지원 처리량은 지난해 20.8건에서 올해 4~9월 202.1건으로 약 9.7배 증가했다.

같은 기간 아동·청소년 성착취물에 대한 선제적 삭제지원 처리 건수는 9만6210건으로 집계됐다. 지난해 연간 처리 건수인 4만5438건의 두 배를 넘어선 규모다. 피해자가 직접 신고하지 않더라도 온라인에서 성착취 의심 콘텐츠를 찾아 삭제를 요청하는 선제적 대응이 확대된 결과다.

피해자가 신고한 불법촬영물의 재유포 여부를 확인하는 과정에도 자동화 기술이 적용됐다. 이날 공개된 삭제지원 시스템은 영상의 고유한 특징을 추출하는 ‘DNA 검색’ 기술을 활용한다. 원본 영상의 색상을 반전하거나 자막을 삽입하고 재생 속도를 바꾸더라도 동일한 피해 촬영물인지 확인할 수 있다.

박성혜 중앙디성센터 삭제기술팀장은 “DNA 검색이 삭제 지원 시스템의 핵심 기술”이라며 “반전이나 편집, 광고 등이 들어가더라도 영상의 고유한 특징을 찾아낼 수 있다”고 설명했다.

센터는 성인사이트 310곳에서 수집한 영상·사진을 피해 촬영물과 24시간 자동으로 대조하고 있다. 유포 주소(URL)가 확인되면 해당 플랫폼의 신고 양식에 맞춰 삭제요청 자료를 자동으로 작성·발송한다. 올해 6개월간 자동으로 처리한 URL 삭제요청 및 결과 확인 건수는 5만8309건이다.

▲박광수 한국여성인권진흥원장이 10일 서울 중구 한국여성인권진흥원에서 열린 중앙디지털성범죄피해자지원센터 프레스투어에서 발언하고 있다. (사진제공=성평등가족부)

다만 해외 불법사이트의 삭제 불응과 반복 유포는 여전히 과제로 남아 있다. 중앙디성센터가 서버 위치를 확인한 불법유해사이트의 95.5%는 해외 서버를 이용하고 있었으며, 지난해 삭제요청 불응률도 28.5%에 달했다. 일부 사이트는 도메인을 수시로 변경하거나 광고 수익을 통해 운영을 이어가고 있어 삭제요청만으로는 대응에 한계가 있다는 설명이다.

정부는 올해 5월 출범한 디지털성범죄 피해 통합지원단을 중심으로 불법사이트의 운영 기반과 수익 구조를 차단하는 방안을 추진하고 있다. 내년까지 AI 탐지 대상 플랫폼을 139개로 확대하고 온라인 그루밍 탐지 기술과 피해 청소년 지원용 AI 챗봇도 개발할 계획이다.

박광수 한국여성인권진흥원장은 “AI 시스템 도입 이후 삭제지원 처리 건수가 약 10배 가까이 늘어난 것은 기술 고도화가 피해자 지원의 속도와 범위를 동시에 바꿔놓을 수 있다는 것을 보여준 사례”라며 “AI 기술의 판별 정확도와 탐지 범위를 고도화하고 중앙센터의 노하우가 지역 디성센터까지 원활히 전달될 수 있도록 지원하겠다”고 말했다.