지난 1년간 딥페이크 성범죄 피해자 1807명 지원⋯AI 기반 대응체계 본격 추진

인공지능(AI) 통해 피해 촬영물 삭제요청 등 자동화 방침

▲ 딥페이크 성범죄 피해자 성별 및 연령별 현황. (단위: 명) (자료 제공 = 한국여성인권진흥원)

여성가족부 산하 한국여성인권진흥원은 28일 지난 1년간 중앙디지털성범죄피해자지원센터를 통해 합성·편집(딥페이크) 성범죄 피해자 1807명을 지원했다고 밝혔다.

이날 진흥원이 발표한 자료에 따르면, 딥페이크 성범죄가 사회적 현안으로 대두된 지난 1년간 중앙디성센터에 딥페이크 피해로 도움을 요청한 피해자는 총 1807명에 달했다.

이는 '딥페이크 성범죄 전담팀' 설치 이전(2023년 8월 ~ 2024년 7월, 793명) 대비 약 128% 증가한 수치이다. 특히 상담·연계·삭제 등 지원 서비스를 제공한 건수는 총 1만8523건으로 약 3.1배 증가했다.

성별로는 전체 피해자 중 여성이 97.1%(1754명), 남성은 2.9%(53명)를 각각 차지했다. 연령대별로는 중‧고등학교와 대학가 딥페이크가 기승을 부렸던 만큼 10대 이하가 46.4%(839명)로 가장 많았다. 그다음으로 20대가 45.9%(829명)를 차지했다.

앞서 중앙디성센터는 경찰청, 교육부, 국방부 등 관계부처를 대상으로 피해대응 요령 및 지원 절차를 담은 안내서를 제작해 상반기 내 배포를 완료했다. 안내서에는 피해자 발견 시 신속히 디성센터로 연계될 수 있도록 협력을 요청하고, 특히 학교 및 군대에서 보다 적극적으로 피해자를 보호할 수 있도록 하는 내용이 담겼다.

현재 중앙디성센터는 딥페이크 등 디지털 성범죄 대응력 강화를 위해 '삭제지원 통합대응 솔루션'의 연내 구축을 목표로 주요 과제를 집중적으로 추진하고 있다.

기존 수작업(육안 모니터링 및 삭제요청) 중심의 삭제지원 절차를 자동화하는 것인데, 삭제지원시스템의 기능을 대폭 개선한다. AI 시스템을 통해 24시간 365일 실시간 감시부터 피해 촬영물 삭제요청까지 전 과정을 자동화함으로써 신속하고 체계적인 피해자 보호가 가능해질 전망이다.

신보라 원장은 "지난 1년간의 피해지원 사례를 분석한 결과, 특히 폐쇄형 소셜미디어가 범죄 도구로 활용되면서 피해가 대량화되고 장기화되는 특성이 확인됐다"라며 "피해자 중심의 지원체계를 강화하고, 기술 고도화를 포함한 포괄적인 대응 역량을 지속적으로 확대해 나가겠다"라고 강조했다.