서울시, AI로 아동·청소년 성착취물 90초 만에 삭제…“정확도 300%↑”

입력 2024-05-22 11:15

  • 가장작게

  • 작게

  • 기본

  • 크게

  • 가장크게

AI 안면인식 통해 성별·나이 예측
2시간→90초로 검출 속도 단축
기존보다 2배 이상 영상 삭제 기대

▲서울시가 개발한 AI 감시 기술. (자료제공=서울시)
▲서울시가 개발한 AI 감시 기술. (자료제공=서울시)

서울시가 디지털 성범죄 예방과 피해자 지원을 위해 지난해 3월 전국 최초로 AI(인공지능) 기술을 도입한 데 이어, 아동·청소년 성착취물을 특정할 수 있는 AI 감시 기술을 전국 최초로 개발해 24시간 자동 추적‧감시에 나선다.

22일 서울시에 따르면 시는 아동‧청소년들은 디지털 성범죄 피해를 입더라도 부모님에게 말하지 못해 신고가 이뤄지지 않아 피해 영상물이나 사진이 유포‧재유포 되는 경우가 많아 이번 기술 개발에 나섰다.

아동‧청소년의 경우 관련 법에 따라 당사자나 부모의 신고 없이도 피해 영상물 삭제가 가능한 만큼, AI를 통해 아동‧청소년 성착취물을 빠르게 찾아내고 삭제해 피해에 신속 대응한다는 계획이다.

이번에 개발한 ‘아동‧청소년 디지털 성범죄 AI 감시 시스템’은 AI 딥러닝 기반 안면인식 기술로 성인과 잘 구분되지 않는 아동‧청소년의 성별과 나이를 판별할 수 있는 시스템이다.

특히 주목할 만한 점은 영상물에 ‘얼굴’이 나오지 않더라도 아동‧청소년 피해 영상물 여부를 찾아낼 수 있다는 점이다. AI가 피해 영상물에 자주 등장하는 책, 교복, 인형 등 주변 사물은 물론, 이미지 속 텍스트, 청소년들이 주로 사용하는 언어까지 함께 인식해서 최종적으로 피해 영상물 여부를 판별하게 된다.

또한 키워드 입력부터 영상물 검출까지 90초밖에 걸리지 않기 때문에 기존에 삭제지원관이 피해 영상물을 검색해서 수작업으로 찾아낼 때 2시간이 걸린 것과 비교하면 검출 속도가 크게 개선됐다.

정확도도 300% 이상 향상돼 지난해 수작업으로 이뤄진 모니터링 건수(15만 건)의 2배인 30만 건까지 모니터링이 가능해질 것으로 기대된다.

시는 기존 미국을 중심으로 유포됐던 피해 영상물이 최근 중국, 러시아, 베트남 등으로 확산되는 점에 착안해 국가 기반을 넓혀 검색 영역을 확장했다. 이에 AI를 통해 국내와 미국뿐 아니라 중국, 러시아 등의 국가에 유포된 피해 영상물 검색도 가능해진다.

‘서울 디지털 성범죄 안심지원센터’ 개관 2주년 맞아

▲서울시가 개발한 AI 감시 기술. (자료제공=서울시)
▲서울시가 개발한 AI 감시 기술. (자료제공=서울시)

시는 ‘서울 디지털 성범죄 안심지원센터’를 통해 긴급상담부터 수사‧법률지원, 삭제지원, 심리치료‧의료 지원까지 원스톱 지원하고 있다. 지난 2년간 935명의 피해자를 지원했으며, 총 지원 건수는 3만576건에 이른다.

시가 지원한 피해자의 연령대는 10~20대가 가장 높은 비율을 차지하고 있으며, 성별로는 여성이 85.78%를 차지했다.

특히 센터 개관 이후 아동, 청소년을 대상으로 한 디지털 성범죄 피해 지원이 더욱 증가하고 있다. 아동, 청소년을 대상으로 한 디지털 성범죄 피해지원은 2022년 총 2026건에서 현재 1만5434건으로 7배 이상 증가했다.

디지털 성범죄 피해를 입은 아동‧청소년, 시민 등은 센터 상담전용 직통번호 ‘815-0382(영상빨리)’나 홈페이지(www.8150382.or.kr)로 문의하면 된다.

김선순 서울시 여성가족정책실장은 “우리 사회를 충격에 빠트린 n번방 사건 이후 4년이 흘렀지만 여전히 아동‧청소년을 대상으로 한 디지털 성범죄는 사라지지 않고 있고 그 피해도 심각하다”며 “서울시는 작년 전국 최초로 AI 삭제지원 기술을 도입한 데 이어서, 아동‧청소년 성착취 영상을 특정할 수 있는 기술을 통해 선제적인 감시‧삭제에 나서 아동‧청소년이 안전한 서울을 만들어나가겠다”고 말했다.

  • 좋아요0
  • 화나요0
  • 슬퍼요0
  • 추가취재 원해요0

주요 뉴스

  • 또 '검은 금요일'…코스피 5.2% 폭락, 9개월만에 4800선 주저앉았다
  • 13년 만에 통한 ‘어른 여자’…베스티가 소환한 그 시절 K팝
  • '얼죽코'도, '패딩파'도 주목!⋯올겨울 아우터가 달라졌다 [솔드아웃]
  • 2월엔 '자산 늘리기', 10월엔 '돈 지키기'…8개월 만에 바뀐 재테크 1순위 [데이터클립]
  • 테슬라 FSD 국내 도입 제동…국토부 “안전성 검증 자료 부족”
  • 李대통령 “국가시험, 전면 개편… 수능 부정행위 일벌백계”
  • “제2의 메세나폴리스 될까”⋯서대문역 품은 ‘경희궁 에피트’ [집스포]
  • 與, ‘조희대 탄핵 추진’ 당론 채택…“연내 발의”
  • 오늘의 상승종목

  • 11.20 장종료

실시간 암호화폐 시세

  • 종목
  • 현재가(원)
  • 변동률
    • 비트코인
    • 79,839,000
    • -4.76%
    • 이더리움
    • 2,254,000
    • -5.01%
    • 비트코인 캐시
    • 261,900
    • -4.35%
    • 리플
    • 1,231
    • -5.67%
    • 솔라나
    • 93,650
    • -4.49%
    • 에이다
    • 191
    • -5.45%
    • 트론
    • 418
    • -0.48%
    • 스텔라루멘
    • 171
    • -5.52%
    • 비트코인에스브이
    • 18,760
    • -4.87%
    • 체인링크
    • 11,550
    • -3.83%
    • 샌드박스
    • 44.61
    • -6.81%
* 24시간 변동률 기준

Web3 레이더

  • 주목 펀딩
    • 1 Variational Series A $50M
    • 2 Venice Series A $65M
    • 3 Kalshi $1B
    • 4 World OTC $52.5M
  • 인기 프로젝트
    • 1 LayerAI Infra 인기지수 302
    • 2 Evaa Protocol 인기지수 296
    • 3 Null 인기지수 255
    • 4 Robinhood CeFi 인기지수 253
  • 토큰 언락 임박
    • HumidiFi 유통량 113% D-18
    • DAOBase 유통량 43% D-27
    • FLock 유통량 41% D-9
    • RateX 유통량 37% D-28
Source from