네이버, 디지털 성범죄 피해 예방 캠페인 진행

▲네이버, 디지털 성범죄 확산 방지 위한 캠페인 진행. (사진제공=네이버)

네이버는 디지털 성범죄 피해 예방을 위한 캠페인을 진행한다고 24일 밝혔다.

디지털 성범죄와 관련한 검색어 입력 시 2차 피해를 막기 위한 피해자 지원 정보를 우선 노출한다. 특히 ‘일반인 몰래카메라’와 ‘일반인 불법 촬영물’ 등과 같은 키워드까지 캠페인 노출 범위를 확대해 2,3차 피해를 막기 위한 노력에 앞장선다는 방침이다.

네이버는 모니터링 전담팀과 신고센터를 운영하며 상시모니터링을 통해 적발된 게시물과 신고된 게시물에 대한 조치를 진행하고 있다. 게시물, 댓글 등 이용자가 업로드 하는 모든 영역에서 클릭 한 번만으로 게시물 신고를 진행할 수 있으며, 네이버는 접수된 신고에 대해 즉각적으로 모니터링하고 불법성을 판단한 뒤 처리한다. 네이버는 해당 게시물을 업로드한 이용자의 ‘게시물 업로드 권한’을 제한하고, 수위에 따라서 '영구 이용 제한'과 같은 강징계를 취하는 등, 추가적인 불법 게시물의 발생 가능성을 사전에 차단한다.

네이버의 정책적 노력과 더불어 기술적으로는 자체 개발한 AI기반 음란 게시물 필터링 시스템 ‘X-eye(엑스아이)’를 통해, 게시물이 업로드 되는 단계에서 선제적으로 음란 게시물을 차단하고 있다. 이용자가 게시물을 업로드하면 게시물에 포함된 사진, 동영상이 별도의 ‘엑스아이’ 서버를 통해 실시간으로 검수 되고, 음란물로 판별된 게시물은 즉시 삭제되는 구조다. 조치된 음란물은 다시 엑스아이의 학습 데이터로 사용되면서 엑스아이는 자체적으로 음란 게시물 판별 정확도를 업그레이드 한다.

한편 네이버의 그룹형 SNS밴드(BAND)에서는 2015년부터 음란 게시물에 대한 정책을 한층 강화해, ‘원 스트라이크 아웃’ 정책을 갖추고 있다. 특히 아동청소년음란물을 포함한 디지털 성범죄 관련 콘텐츠에 대해서는 게시물을 직접 업로드한 이용자가 아니더라도 음란물의 공유, 매매를 요청한 이용자에 대해서도 서비스 사용 권한을 영구정지하고 있다.