온라인 자살유발정보 AI가 24시간 감시⋯유통 차단 강화

12일부터 개정 자살예방법 시행⋯플랫폼에 차단ㆍ결과 제출 의무
복지부, AI 모니터링 시스템 11월 가동⋯위험 게시물 우선 선별
정부ㆍ플랫폼ㆍ경찰 협력 강화⋯긴급 정보는 구조ㆍ수사 연계

▲'온라인 자살유발정보 대응강화 포럼' 포스터. (사진제공=보건복지부)

온라인에서 유통되는 자살유발정보를 AI가 24시간 감시하고 위험성이 높은 게시물을 우선 선별하는 체계가 가동된다. 정보통신서비스 사업자에게 자살유발정보 차단 조치와 결과 제출 의무를 부과하는 법 개정도 시행돼 온라인상 자살유발정보 대응이 강화된다.

보건복지부는 11일 서울 보코서울강남호텔에서 ‘온라인 자살유발정보 대응강화 포럼’을 열고, 개정 자살예방 및 생명존중문화 조성을 위한 법률(자살예방법)의 주요 내용과 온라인 자살유발정보 차단을 위한 민관 협력 방안을 논의했다고 밝혔다.

12일부터 시행되는 개정 자살예방법은 정보통신서비스 제공자에게 자살유발정보 유통 방지 조치와 그 결과를 제출할 의무를 새롭게 부과했다. 복지부 장관의 자살유발정보 모니터링 업무도 법률에 명시해 수행 범위와 권한을 구체화했다.

복지부 장관은 명백한 자살유발정보에 대해 정보통신서비스 제공자에게 필요한 조치를 요청할 수 있다. 긴급한 대응이 필요한 경우에는 긴급구조기관장에게 수사와 구조 등 필요한 협조를 요청할 수 있다.

AI를 활용한 감시 체계도 도입한다. 복지부는 과학기술정보통신부의 공공AX 프로젝트를 통해 개발한 24시간 자살유발정보 모니터링 AI 시스템을 구축하고 11월 중 가동할 계획이다.

AI 시스템은 온라인에 올라오는 방대한 정보 가운데 자살유발정보를 찾아내고 위험성이 높은 게시물을 우선 선별한다. 모니터링 담당자는 AI가 선별한 게시물을 신속하게 확인하고, 필요한 경우 구조 신고 등 후속 조치를 진행한다.

복지부는 이날 포럼에서 정부와 정보통신서비스 사업자, 관계기관 간 협력 방안도 논의했다. 유현재 서강대 신문방송학과 교수는 ‘자살유발정보 방지의 필요성과 한계, 나아갈 방향’을 주제로 발표했다.

이어 백종우 한국자살예방협회 회장(대통령 직속 국민생명안전위원회 부위원장)이 좌장을 맡아 분야별 전문가와 관계기관 간 토론을 진행했다. 인터넷 자율정책기구와 한국인터넷기업협회는 정보통신서비스 사업자의 자살유발정보 모니터링 과정에서 발생하는 어려움과 향후 법 개정 과제를 제시했다.

중앙디지털성범죄피해자지원센터는 온라인 불법정보 관리 경험을 공유하고, 경찰청은 자살유발정보 수사 현황과 기관 간 협력 방안을 설명했다. 복지부는 제6차 자살예방기본계획에 따른 자살유발요인 관리 방향과 온라인 자살유발정보 관리의 중요성을 강조했다.

이형훈 복지부 제2차관은 “자살유발정보를 생산하고 유통하는 행위는 소중한 생명을 위협하는 명백한 범죄”라며 “자살유발정보 대응은 일부 불법행위자를 적발하고 처벌하는 차원을 넘어 정부와 정보통신서비스 제공자, 우리 사회 전체가 함께 책임져야 할 과제”라고 말했다.

이어 “법 개정과 AI 기반 모니터링 체계 구축을 계기로 민관 역량을 결집해 자살유발정보로부터 국민의 생명을 보호하고 온라인 공간에도 생명존중문화가 확산하도록 노력하겠다”고 밝혔다.