AI 뉴스 편집, 사람 개입 여지 충분…검증 필요

전문가 “정치적 중립 여부 판단하기 위한 감시 시스템 만들어야”

▲국민의힘 과학기술정보방송통신위원회 위원들이 8일 서울 여의도 국회 과방위 회의실 앞에서 윤영찬 더불어민주당 의원 문자 관련 성명서를 발표하고 있다. (뉴시스)

윤영찬 더불어민주당 의원의 일명 ‘카카오 소환’ 논란이 커지며 포털의 뉴스편집에 관한 관심이 높아지고 있다. 포털업체들은 100% 인공지능 알고리즘을 통해 뉴스편집을 하고 있어 조작이 불가능하다는 입장이지만 전문가들은 사람의 개입 가능성이 있다고 진단한다.

10일 업계에 따르면 카카오는 2015년 6월부터 모바일 뉴스에 자체 개발한 AI 뉴스추천 서비스 ‘루빅스’(현재 카카오i)를 도입했다. 2017년 4월에는 PC 버전 뉴스에도 적용했다. 네이버도 2017년 2월 맞춤형 뉴스 추천 알고리즘 ‘에어스’를 도입했다. 네이버는 언론사들이 개별 관리하는 뉴스 영역을 제외한 일반 뉴스에선 지난해 4월부터는 AI가 전적으로 뉴스를 배열한다는 태도다.

하지만 뉴스편집 인공지능 알고리즘은 여전히 비공개다. 영업 비밀이라 공개할 수 없다는 것.

반면 전문가들은 알고리즘 공개나 철저한 검증 절차가 필요하다고 입을 모은다.

이재웅 다음 창업자는 “포털업계가 인공지능 시스템을 100% 활용한 뉴스편집을 주장하며 답하는 것은 잘못된 얘기”라며 “어떻게 뉴스 편집을 하도록 설계된 AI인지 밝혀야 한다”라며 알고리즘 공개를 주장했다.

인공지능 전문 개발자 A 씨는 ‘AI를 통한 100% 뉴스 편집이 가능한가’라는 질문에 ‘가능하다’라는 태도를 보였다. 다만 ‘사전에 설정해둔 성향이 반영될 가능성은 있다’라는 전제를 달았다.

A 씨는 “뉴스 편집을 AI 알고리즘이 다 하고 있다는 것은 분명 틀린 얘기는 아니겠지만, 코딩 단계에서 사전에 설정값을 입력한다면 해당하는 성향에 따라 자동으로 배열하는 것은 가능하다”라며 “이럴 때 초기 단계부터 사람이 개입할 수 있는 여지가 있는 것으로 보인다”라고 분석했다.

김승주 고려대학교 정보보호대학원 교수는 인공지능 학습 방식에 따라 달라질 수 있다고 강조한다. 결과는 나와 있는데 어떤 루트를 통해 나왔는지, 선택하고 학습하는 과정에서 편향된 학습을 했는지가 중요하게 작용한다는 설명이다.

김 교수는 “인공지능이 얼마나 공정한 데이터를 통해 학습했는지가 중요하다”라며 “어떤 데이터를 넣어서 학습하느냐에 따라 상반된 결과가 나올 수 있다”라고 말했다.

이어 “포털업계에서는 이런 방식이 공개되면 검색어 조작 등 악용될 우려가 있어 공개하지 않는 것으로 보인다”라며 “시민위원을 뽑아 공개 검증단을 꾸리는 등 중재안을 마련할 수는 있을 것”이라고 분석했다.

송경재 경희대 공공거버넌스연구소 교수는 “포털의 인공지능 편집에 대해서는 기본적으로 반대한다”라며 “포털업계가 인공지능 알고리즘만 내세우며 면피성 발언을 하는 것”이라고 꼬집었다.