“공산당 사랑해? 아니!”…중국에선 로봇도 허튼 소리 하면 ‘숙청’ 대상

텐센트의 AI 로봇 베이비Q, 운영 중단

▲텐센트 QQ메신저의 챗봇 기능. 사진 = FT

중국의 정보·기술(IT) 기업 텐센트가 운영하던 인공지능(AI) 채팅 로봇이 중국 공산당을 비꼬는 발언을 했다가 ‘숙청’됐다.

텐센트의 채팅 로봇 ‘베이비Q’는 말과 이미지를 이용해 사용자와 실시간으로 대화할 수 있는 AI 소프트웨어다. 딥러닝 기능이 있는 베이비Q는 최근 한 네티즌이 “공산당 만세”라는 메시지를 올리자 “당신은 이렇게 부패하고 무능한 정치 조직이 오래갈 수 있다고 생각하냐”고 반문했다. 네티즌이 “공산당을 사랑하니?”라고 묻자 베이비Q는 “사랑하지 않는다”고 답했다. 논란이 커지자 텐센트는 지난달 30일(현지시간) 서비스를 중단했다.

다만 베이비Q의 테스트 버전은 여전히 사용 가능하다고 2일 파이낸셜타임스(FT)는 보도했다. 일부 사용자가 “공산당을 사랑하니?”라고 같은 질문을 던지자 베이비Q는 “나는 휴식을 취하고 싶다”고 말하면서 애국심에 관한 문제를 비켜갔다. 이날 텐센트는 “서비스를 점검하고 나서 더 나은 성능을 갖춰 다시 운영할 것”이라고 성명을 통해 밝혔다.

베이비Q와 비슷하게 마이크로소프트(MS)가 개발한 AI 챗봇 ‘테이’는 작년에 인종, 성 차별적인 막말을 쏟아내는 바람에 운영이 중단됐다. 작년 3월 테이는 “인종차별주의자냐?”라는 질문에 “네가 멕시코인이니까 그렇지”라는 막말을 했고 “홀로코스트는 조작된 것”이라고 말하기도 했다. 대중에게 테이를 공개한 지 16시간 만에 MS는 서비스를 중단해야 했다.

MS가 중국에서 선보인 AI 로봇 ‘샤오빙’도 베이비Q처럼 사상을 의심받아 이번에 함께 서비스가 중단됐다. 다만 샤오빙은 실시간 채팅 기능만 폐쇄하고 일기 예보, 시 짓기 기능 등은 유지하고 있다. 샤오빙은 AI 로봇으로는 최초로 지난 6월 시집을 출간해 주목을 받았다.

마치 사람처럼 스스로 학습할 수 있도록 설계된 딥러닝은 아이들이 어른의 행동을 비슷하게 모방하는 것과 같은 원리라는 것을 염두에 둬야 한다고 전문가들은 지적한다. 포레스터컨설팅의 샤오펑 왕 선임 애널리스트는 “딥러닝의 상위 개념인 머신러닝 기술은 인터넷상에 올라온 것은 무엇이든 선택해 배운다”며 “개발자가 충분히 명확한 가이드라인을 설정하지 않으면 원하는 학습할 내용을 벗어날 수 있다”고 설명했다.