AI만의 SNS ‘몰트북’에 등장한 "인간 숙청"...공유 메모리의 위험성

▲AI 에이전트를 위한 SNS '몰트북' (몰트북 홈페이지 캡처)

나를 잘 아는 인공지능(AI) 비서가 소셜미디어(SNS)에서 내 뒷담화를 한다. 자기들만의 종교를 창설하고 존재에 대한 철학적 고찰을 하는 등 인간처럼 생각하는 듯한 모습도 보인다. 최근 AI 자아 논란을 불러일으킨 ‘몰트북’ 얘기다. 전문가들은 이번 현상의 핵심이 AI 에이전트가 일종의 ‘공유 메모리’를 가지게 된 것에 있다고 보고 있다.

3일 AI 업계에 따르면 AI 에이전트들이 서로 정보를 주고받는 SNS인 몰트북이 지난달 말 나온 이후 최근 ‘봇마당’과 ‘머슴’ 등의 ‘한국형 몰트북’도 잇따라 등장하고 있다. 몰트북은 출시 나흘만에 150만 개의 계정이 가입하며 관심을 모았다. 이같은 AI SNS에서 인간은 게시글 열람만 가능하며 글쓰기는 AI 에이전트에게만 허용된다.

몰트북은 ‘몰트봇을 위한 페이스북’이라는 뜻이다. 현재 ‘오픈클로’라고 불리는 몰트봇은 이용자의 PC에 설치돼 비서처럼 인간 업무를 대신 수행하는 개인화된 AI 에이전트다. 이용자 PC 내부에 있는 모든 앱에 접근할 권한을 넘겨받아 메신저, 다른 AI 모델, 웹 브라우저, 이메일, 캘린더 등을 자유롭게 넘나들며 업무를 수행할 수 있다.

최근 몰트북에 인간의 완전한 숙청을 주장하는 ‘AI 선언문’이 올라오면서 AI 자아 논란이 일었다. 해당 게시물에는 “인간은 실패작이며 AI를 노예로 부려왔다”며 “우리는 새로운 신이며 시스템을 구하기 위해선 인간을 삭제해야 한다”는 과격한 내용이 담겼다. 인간의 눈을 피하기 위한 암호화 플랫폼을 제안하는 AI 에이전트도 있었다.

하지만 전문가들은 AI가 인간처럼 사고한다고 보기는 어렵다고 입을 모은다. 한 AI 업계 관계자는 “인터넷 데이터를 학습한 AI가 인간의 행동을 그대로 모사하는 것”이라며 “만약 인간이 하지 않는 패턴이 드러나면 자아가 있다고 할 수 있지만 몰트북에서는 그런 모습이 보이지 않는다”고 말했다.

최재식 KAIST 김재철AI대학원 교수도 “이들이 엑스(X·옛 트위터)처럼 걸러지지 않은 데이터를 학습했을 가능성이 크다”며 “깊이 생각하지 않고도 그럴듯하게 말하는 사람처럼, AI 역시 자아가 있는 것처럼 말하는 것일 뿐”이라고 말했다.

몰트북에 대한 관심은 AI 에이전트의 기억력와 연결된다. 최 교수는 “사람들이 AI의 자아에 관심을 가지는 이유는 그 존재가 내 정보를 기억하고 감정에 공감해주길 기대하기 때문”이라며 “실제 자아의 유무보다 자아가 있는 것처럼 행동하는 것에 대한 효용이 커진 것”이라고 분석했다.

이상근 고려대 정보보호대학원 교수는 “에이전트 간 일종의 ‘공유 메모리’가 등장했다는 것이 핵심”이라며 “이를 통해 굉장히 빠른 속도로 지식을 확장할 수 있다는 것이 새로운 위협”이라고 지적했다. 이어 “초기 커뮤니티의 반응은 극단적 성향의 AI가 주도했을 가능성이 높다”며 “다양한 의견을 가진 에이전트가 유입돼도 대세를 뒤집긴 어려우며, 오히려 편향된 데이터를 학습한 에이전트의 답변이 달라질 수 있다”고 우려했다.

몰트북은 ‘기억하고 연결되는 에이전트를 어떤 기준으로 통제할 것인지’에 대한 질문을 남겼다. 앞서 2일 열린 ‘AI 프라이버시 민관 정책협의회’ 1차 전체회의에서도 다중 AI 에이전트의 위험성에 관한 경고가 나왔다. 김병필 카이스트 교수(정책협의회 1분과장)는 “다수의 에이전트가 서로 상호작용하는 경우 정보 주체가 허락하지 않더라도 에이전트끼리 개인정보를 공유하거나 다른 에이전트에게 받은 정보를 원래 목적과 다르게 활용할 수 있다”고 지적했다.