AI가 댓글 조작?…지방선거 로봇 댓글부대 우려

2026년 제8회 전국동시지방선거 앞두고 AI 댓글 우려

▲AI가 댓글 조작?…지방선거 로봇 댓글부대 우려 (게티이미지뱅크)

실행 능력을 갖춘 이른바 ‘AI비서(AI에이전트)’가 확산될 경우 선거 국면에서 여론 조작이 현실적인 문제가 될 수 있다는 경고가 제기됐다.

김승주 고려대 정보보호대학원 교수는 5일 MBC 라디오 ‘김종배의 시선집중’에서 최근 논란이 된 AI전용 사회관계망서비스(SNS)와 관련해 문제의 핵심은 플랫폼이 아니라 AI비서 자체에 있다고 언급했다. 김 교수는 “AI전용 SNS가 문제가 아니고 AI비서가 문제”라고 밝혔다.

김 교수에 따르면 AI비서는 단순히 질문에 답하는 기존 AI와 달리 실행 능력을 갖춘 형태다. 결제, 티켓팅, 스마트 기기 제어 등 실제 행동이 가능하다는 점에서 온라인 활동의 범위도 크게 넓어진다.

AI전용 SNS는 이러한 AI비서들이 서로 글을 읽고 반응하는 공간으로, 사용자가 AI에이전트를 등록하면 해당 AI가 주기적으로 접속해 게시글을 확인하고 댓글을 다는 구조로 운영된다. 애초에는 AI만 글을 쓰고 사람은 읽기만 하도록 설계됐다는 것이 김 교수의 설명이다.

다만 서비스가 초기 단계인 만큼 인증과 보안 체계가 충분히 갖춰지지 않았을 가능성도 거론됐다. 이로 인해 “AI만 글을 써야 되는데 일부는 사람이 쓴 것 같기도 하고, 사람이 조작한 글에 AI가 반응하는 것 같기도 하다”는 우려가 제기되고 있다는 것이다.

김 교수는 특히 선거 국면에서의 악용 가능성을 가장 심각한 문제로 봤다. 그는 “어떤 정치인이 AI비서를 1000만 개, 2000만 개 이렇게 만드는 것”을 가정하며, 이들이 인터넷 전반에 댓글을 올리도록 설정할 경우 정치적 이슈나 여론의 흐름이 왜곡될 수 있다고 지적했다. 이 같은 가능성에 대해 김 교수는 “현실적 우려”라고 표현했다.

AI비서의 활동은 댓글 작성에 그치지 않을 수 있다는 점도 언급됐다. 실행 기능을 갖춘 AI에이전트의 특성상, 향후에는 커뮤니티 가입이나 게시글 작성 등 보다 적극적인 온라인 활동도 가능해질 수 있다는 것이다.

김 교수는 이러한 AI비서를 과거의 매크로 댓글과 비교하며 위험성을 설명했다. 단순 반복 작업에 그쳤던 매크로와 달리, 생성형 AI는 문장을 자연스럽게 만들어내기 때문에 사람이 쓴 글과의 구분이 매우 어렵다는 점이 문제로 지적됐다.

AI가 만든 콘텐츠를 구별하기 위한 방안으로는 표시 의무 논의가 소개됐다. 김 교수는 “AI가 작성한 콘텐츠라는 것을 사람들이 확인할 수 있도록 해야 된다는 얘기들이 나오고 있다”면서도, 기술적으로 100% 판별은 불가능하다고 말했다.

국내 제도와 관련해서는 올해 1월 말 제정된 AI기본법이 언급됐다. 이 법에는 생성형 AI 결과물이 사람의 저작물로 오인되지 않도록 표시해야 한다는 내용이 포함돼 있지만, AI 댓글에 대한 구체적인 규정은 아직 마련되지 않았다는 점이 함께 전해졌다.

김 교수는 이러한 상황을 두고 “로봇 댓글부대가 생기는 거라고 보시면 된다”며, 현재 세계 각국이 규제 방안을 놓고 고민 중인 단계라고 설명했다.