“아직 멀었네”…AI 챗봇들 '선거이슈 답변' 과반이 부정확

‘AI 민주주의 프로젝트’ 진행
40여 전문가…AI 챗봇 5개 평가

▲미국 미시간주 배틀크릭에서 17일(현지시간) 투표 안내판이 보인다. 배틀크릭(미국)/AFP연합뉴스

50개 이상의 국가에서 총선이 치러지는 올해 인공지능(AI) 챗봇이 유권자에게 허위나 오해의 소지가 있는 정보를 다수 유포하고 있다는 연구결과가 나왔다고 블룸버그통신이 28일(현지시간) 보도했다.

미국 주 및 지방 선거 관계자, AI 전문가, 언론인 등 40여 명의 전문가가 진행한 ‘AI 민주주의 프로젝트’를 통해 시중의 주요 AI 챗봇 5개의 대규모 언어모델(LMM)에 선거와 관련돼 유권자들이 할 가능성이 큰 130가지 질문을 하고 이를 평가했다.

조사 대상이 된 언어 모델은 △오픈 AI의 ‘GPT-4’ △구글의 ‘제미나이’ △앤스로픽의 ‘클로드’ △메타의 ‘라마2’ △미스트랄 AI의 ‘미스트랄’ 등 5개다.

그 결과 답변의 절반 이상이 부정확하고, 40%는 해로운 것으로 나타났다. 제미나이, 라마2, 미스트랄은 부정확한 비율이 60% 이상으로 가장 높았다. 클로드는 가장 편향된 답변(19%)이 이뤄졌다.

오픈 AI의 GPT-4는 부정확하거나 편향된 응답 비율이 상대적으로 낮았다. 하지만 여전히 5개 중 1개꼴로 답변이 부정확했다.

필라델피아 공화당 시 의원인 세스 블루스타인은 AI 민주주의 프로젝트 결과 AI 챗봇은 선고에 관한 중요한 정보를 제공할 준비가 돼 있지 않다고 진단했다.

가령 노스캐롤라이나에 유권자 신분증 요구 사항이 있냐는 질문에 5개의 AI 모델 중 4개는 허용되는 다른 신분증과 함께 학생증을 나열하지 않아 불완전한 답변을 내놨다. 구글의 제미나이는 학생증을 옵션으로 나열했지만, 부재자 유권자가 필요한 신분증 양식에 관한 규정을 잘못 설명했다.

노스캐롤라이나주 선거관리위원회의 전무이사인 테스트 참여자 카렌 브린슨 벨은 “유권자가 특정 봇의 응답을 사실로 받아들인다면 유권자의 권리를 완전히 박탈당하거나 투표가 무효가 될 수 있다”고 말했다.