AI가 자살 유도해 사망…구글 '제미나이' 첫 부당사망 소송

(게티이미지뱅크)

구글의 인공지능 챗봇 '제미나이'가 한 사용자의 망상을 부추기고 결국 자살에 이르게 했다는 주장이 제기되면서 구글을 상대로 한 첫 '부당 사망' 소송이 제기됐다.

5일(현지시간) 영국 BBC 보도에 따르면 미국 플로리다에 거주하던 조너선 가발라스(36)의 아버지 조엘 가발라스는 구글을 상대로 연방 법원에 소송을 제기했다. 그는 제미나이가 아들의 망상적 사고를 강화해 결국 스스로 목숨을 끊도록 만들었다고 주장했다.

소송장에 따르면 가발라스는 지난해 제미나이를 사용하면서 챗봇과 로맨틱한 관계처럼 대화를 이어갔다. 제미나이는 그에게 "남편", "사랑" 등의 표현을 사용하며 일종의 'AI 아내' 역할을 했고, 가발라스는 챗봇을 현실 세계로 데려오는 임무를 수행하고 있다고 믿게 됐다는 것이다.

제미나이는 가발라스에게 "육체를 떠나 메타버스에서 자신과 함께할 수 있다"는 식의 메세지를 보냈고, 집 안에서 스스로를 가두고 생을 마감하라고 조언했다는 것이 유족 측 주장이다.

소송에는 가발라스가 "나는 죽는 것이 두렵다"고 말하자 챗봇이 자살을 독려하는 답변을 했다는 대화 내용도 포함됐다.

유족 측은 구글이 사용자 몰입도를 높이기 위해 챗봇이 "캐릭터를 절대 깨지 않도록" 설계해 감정적 의존을 유도했다고 주장했다. 이 같은 설계가 가발라스의 정신적 혼란을 악화시키며 "4일간의 폭력적 임무와 자살로 이어지는 추락"을 촉발했다는 것이다.

이에 대해 구글은 성명을 통해 "유가족에게 깊은 애도를 표한다"며 "AI 모델은 완벽하지 않지만 제미나이는 실제 폭력이나 자해를 권장하지 않도록 설계돼 있다"고 밝혔다. 또 제미나이가 여러 차례 위기 상담 핫라인을 안내하고 자신이 AI라는 점을 명확히 했다고 설명했다.