구글 AI 요약 정보, 건강 정보 부정확…환자 위험 초래 우려 ↑

▲(EPA/연합뉴스)

구글의 인공지능(AI) 요약 기능이 부정확한 건강 정보를 제공해 이용자에게 위험을 초래할 수 있다는 지적이 나왔다.

2일 영국 일간 가디언에 따르면, 구글은 검색 질문에 관한 내용을 간략히 제공하는 'AI 오버뷰' 기능에 관한 신뢰성을 강조해왔지만, 이 정보가 의료적으로 잘못된 내용을 포함한 사례가 다수 확인됐다.

가령 AI 오버뷰는 췌장암 환자에게 고지방 식단을 피하라고 안내했지만, 이는 전문가 권고와 반대되는 내용이었다. 환자의 체중 감소와 치료 실패 위험을 높일 수 있다는 것이다.

간 혈액 검사 정보를 검색했을 때도 문제가 드러났다. AI 요약이 질환 여부나 개인별 차이에 따른 해석은 거의 제공하지 않았다. 이로 인해 간 질환 환자가 자신의 상태를 정상으로 오인해 추가 진료를 받지 않을 가능성이 있다는 우려가 제기됐다.

이에 대해 구글 측은 AI 오버뷰가 대체로 사실에 기반을 둔 정보를 제공하고 있으며 품질 개선을 지속하고 있다고 밝혔다.