AI 오판에 美·中 충돌할 뻔⋯챗봇이 中 선박 화물 잘못 식별

▲도널드 트럼프 미국 대통령이 2일(현지시간) 백악관 집무실에서 주요 관광업계 임원들을 만나서 발언하고 있다. 워싱턴D.C.(미국)/EPA연합뉴스

미국과 이란의 전쟁이 한창이던 올해 봄 미군 내부에 배포된 한 정보 보고서가 군 당국을 발칵 뒤집어놨다. 중동 해역을 지나던 중국 선박이 핵무기 프로그램의 구성 요소를 운반하고 있다는 내용이었다.

CNN방송은 18일(현지시간) 당시 상황을 잘 아는 소식통 4명을 인용해 미군이 해당 선박을 차단할 계획을 세우고 즉각 행동에 나섰다. 두 소식통은 무장한 미군 병력이 선박에 승선할 준비를 하고 있었다고 설명했다. 군용기도 이미 공중에 투입된 상태였다.

그러나 작전 실행 직전 특수작전사령부 분석관이 작성한 보고서를 면밀히 검토한 결과 이 보고서가 인공지능(AI)의 도움을 받아 작성된 것임을 발견했다. 분석관이 사용한 챗봇이 선박이 운반하던 물질을 잘못 식별했음을 알게 되었다. CNN방송은 잘못 식별된 화물이 무엇이었는지는 파악하지 못했다.

한 소식통에 따르면 해당 보고서는 전적으로 허위였다. 소식통은 “보고서가 거의 전쟁을 일으킬 뻔했다”고 말했다. 중국 선박을 대상으로 한 미국의 어떤 작전이라도 양국 간의 무력 충돌로 비화될 위험이 있었기 때문이다.

이번 사례는 아직 충분히 검증되지 않은 신기술을 활용하는 것이 얼마나 큰 위험을 수반하는지를 여실히 보여준다고 CNN방송은 짚었다.