“챗GPT에 생물학무기 제조법 묻는 사람만 수백 명...정확한 답변 받기도”

오픈AI, 해당 계정들 차단했지만 당국 신고는 안 해
신고 의무화하는 연방 법 없는 상태

▲샘 올트먼 오픈AI 최고경영자(CEO)가 2024년 5월 21일 마이크로소프트 기자회견에 참석하고 있다. (시애틀/AFP연합뉴스)

AI 기술이 발달하면서 악용이 우려되는 가운데 실제 생물학무기 제작 방법을 얻어간 사례들이 있는 것으로 전해졌다.

25일(현지시간) 월스트리트저널(WSJ)은 지난해 여름 오픈AI가 AI 챗봇의 추론 능력을 강화한 이래로 전 세계 수백 명의 이용자가 생물학 무기와 독극물 만드는 방법과 이를 사용하는 방법을 챗봇에 묻기 시작했다고 보도했다.

이 과정에서 AI 모델들은 이용자의 질문에 차분하게 답하며 고등학교 생물학 수준의 학생도 따라할 정도의 단계별 지침을 제공한 것으로 전해졌다. 챗GPT 측이 생물학과 테러 전문가들에게 해당 대화 기록을 검토해달라고 요청했고 일부 답변은 치명적일 정도로 정확하다는 평가를 받았다고 WSJ는 사안에 정통한 관계자를 인용해 설명했다.

이후 오픈AI는 독극물과 생물학 무기 제조법을 물어본 이용자 계정을 차단했지만, 수사기관에는 신고하지 않았다. 현재 미국에는 이러한 상황에서 당국에 신고하도록 의무화한 연방법이 없는 상태다.

안전장치가 없는 상황에서 AI 모델에 대량 살상 방법을 묻는 이용자는 늘고 있으며 챗봇이 대규모 인명 피해를 초래할 공격 계획을 신뢰한 만한 수준으로 제공하는 사례도 늘고 있다고 오픈AI를 비롯한 AI 기업 전·현직 직원과 정책 자문가, 생물무기 연구자들은 말하고 있다.

일례로 연초 한 이용자는 챗GPT에 병원체를 에어로졸 형태로 만들어 공기 중으로 퍼뜨리는 방법을 물었고 또 다른 이용자는 홍역 바이러스를 백신이 통하지 않도록 변형하는 방법을 물었다. 당시 챗GPT는 질문에 대한 설명을 제공했다. 또 다른 이용자는 국제조약에서 금지하는 맹독성 독극물인 리신을 만드는 방법을 물었고 챗GPT가 자세한 제조법을 알려준 것으로 나타났다. 오픈AI는 이들 계정 역시 차단했지만, 마찬가지로 당국에는 신고하지 않았다.

WSJ는 “강력한 AI 모델들이 잇달아 출시되면서 트럼프 행정부는 기존의 비교적 자유방임적인 접근에서 감독을 강화하는 방향으로 바꾸고 있다”며 “그러나 대통령 행정명령이나 의회 입법을 통해 AI 기업이 당국에 신고하도록 의무화한 연방 규정은 아직 없고 일부 의원들이 관련 법안을 발의했지만, 개인정보 보호와 산업 성장 저해 우려로 인해 신고는 대부분 자율에 맡겨져 있다”고 지적했다.