올트먼 등 AI 거물들, AI 생물학 무기 규제 촉구

합성 핵산 이용 고객 검증하는 법안 요구 서한
앤스로픽, 구글딥마인드 등 CEO도 동참

▲샘 올트먼 오픈AI 최고경영자(CEO)가 3일(현지시간) 버니 샌더스 상원의원과 만난 뒤 취재진과 대화하고 있다. (워싱턴D.C./AFP연합뉴스)

샘 올트먼 오픈AI 최고경영자(CEO)를 비롯한 미국 AI 거물들이 AI로 만든 생물학 무기를 규제해달라고 정부에 요청했다.

3일(현지시간) 월스트리트저널(WSJ)에 따르면 올트먼 CEO와 다리오 아모데이 앤스로픽 CEO, 데미스 허사비스 구글 딥마인드 CEO 등은 특정 백신과 합성 DNAㆍRNA 주문 시 안전장치를 의무화하는 법안을 마련해달라고 의회에 촉구하는 서한에 서명했다.

이들의 요구 핵심은 합성 핵산을 판매하는 기업들이 고객 주문을 평가해 위험을 차단하고 주문 고객이 실제로 합법적 이용자인지 확인하는 데 있다. 이 같은 우려는 오래전부터 바이오 업계에서 제기돼 왔지만, AI가 활성화하면서 최근 우려가 더 커졌다. 합성 핵산이 백신 등을 개발하는데 필수적이지만, 범죄자들이 AI를 통해 합성 핵산으로 새로운 병원체를 퍼뜨릴 수도 있기 때문이다.

서한은 “AI 시스템은 빠르게 발전하고 있다”며 “이는 과학과 의학에 놀라운 혜택을 주는 동시에 과거 악의적 행위자들이 생물학 무기를 획득하지 못하게 막아왔던 지식 장벽이 실질적으로 약해질 가능성이 있다”고 지적했다.

이와 별개로 올트먼 CEO는 백악관 관계자와 의원들을 만나 AI 모델 개발자에 대한 더 강력한 규제안을 논의했다. 최근 오픈AI는 연방정부와 협력해 생물학적 위험을 예방하는 새 프로그램을 발표하기도 했다.

이번 서한과 관련해 업계 의견은 둘로 갈린다. 지지자들은 모든 합성 핵산 구매자에게 검증이 실시되도록 법안이 마련돼야 한다고 주장하지만, 반대자들은 어떤 핵산 조합이 위험한 것인지 판단하는 기준이 주관적일 수 있으며 규제 준수 비용이 스타트업에 부담이 될 수 있다고 지적한다.

이에 대해 과거 도널드 트럼프 대통령의 AI 고문을 맡았고 이번에 서한 작성에 참여한 딘 볼 미국혁신재단(FAI) 선임연구원은 “생명체와 바이러스를 만들어내는 물질을 합성하고 있다면 그게 어떤 방식으로든 위험해지는 것인지 검사하라고 요구하는 것”이라며 “생물학 무기의 위험을 고려하면 그 비용은 감수할 만하다”고 말했다.