美 정부, 앤스로픽 AI 모델 ‘미토스’·‘페이블5’ 외국인 접속 차단 지시

안전장치 우회 가능성 제기되며 접속 차단 결정
아마존 제보 후 규제 발동…“탈옥에 취약”
美 정부, 오픈AI 등 다른 기업 AI 모델엔 적용 계획 없어

▲키보드 위에 앤스로픽 로고가 보인다. (로이터연합뉴스)

미국 정부가 앤스로픽의 최상위 AI 모델인 ‘미토스’와 ‘페이블5’의 외국 국적자 접속을 금지했다. 다만 앤스로픽의 AI 모델에 내린 제한 조치를 오픈AI를 비롯한 타 업체의 AI 모델에는 적용하지 않을 방침이다.

13일(현지시간) 블룸버그통신, 월스트리트저널(WSJ) 등에 따르면 앤스로픽 측은 미국 정부가 국가 안보 관련 지침에 근거해 모든 외국 국적자의 ‘미토스’ 및 ‘페이블5’ 모델 사용을 전면 중단하는 수출 통제 지침을 발표했다고 밝혔다. 미국 정부의 지침에 따라 외국인 국적자들은 미국 내에서도 해당 모델의 접속이 금지됐으며, 앤스로픽 내 외국인 직원들 역시 대상에 포함됐다.

데이비드 색스 백악관 대통령과학기술자문위원회 공동위원장은 “신뢰할 수 있는 파트너로부터 (앤스로픽 AI 모델의) 안전장치를 우회하는 방법을 찾아냈다는 소식을 들었다”며 “우회 방법을 막을 수 있도록 수정하거나 모델 배포 중단을 요구했지만, 앤스로픽 측은 이를 거절했다”고 말했다.

현재 앤스로픽은 해당 규정을 위반하는 행위가 발생하는 것을 원천 차단하기 위해 일단 한시적으로 페이블5와 미토스 모델의 서비스를 중단했다. 추후 내국인을 대상으로는 서비스를 재개할 것으로 보이며 정부와의 논의를 거쳐 서비스 복구에도 속도를 낼 것으로 보인다. 앤스로픽 측은 “이번 일은 오해로 인해 벌어진 것으로 추정하고 있다”면서 “최대한 빨리 서비스를 복구할 수 있도록 노력 중에 있다”고 강조했다.

미국 정부가 앤스로픽의 최상위 AI 모델에 대한 접속 제한을 결정한 것은 앤스로픽 투자사 중 하나인 아마존 측의 제보가 원인이 된 것으로 보인다. WSJ에 따르면 앤디 재시 아마존 최고경영자(CEO)는 자사 연구원들이 페이블5 모델의 안전장치를 우회하는 방식으로 사이버 공격에 활용 가능하다는 점을 확인했고, 이를 미국 정부 관계자에게 알린 것이 이번 차단 결정에 주요 요인이 됐다.

제보를 받은 후 미국 정부 내 보안 인력들이 아마존의 주장을 검증하는 절차를 거쳤으며, 그 결과 앤스로픽 AI 모델을 활용한 사이버 공격을 방지할 가장 확실한 해결책은 모델에 대한 접근을 제한하는 것이란 결론이 도출됐다는 것이다.

WSJ는 현재 미국 행정부 및 국방부가 앤스로픽과 소송으로 갈등을 빚고 있는 상황 역시 정부의 이번 결정에 영향을 줬을 것으로 분석했다. 케이트 코런 전략국제문제연구소(CSIS) 경제연구실 부실장은 “안보상 우려가 있다는 점은 의심의 여지가 없다”면서도 “그럼에도 국방부와 갈등을 빚고 있는 앤스로픽에 대한 백악관의 반감이 이번 결정에 영향을 미쳤을 가능성이 상당하다”고 짚었다.

앤스로픽 측은 AI 모델 안전장치 우회 방식인 이른바 ‘탈옥’ 문제에 대한 우려는 인정하면서도 “우리는 탈옥 기법이 소수의 사소한 취약점을 식별하는 데 사용되는 것을 검토했지만, 매우 단순한 사례에 불과하다”고 주장했다. 일부 탈옥 사례가 있는 것은 인정하지만, 그것이 대대적인 사이버 안보 위협으로 이어질 것이란 정부의 우려는 과도하다는 의미로 풀이된다.

한편 미국 정부는 현재 오픈AI 등 타 업체의 AI 모델에는 미토스나 페이블5과 같은 차단 지침을 적용하지는 않겠다는 입장을 밝혔다.