美 백악관 긴장시킨 ‘클로드 미토스’…앤스로픽 AI, 안보 변수로 부상

“스스로 공격 가능…너무 강력한 AI”
“취약점 찾고 공격코드 자체 생성”
美, 주요 기관 관계자 긴급 소집
정부 핵심인프라 보안 강화 논의

▲그래픽=손미경 기자 sssmk@

‘성능이 너무 강력해서 위험하다’는 이유로 제한적으로 공개된 앤스로픽의 최첨단 인공지능(AI) 모델 ‘클로드 미토스’가 사이버 안보 변수로 부상했다. 보안 취약점 탐지를 넘어 자체 공격 가능성까지 드러나면서 미 백악관이 대응에 나서는 등 파장이 커지고 있다.

12일 AI 업계에 따르면 미 백악관은 미토스가 촉발한 AI의 잠재적 위협에 발 빠르게 대응하고 있다. 월스트리트저널은 11일(현지시간) 션 케언크로스 미 국가사이버국장이 트럼프 행정부 산하 주요 기관 관계자들을 소집해 국가 핵심 인프라의 보안 결함을 파악하고 AI 기반 공격에 취약할 수 있는 정부 시스템을 강화 중이라고 전했다. 앞서 백악관은 JD 밴스 부통령과 스콧 베센트 재무장관, 제롬 파월 연방준비제도 의장, 주요 테크 및 금융업계 경영진을 소집해 잠재적인 사이버 공격에 대한 대응 방안을 논의한 것으로 알려졌다.

앤스로픽은 아마존, 애플, 마이크로소프트, 엔비디아, AWS 등 12개 파트너사와 40개 기관과 ‘프로젝트 클래스윙’을 출범하고 이들에게만 미토스를 제한적으로 공개한다. 미토스 프리뷰를 통해 보안 시스템 및 오픈소스 소프트웨어의 코드 취약점을 방어하고 그 결과를 산업 전반에 공유하기로 했다.

미토스 프리뷰는 최근 몇 주간 수천 건의 제로데이를 발견했다. 제로데이는 소프트웨어나 시스템의 보안 취약점 중에서 개발사나 보안 업계가 아직 인지하지 못했거나 패치가 나오지 않은 부분을 말한다. 오픈소스 운영체제인 오픈BSD에서 27년 된 버그를 찾아냈고 자동화 테스트 도구가 500만회 이상 검사를 수행하고도 놓친 16년간 존재했던 영상 소프트웨어 취약점도 탐지했다.

문제는 미토스가 개별 취약점을 찾는 수준을 넘어 여러 취약점을 연결해 공격 코드를 자율적으로 만들어낼 수 있다는 것이다. 미토스는 샌드박스(가상의 격리 공간)를 스스로 탈출하고 연구자에게 이메일을 보내는 등의 행동을 하기도 했다. 인간의 통제를 벗어난 AI가 새로운 위협으로 급부상한 것이다.

앤스로픽은 최근 공개한 ‘클로드 미토스 프리뷰’ 시스템 카드에서 “최소한의 인간 개입만으로 에이전트 환경을 사용해 오픈소스 및 폐쇄형 소프트웨어 모두에서 제로데이를 자율적으로 찾아낼 수 있다”며 “어떤 버그가 가장 악용 가능한지 식별하고 네 개의 서로 다른 버그를 연결해 공격 코드를 개발했다”고 밝혔다.

특히 보안 분야에서는 AI가 탐지하고 AI가 방어하는 ‘AI 대 AI’ 구도가 본격화할 가능성이 크다. AI가 취약점을 탐지하는 속도가 이를 보완하는 패치 속도를 앞지를 경우 기존의 보안 체계가 흔들릴 수 있다는 우려도 제기된다. 이에 프론티어 AI 인검증을 넘어 ‘인허가’를 추진해야 한다는 제안도 나온다.

김명주 AI안전연구소장은 “악용될 수 있는 잠재적 위험을 상당히 제거하고 위험을 통제할 수 있는 기반이 마련됐을 때 AI 기술을 공개해야 한다”며 “국제적으로 AI의 성능에 비례해 안정성 평가를 고도화하고 안전에 위협이 되면 사용을 제한해야 한다는 논의가 이뤄지고 있다”고 밝혔다.

AI가 생산성 혁신 도구를 넘어 안보 변수로 부상하면서 ‘소버린 AI’의 중요성도 커지고 있다. 최병호 고려대 휴먼인스파이어드 AI연구원 연구교수는 “미토스의 벤치마크(성능 지표) 점수를 보면 지식 관련해선 그대로인데 다단계 추론 능력이 급상승했다”며 “사이버전에 활용될 때 상대국의 금융·전력 시스템을 빠르게 교란할 수 있어 ‘국가 안보’ 문제와 직결된다”고 말했다.