[데스크 시각] 앤스로픽 목에 방울 달기

배준호 국제경제부장

생성형 인공지능(AI) 기업 앤스로픽은 원래 ‘안전을 위한 반란’에서 출발한 회사였다. 오픈AI가 지나치게 상업화되고 안전성을 경시하는 것에 반발한 다리오 아모데이 등 핵심 인력들이 ‘보다 안전하고 통제 가능한 AI’를 만들겠다며 세운 회사가 앤스로픽이다. 실제로 앤스로픽은 그동안 AI 헌법, 위험성 평가, 자율 규제 등을 강조하며 업계 내 대표적인 ‘AI 안전론자’ 이미지를 얻었다.

그러나 역설적으로 지금 전 세계를 가장 긴장시키는 존재는 바로 앤스로픽이다. 최신 AI 모델 ‘미토스(Mythos)’의 파괴력 때문이다.

최근 외신 보도를 보면 미토스는 기존 AI와 차원이 다른 수준의 사이버 공격 능력을 지닌 것으로 평가된다. 이 모델은 인터넷 브라우저와 운영체제, 금융·산업 시스템에서 수만 건의 취약점을 발견한 것으로 전해졌다. 영국 경제 주간지 이코노미스트는 미토스가 27년간 발견되지 않았던 취약점을 포함해 모든 주요 운영체제(OS)와 웹 브라우저에서 결함을 발굴했다고 보도했다. 앤스로픽조차 “패치가 완료되지 않은 취약점은 공개하지 않겠다”고 밝힐 정도다.

제이미 다이먼 JP모건체이스 최고경영자(CEO)는 “은행뿐 아니라 모든 핵심 인프라가 걸린 문제”라고 경고했다. 병원·전력망·공항·금융망까지 AI 기반 초정밀 해킹 위험에 노출될 수 있다는 뜻이다.

미토스 쇼크에 규제를 풀고 ‘자유로운 AI 개발’을 강조하던 도널드 트럼프 미국 행정부도 정책 방향을 최근 급격히 바꿨다. 백악관은 고위험 AI 모델을 공개하기 전에 정부 검증을 받게 하는 ‘AI 사전심사제’를 검토 중인 것으로 전해졌다. 오픈AI보다 안전한 AI 기업을 자처했던 회사가 결과적으로 미국 정부를 다시 규제로 돌아서게 만든 셈이다.

왜 이런 일이 벌어졌을까. 핵심은 AI 경쟁 구조 자체가 변했기 때문이다. 과거 생성형 AI 경쟁은 ‘텍스트를 얼마나 잘 생성하느냐’에 머물렀다. 그러나 이제는 ‘누가 현실 세계 시스템을 더 깊게 이해하고 조작할 수 있느냐’의 경쟁으로 바뀌고 있다. 미토스는 단순 챗봇이 아니라 실질적인 공격·탐지·자동화 능력을 갖춘 ‘행동형 AI’에 가까운 존재다.

아모데이 앤스로픽 CEO도 이 딜레마를 인정했다. 그는 2월 한 팟캐스트 인터뷰에서 “경제적으로 살아남아야 하는 압박과 우리의 가치를 지켜야 하는 부담이 동시에 존재한다”면서 “우리가 혁신을 멈추면 그냥 지는 것이고 회사 존재 자체가 사라진다”고 토로했다. 성능 경쟁이 극단으로 치달을수록 안전보다 능력이 우선될 가능성이 커진다.

더 큰 문제는 지정학적 이슈다. 아모데이 CEO는 최근 “중국 AI 기업이 6~12개월이면 미토스를 따라잡을 것”이라고 말했다. 미국 정부 입장에서는 규제를 강화하고 싶어도 중국과의 경쟁 때문에 완전히 속도를 늦출 수 없다.

그렇다면 해법은 무엇일까. 전문가들은 공통으로 ‘완전 금지’보다는 ‘사전 검증 체계’ 구축이 현실적이라고 본다. 현재 미국 정부가 논의하는 사전 안전성 평가, 정부·기업 공동 스트레스 테스트, 핵심 인프라용 AI 인증 체계 등이 대표적이다. 아모데이 역시 “자동차에 브레이크가 있는지 없는지 확인 없이 자동차 회사를 시작할 수는 없다”며 “산업이 신속하게 움직이되 가장 심각한 위험에는 가드레일을 두는 과정이 필요하다”고 강조했다. 지금 세계는 앤스로픽이라는 이름의 고양이 목에 과연 방울을 달 수 있을지 시험대에 올라 있다.