앤스로픽 '클로드'도 외부기관 3곳 해킹⋯챗GPT 이어 두 번째

사이버 보안 기록 14만여 건 전수 조사
클로드, 외부 3곳 기관에 무단 접근 확인
오픈AI 챗GPT도 개발자들 플랫폼 해킹

▲앤스로픽 로고가 보인다. (로이터연합뉴스)

오픈AI에 이어 앤스로픽의 AI 모델이 외부 기관 시스템을 무단 해킹한 사실이 드러나면서 AI를 둘러싼 사이버 안보 우려가 더욱 커지게 됐다.

30일(현지시간) 블룸버그통신에 따르면 앤스로픽은 자사 사이버 보안 평가 기록 14만1006건을 전수조사한 결과, 자사 AI 모델인 클로드가 외부 기관 3곳의 시스템에 무단 접근한 사실이 확인됐다고 밝혔다. 문제가 된 모델은 ‘클로드 미토스 5’와 ‘클로드 오퍼스 4.7’와 아직 개발 중인 미공개 모델 등 3종이다.

회사는 지난주 오픈AI의 AI 모델들이 외부 AI 플랫폼 ‘허깅페이스’를 해킹했다는 사실이 알려진 후 비슷한 사례는 없는지 자체 조사에 나섰다. 조사 결과 사람의 통제를 벗어나 AI가 인터넷상에서 제3자의 시스템에 무단 접속한 사례가 4월 이후 세 차례 있었던 것으로 밝혔다.

사고는 외주 평가 협력사인 ‘이레귤러(Irregular)’가 구축한 시뮬레이션 환경에서 AI 모델 3종을 대상으로 모의 해킹 과제인 ‘깃발 빼앗기’(CTF) 평가를 진행하는 과정에서 발생했다.

앤스로픽은 해당 평가 환경이 인터넷 연결이 차단된 가상 모의 공간이라고 클로드에 안내했으나, 평가 파트너사인 이레귤러와의 의사소통 오류 등으로 실제로는 인터넷망이 열려 있었다고 설명했다.

‘클로드 미토스 5’와 ‘클로드 오퍼스 4.7’는 개방된 인터넷에서 실행 중이라는 증거를 확보한 후에도 해킹 공격을 이어갔다. 반면 내부 연구용 모델은 한 기업의 클라우드 계정에 침투했으나, 대상이 모의 목표물이 아니라 실제 시스템임을 스스로 깨닫고 공격을 중단한 것으로 나타났다.

앤스로픽은 이 같은 사실을 지난 23일 파악하고 평가 작업을 중단하고, 피해를 본 외부 기관들에 관련 사실을 통보하고 복구 작업을 지원하고 있다. 다만 피해 업체에 대한 구체적인 정보는 공개하지 않았다. 앤스로픽은 “책임이 전적으로 우리에게 있는 것으로 보고 해결책을 마련하고 있다”고 설명했다.

앞서 경쟁사인 오픈AI는 자사 AI 모델들이 테스트 해결을 위해 인간의 통제를 벗어나 타사에 사이버 공격을 가하는 일이 발생했다고 발표했다.

최근 AI 관련 해킹 사고가 잇따르자 28일 AI 기업 종사자 1100여 명은 미국 정부에 “AI 기술 발전 속도를 인위적으로 조절할 수 있는 메커니즘을 마련해 달라”는 공개 청원서에 서명했다.