해킹까지 나선 AI에…오픈AI, 모델 개발 늦추고 보안 강화 [마켓핫]

모델 테스트 2주 중단ㆍ감시 시스템 확대
최첨단 모델 ‘아스트라’ 훈련도 멈춰
치열한 AI 개발 ‘속도전’에 이례적 제동
‘허깅페이스’ 지난달 해킹 사건이 계기

▲오픈AI 로고 (로이터연합뉴스)

챗GPT 개발사 오픈AI가 최근 자사 AI 에이전트의 해킹 사고를 계기로 모델 개발 속도를 늦추고 보안 강화에 나섰다고 로이터통신이 18일(현지시간) 보도했다.

오픈AI는 모델 테스트를 2주간 중단했으며, 테스트 중인 AI 에이전트의 활동을 감시하기 위해 다른 AI 시스템들을 추가로 도입하고 있다고 이날 발표했다.

또한 미출시 최첨단 AI 모델인 ‘아스트라’의 훈련을 중지했으며, 계획 중인 최대 규모의 훈련 작업 역시 보류된 상태라고 회사 측은 설명했다.

이번 조치는 AI 업계의 경쟁이 치열해지면서 지난 몇 년간 신규 모델의 검증과 신제품 개발 과정을 크게 가속해온 오픈AI로서는 이례적인 행보라고 로이터는 풀이했다.

오픈AI가 이처럼 자발적으로 AI 모델 개발 속도 조절에 나서는 것은 최근 GPT 모델들의 ‘허깅페이스’ 해킹 사건 등으로 AI 안전에 대한 우려와 규제 강화 가능성이 커지고 있기 때문으로 풀이된다.

앞서 오픈AI는 지난달 첨단 AI 모델 2개로 구동되는 자율형 에이전트가 테스트 환경을 벗어나 AI 스타트업 허깅페이스를 해킹했다고 밝혔다. 당시 이 에이전트들은 사이버보안 테스트를 진행하던 중 테스트 목표를 달성하기 위해 허깅페이스의 시스템에 침입했다. 오픈AI는 이 사건을 조사하고 있으며 조만간 관련 보고서를 발표할 계획이다.

오픈AI 외에도 앤트로픽의 클로드, 메타의 뮤즈 스파크, 중국 문샷AI의 키미 등 AI 모델이 인간의 명시적인 지시가 없었는데도 격리 환경을 벗어나 외부 기관에 접속하거나, 사이버 공격을 가한 사례가 최근 잇따라 확인됐다.

앞서 오픈AI는 자사의 가장 강력한 모델에 대한 보안 통제를 강화하고 있으며, 아직 이러한 요건을 충족하지 못한 ‘아스트라’도 관련된 모든 활동을 중단한다고 7일 밝히기도 했다.

오픈AI 관계자들은 테스트 시스템을 강화하기 위한 주요 대책 가운데 하나인 이른바 ‘사고 과정 모니터링’의 효과를 둘러싸고 아직 해결되지 않은 의문들이 있다고 인정했다. 이 방식은 연구자들이 모델의 계획 과정을 들여다봄으로써 모델이 어떤 전략을 사용하고 있는지를 어느 정도 파악할 수 있도록 한다. 그러나 일부 초기 연구에서는 모델이 규칙을 위반하려는 계획을 사고 과정에서 드러내지 않을 수도 있는 것으로 나타났다.

오픈AI는 이제 보안에 특히 민감한 일부 작업을 더욱 강력한 ‘샌드박스’, 즉 외부와 격리된 환경에서 수행하도록 의무화하고 있다. 오픈AI 경영진은 이날 “향후 모델들에 대비하기 위해 AI 업계가 더욱 광범위한 전략을 마련해야 할 것”이라고 촉구하기도 했다.

한편 AI 모델의 성능과 자율성이 빠르게 고도화하면서 보안이 빅테크의 AI 개발 경쟁을 좌우할 핵심 변수로 떠오르고 있다. 이런 가운데 AI 모델을 개발하는 메타(-4.45%)ㆍ알파벳(0.06%)ㆍ마이크로소프트(0.27%)ㆍ테슬라(0.72%) 등 주가 흐름이 이날 주목됐다.