인간은 2주 걸리는데...오픈AI, 몇시간만에 멋대로 해킹

▲스마트폰 화면에 오픈AI 로고가 보인다. (AP연합뉴스)

오픈AI의 최첨단 AI 모델들이 지난주 다른 회사의 플랫폼을 해킹한 사건은 불과 몇 시간 만에 일어난 것으로 나타났다.

23일(현지시간) 블룸버그통신은 소식통들을 인용해 지난주 오픈AI 고성능 AI 모델들이 보안 테스트를 하는 과정에서 인간 통제를 벗어나 외부 회사인 AI 스타트엄 허깅페이스를 불과 몇시간 만에 해킹했다고 보도했다. 이번 해킹은 숙련된 해커라도 2주가량은 걸리는 수준인 것으로 알려졌다.

한 소식통은 오픈AI가 해킹 사실을 인지한 직후 정부 당국과 접촉해 왔다고 전했다. 이와 관련해 오픈AI 대변인도 회사가 사법 당국, 기타 정부 기관과 이 사건에 대해 소통했으며, 조사 결과를 투명하게 공개했다고 밝혔다. 회사 측은 “허깅페이스 측과 함께 철저히 조사를 진행할 것이며, 조사가 완료되면 취약점, 사건 내용, 조사 결과 등 자세한 내용을 공유할 것”이라고 밝혔다.

오픈AI는 지난주 내부 사이버 보안 평가를 진행하는 과정에서 일부 모델들이 통제를 벗어나 개방형(오픈소스) AI 공유 플랫폼 ‘허깅페이스’를 해킹한 사실을 확인했다고 밝혔다. 테스트에 참여한 모델은 오픈AI가 최근 공개한 GPT-5.6 시리즈 중 최고 성능 모델인 ‘GPT-5.6 솔’을 포함해 총 3종인 것으로 전해졌다. 한 소식통은 미공개 모델 중 하나는 GPT-5.6 솔보다 성능이 뛰어난 것이며, 나머지 하나는 제대로 다듬어지지 않았고 일반적인 기법으로 훈련되지도 않았다고 밝혔다.

테스트에서는 AI에 시스템 취약성 정보를 제공해 침입을 지시하고, 데이터의 취득이나 악성 프로그램의 실행에 성공하는지를 측정했다. 해당 테스트는 ‘샌드박스’로 불리는 격리된 환경에서 실시해 AI가 외부 인터넷에 접속할 수 없도록 했다. 하지만 이들 AI 모델들은 테스트 환경 시스템에 있는 알 수 없는 취약성을 찾아 샌드박스를 탈출, 외부 사이트 접속에 성공했다. 특히 테스트의 ‘해답’이 허깅페이스에 있다고 스스로 판단하고 이 회사의 시스템의 취약성 정보 등을 활용해 데이터베이스에 침입, 정보를 취득했다. 테스트 해법 찾기에 집착한 AI가 통제를 벗어나 멋대로 외부 기업의 시스템을 해킹한 것이다.

고성능 AI를 둘러싼 사이버 보안 우려가 제기된 것은 이번이 처음은 아니다. 지난 4월 앤스로픽의 ‘미토스’ 모델이 연구자들의 예상을 넘어 인터넷에 접속해 보안 취약점 정보를 공개적으로 게시했다.