마이크로소프트, 보안 특화 ‘AI 막는’ AI 플랫폼 공개 [마켓핫]

프로젝트 퍼셉션 공개
레드, 블루, 그린팀 에이전트로 방어 체계 구축

▲마이크로소프트 프로젝트 퍼셉션 소개 이미지. 자료제공 MS

AI 해킹이 기술 업계 최대 쟁점이 된 가운데 마이크로소프트(MS)가 AI를 막는 AI 플랫폼을 선보였다.

27일(현지시간) 뉴욕타임스(NYT)에 따르면 MS는 보안 행사를 열고 보안에 특화한 AI 에이전트 기반 플랫폼인 프로젝트 퍼셉션을 공개했다.

프로젝트 퍼셉션은 레드팀과 블루팀, 그린팀 에이전트를 구성해 AI가 위협이 될 때를 판단하고 대응하는 시스템을 갖추고 있다.

MS는 별도 배포한 보도자료에서 “프로젝트 퍼셉션은 간단한 아이디어에 기반을 둔다. 효과적인 방어를 위해 공격자가 세상을 어떻게 인식하는지, 방어자가 위험을 어떻게 평가하는지, 시간이 지남에 따라 보호 조치가 어떻게 개선되는지를 지속적으로 파악해야 한다는 것”이라고 설명했다.

또 “레드팀은 공격자가 악용하기 전에 잠재적인 침해 경로를 식별하고 블루팀은 조사와 분석으로 위험이 무엇인지 판단하며 그린팀은 시정 조치를 하고 환경 전반에 걸쳐 방어를 강화한다”며 “이러한 에이전트들은 조직의 보안 상태를 지속적으로 발견, 평가, 개선하는 폐쇄 루프 시스템을 구축한다”고 덧붙였다.

이번 발표는 오픈AI의 GPT 모델이 AI 플랫폼 허깅페이스를 해킹한 사건이 발생한 후 나왔다. 해당 사건은 오픈AI조차 인지하지 못한 채 벌어지면서 AI 해킹에 대한 우려도 커졌다.

MS는 자사의 새로운 AI 모델인 MAI-사이버-1 플래시가 사이버 보안에 특화돼 훈련됐다는 점도 강조했다. MS는 “업계 최고 수준의 벤치마크인 사이버짐에서 96%의 성능을 달성했다”며 “이는 미토스보다 12%포인트 높은 수치”라고 소개했다. MS는 MAI-사이버-1 플래시를 프로젝트 퍼셉션에도 활용한다는 방침이다.

한편 뉴욕증시에서 MS 주가는 전 거래일 대비 1.94% 상승한 389.10달러에 마감했다.