미토스, 한 달만에 취약점 1만 개 찾아…'패치 병목' 우려

▲앤스로픽 로고가 보인다. (로이터연합뉴스)

앤스로픽의 차세대 인공지능(AI) 모델 클로드 미토스가 한 달 만에 전 세계 핵심 소프트웨어(SW)에서 1만개가 넘는 심각한 보안 취약점을 찾아냈다. AI가 취약점 탐지 시간을 크게 줄이면서 보안의 병목이 탐지에서 검증·패치·운영으로 옮겨가고 있다는 분석이 나온다.

27일 AI 업계에 따르면 앤스로픽은 최근 자사 연구 블로그에 ‘프로젝트 글라스윙’ 초기 성과를 공개했다. 앤스로픽은 50여개 파트너와 ‘클로드 미토스 프리뷰’를 활용해 주요 SW를 점검한 결과 고위험·치명적 수준의 취약점 1만건 이상을 발견했다고 밝혔다.

프로젝트 글라스윙은 앤스로픽이 주도해 제한된 기업·기관에 클로드 미토스 접근권을 부여하는 AI 기반 사이버 보안 협력 이니셔티브다. 구글·애플·마이크로소프트(MS)·아마존웹서비스(AWS)·엔비디아·팔로알토 네트웍스 등 글로벌 빅테크가 참여하고 있다.

보고서에 따르면 클라우드플레어가 핵심 시스템에서 찾은 버그 2000건 중 고위험·치명적 수준은 400건이었다. 웹 브라우저 운영사 모질라도 미토스 프리뷰를 활용해 파이어폭스 150에서 취약점 271건을 찾아 패치했다.

글라스윙에 참여한 파트너사 다수는 미토스 프리뷰를 도입한 이후 버그 탐지 속도가 기존 대비 10배 이상 빨라졌다고 전했다. 앤스로픽은 보고서에서 “과거 소프트웨어 보안의 진전은 새로운 취약점을 얼마나 빨리 찾느냐에 달려 있었지만 이제는 AI가 찾아낸 대량의 취약점을 얼마나 빨리 검증·공개·패치하느냐에 달려 있다”고 지적했다.

문제는 AI가 찾아낸 취약점을 실제 서비스에 반영하기 어려운 환경에 있다. 패치 적용은 단순한 기술 문제가 아니다. 서버 중단, 서비스 장애, 호환성 문제 등을 고려해야 하기 때문에 대규모 이용자를 보유한 금융·통신·플랫폼 기업일수록 패치를 즉시 적용하기 어렵다.

그동안 기업이 패치와 업데이트를 미뤘던 이유도 서비스 중단에 대한 부담 때문이다. 롯데카드는 2017년 공개된 취약점 패치를 적용하지 못해 297만명 회원의 개인정보가 유출됐다.

한 보안업계 관계자는 “패치를 만드는 건 AI도 잘하지만 적용은 사람이 결정한다”며 “방어자의 시간을 공격자만큼 줄이려면 패러다임의 전환과 법·제도 정비가 필요하다”고 말했다.

업계에선 앤스로픽의 프로젝트 글라스윙이나 오픈AI의 ‘사이버 보안을 위한 신뢰 기반 접근(TAC)’ 참여를 통한 정보 공유가 끝이 아니라는 지적도 나온다. 최근 화이트해커 기업인 티오리는 최근 ‘당신은 미토스가 필요하지 않다’라는 보고서에서 공개된 AI로도 미토스가 탐지한 주요 취약점을 모두 파악할 수 있다고 밝혔다.

과학기술정보통신부는 26일 오픈AI와의 간담회에서 오픈 AI가 운영 중인 정부‧기관용 신뢰기반 접근 프로그램(GTAC)에 참여하기로 합의했다. 한국의 GTAC 참여는 일본과 함께 아시아 첫 사례다. GTAC 프로그램에 참여하면서 한국은 오픈 AI의 최신 고성능 AI 모델에 대한 접근권한을 획득하게 됐다.

박세준 티오리 대표는 “AI 모델 접근권에만 의존할 게 아니라 보안 취약점을 알고 난 이후 필요한 다음 프로세스를 만들어야 한다”며 “큰 기업은 패치를 바로 적용하기 어렵기 때문에 공격 시도를 네트워크 단위에서 모니터링하는 등의 방식이 필요하다”고 설명했다.

박 대표는 앤스로픽의 프로젝트 글래스윙의 한국형 버전인 ‘캐노피 프로젝트’ 얼라이언스를 준비하고 있다. 클로드 미토스가 제한된 기업·기관에만 공개되는 것과 달리 캐노피 프로젝트는 개방형 협력 구조를 지향한다. 6월 초 출범 멤버들과 함께 프로젝트를 시작한 뒤 참여를 원하는 기업을 추가로 받을 예정이다.

전문가들은 AI 보안 경쟁의 핵심이 모델 성능을 넘어 운영 체계로 옮겨가고 있다고 본다. 황석진 동국대 국제정보보호대학원 교수는 “보안 시스템에 AI를 접목해 방어 기술을 높이고 제로트러스트 기반으로 공격 표면을 줄여야 한다”며 “특히 기업에선 내부 구성원이 별도 보안·관리 체계 없이 AI를 업무에 활용하는 ‘쉐도우 AI’ 관리가 더욱 중요해질 것”이라고 말했다.