엔비디아, ‘오픈 시큐어 AI 얼라이언스’ 출범…네이버·SKT 참여

▲젠슨 황 엔비디아 최고경영자(CEO)가 8일 서울대학교 해동첨단공학관에서 열린 '빌드어클로(Build-a-Claw)' 행사장을 찾아 학생들에게 강연하고 있다. 신태현 기자 holjjak@

엔비디아가 세계 주요 빅테크, 사이버 보안 기업, 연구기관들과 손잡고 AI 안전과 사이버 보안을 강화하기 위한 ‘오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)’를 출범했다. 엔비디아는 AI 기술을 전략 자산으로 관리하려는 폐쇄적 흐름 속에서 엔비디아는 AI 보안이 개방형 생태계를 중심으로 발전해야 한다고 강조했다.

엔비디아는 27일 협의체 창립 회원사들과 함께 책임 있는 AI 활용과 신뢰도 향상을 지원하는 개방형 모델, 에이전트 하네스와 보안 도구를 공동 개발하고 공유할 예정이라고 밝혔다.

오픈 시큐어 AI 얼라이언스는 AI 시대의 소프트웨어와 에이전트를 보호하기 위한 개방형 기술, 보안 기술·도구를 공동 개발·공유하는 연합체다. 앤스로픽의 '프로젝트 글래스윙'과 비슷한 역할이다.

리눅스 재단의 아크리테스 이니셔티브와 오픈SSF 커뮤니티의 활동을 기반으로 기반으로 하는 오픈 시큐어 AI 얼라이언스는 개방형 기술을 활용해 취약점을 해결하고 공개하는 데 협력할 예정이다.

엔비디아는 AI 에이전트의 행동을 테스트하고 추적·감사할 수 있도록 지원하는 오픈소스 연구 프로젝트 'NOOA'도 깃허브를 통해 공개했다. NOOA 연구 프레임워크는 하네스가 모델과 더욱 효과적으로 통합되도록 지원해 에이전트의 행동을 보다 쉽게 테스트하고 추적, 감사, 관리할 수 있도록 한다.

연합체에는 글로벌 ICT 생태계를 주도하는 주요 기업과 연구기관들이 창립 파트너로 대거 참여했다. 엔비디아를 비롯해 마이크로소프트(MS), IBM, HPE, 델 테크놀로지스, 팔란티어, 세일즈포스, SAP, 지멘스, 클라우드플레어, 크라우드스트라이크, 데이터브릭스, 허깅페이스, 리눅스, 스페이스X, 리눅스 재단, 오픈클로 등 약 40곳이 이름을 올렸다.

국내에서는 엔비디아와 AI 분야 협력을 확대해온 네이버와 SK텔레콤이 창립 회원사로 합류했다. 네이버는 자체 AI 개발과 오픈소스 AI 생태계 참여 경험을 바탕으로 글로벌 AI 보안 생태계 구축에 참여하며 SKT는 AI 서비스와 AI 데이터센터(DC), 에이전트 기술을 확대하는 가운데 글로벌 AI 보안 기술 개발에 힘을 보탤 예정이다.

엔비디아는 "정책 입안자와 규제 당국이 AI 안전 문제를 다루는 과정에서는 개방형 모델과 하네스, 보안 도구를 AI와 사이버 보안 정책의 위험 요소가 아닌 방어 자산으로 인식하는 것이 중요하다"며 "최첨단 개방형 AI 시스템을 일괄적으로 제한하면 방어 역량이 약화되고 소수의 폐쇄형 제공업체에 권한과 의존도, 취약성이 집중될 위험이 있다"고 밝혔다.