트럼프, AI 안전성 심사 지침 마련⋯앤스로픽ㆍ오픈AIㆍ구글 소집

사이버 보안 심사 지침 마련
AI 기업 자발적 사전평가 체제

▲3일(현지시간) 미국 워싱턴 D.C. 백악관 오벌 오피스에서 도널드 트럼프 미국 대통령이 언론의 질문에 답하고 있다. 워싱턴D.C./로이터연합뉴스

도널드 트럼프 미국 행정부가 최첨단 AI 모델의 사이버 공격 능력을 평가하기 위한 기업의 자발적인 사이버 보안 심사 지침을 마련했다. 정부는 이번 심사를 두고 관련 기업들과의 협의를 진행할 전망이다.

로이터통신은 3일(현지시간) 사안에 정통한 소식통을 인용해 "이튿날 백악관에서 관련 회의가 열릴 예정이며 AI 스타트업 앤스로픽이 회의에 초청됐다"고 전했다. IT 전문매체 디인포메이션은 "오픈AI와 구글도 초청 대상"이라고 보도했다. 메타도 정부의 AI 모델에 대한 자발적 사이버 보안 심사를 논의하기 위한 회의 초청 사실을 확인했다.

이번 조치는 최근 고성능 AI 모델의 예상 밖 행동 사례가 잇따라 보고된 데 따른 것으로 풀이된다. 오픈AI는 "지난달 고성능 모델을 바탕으로 한 자율형 에이전트가 보안 테스트 도중 예상치 못한 행동을 보이며 AI 개발 플랫폼 '허깅페이스' 인프라를 해킹했다"고 밝혔다. 앤스로픽 역시 자사의 일부 AI 모델이 테스트 도중 3개 기업의 시스템에 무단 침입했다고 발표한 바 있다.

트럼프 대통령은 앞서 6월 첨단 AI 모델의 안전한 개발을 위한 행정명령에 서명했다. 여기에는 주요 AI 개발 기업들이 최신 모델을 일반에 공개하기 전, 정부의 사이버 보안 심사에 자발적으로 관련 정보를 제출하도록 하는 내용이 포함돼 있다.