바이든, AI 규제 행정명령 서명…“내 딥페이크 보고 헷갈리기도”

AI 개발자, 안전 테스트 결과 정부에 우선 공유해야
생성형 AI에 워터마킹 적용 지침 세울 계획
“AI가 사람들 속이는 데 사용되고 있어”

▲조 바이든 미국 대통령이 19일(현지시간) 워싱턴 D.C. 백악관에서 대국민 연설을 하고 있다. 워싱턴 D.C./AFP연합뉴스

조 바이든 미국 대통령이 인공지능(AI) 규제를 담은 행정명령에 서명했다. 또 그는 자신의 딥페이크 영상을 봤던 경험을 소개하면서 AI 규제의 필요성을 강조했다.

30일(현지시간) 블룸버그통신에 따르면 백악관은 바이든 대통령이 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다고 밝혔다. 행정명령에 따라 AI 개발자·기업들은 AI 모델이 국가 안보, 경제 및 건강상 위험을 초래할 경우 안전 테스트 결과를 미국 정부에 먼저 공유해야 한다. 또 미 정부는 보안 및 개인 정보 보호 표준을 만들고 생성형 AI가 만든 콘텐츠에 워터마킹(불법 복제 방지 기술)을 적용하는 지침을 세울 계획이다.

바이든 대통령은 서명 전 백악관에서 진행한 행사에서 “AI의 가능성을 실현하고 위험을 피하려면 해당 기술을 관리해야 한다”며 규제 도입 배경을 밝혔다. 이어 “상무부가 ‘딥페이크’라고 불리는 생성형 AI 콘텐츠에 워터마킹하는 지침을 개발하면 해당 콘텐츠가 진짜인지 아닌지 알 수 있다”며 “AI가 사람들을 속이는 데 사용되고 있다”고 지적했다.

바이든 대통령은 또 “자신의 딥페이크 영상을 본 적이 있다”며 “내가 도대체 언제 그런 말을 했나라고 자문하기도 했다”고 말했다.

이어 “AI가 화학, 생물학, 핵 등 분야의 위험을 초래하지 않도록 에너지부에 감시를 요청할 방침”이라며 “컴퓨터와 중요 인프라 환경을 더 안전하게 만들기 위해 사이버 보호 장치를 개발하도록 국방부와 국토안보부에 지시할 것”이라고 밝혔다.