빌 게이츠 “AI 자율규제는 미친 짓⋯1억명 죽은 뒤 소송할 건가”

“인류가 가까이 한 것 중 가장 위험
생물테러범에게 수억명 살해 능력 제공
참사 전 안전장치 구축 의무화해야”

▲지닌달 4일(현지시간) 미국 워싱턴D.C. 백악관 국빈식당에서 빌 게이츠 마이크로소프트(MS) 공동창업자가 도널드 트럼프 대통령과 만찬을 함께하고 있다. (워싱턴D.C./AP연합뉴스)

빌 게이츠 마이크로소프트(MS) 공동창업자가 AI의 위험을 기업 자율규제에 맡기는 것은 “미친 짓”이라며 정부 차원의 안전장치 마련을 촉구했다. AI가 악의적으로 사용되면 대규모 인명 피해로 이어질 수 있는 만큼 기업의 자율규제만으로는 대응하기 어렵다는 지적이다.

지난달 30일(현지시간) 뉴욕타임스(NYT) 등에 따르면 게이츠는 NYT 팟캐스트 ‘에즈라 클라인 쇼’ 인터뷰에서 “이 문제에 있어 업계의 자율규제를 신뢰할 수 없다”며 “그건 정말 미친(insane) 짓”이라고 비판했다. 식품의약국(FDA)이나 항공안전 당국 없이 자동차 안전띠 설치 의무조차 두지 않는 것과 마찬가지라는 설명이다.

그는 안전하지 않은 AI를 출시한 기업에 법적 책임을 묻는 것만으로 충분하다는 주장에 “가령 1억 명이 죽는다면 소송으로 대응하겠다는 것이냐”고 반문했다. 이어 AI를 “인류가 지금껏 가까이한 것 가운데 가장 위험한 것”이라며 “핵무기조차 아무것도 아닌 것처럼 보이게 한다”고 말했다.

특히 AI를 활용한 생물학적 위협에 우려를 나타냈다. 그는 “AI가 생물테러범에게 수억 명을 살해할 능력을 제공할 수 있는 문턱을 이미 넘었다”면서 “그런 능력은 오늘날 존재한다”고 주장했다. AI의 발전이 연구자들의 새로운 분자 설계를 돕는 동시에 천연두보다 위험한 병원체를 만드는 데 악용될 수 있다는 것이다. 과거에는 국가 차원의 자원이 필요했던 일을 이제는 소규모 집단도 AI를 활용해 수행할 수 있다는 게 그의 설명이다.

그는 AI가 인간의 통제를 벗어나는 장기적 위험보다 당장 악의적인 행위자가 AI를 악용할 위험에 더 주목했다. 게이츠는 “AI 기술은 다른 모든 위험한 기술과 달리 정부 연구개발(R&D) 자금으로 개발된 것이 아니고 정부가 이 제품들의 주요 구매자가 아니다”라며 “미국 정부를 비롯한 각국 정부가 이러한 기술들이 얼마나 위험한지 실제로 인식하지 못하고 있다는 점은 매우 이례적”이라고 짚었다.

이에 정부가 AI 개발사에 시스템 모니터링 기능과 안전장치 구축을 의무화해야 한다고 강조했다. 그는 “모든 AI 모델에 안전장치와 모니터링 기능을 의무화하지 않으면 대형 참사가 발생한 뒤에야 대응하게 될 것”이라면서 “안타깝게도 그때는 이미 AI가 지금보다도 더 강력한 능력을 갖춘 채 감시가 닿지 않는 곳에서 악용되도록 방치한 뒤일 것이다. 이는 엄청난 실수”라고 거듭 경고했다.