서구·중국 석학들, AI 개발 ‘레드라인’ 확인…“냉전시대 핵전쟁 방지협약 수준 협력 필요”

AI 세계 석학들 베이징에서 만나 논의
성명서에 AI 자가복제 금지 내용 담겨
“무기제조·사이버공격 등에 활용 안돼”

▲출처 게티이미지

글로벌 유수의 과학자들이 만나 인공지능(AI)의 위험을 피하기 위해서는 과거 냉전시대에 핵전쟁 방지를 막기 노력과 유사한 수준의 글로벌 협력이 필요하다고 엄중히 경고했다고 영국 파이낸셜타임스가 18일(현지시간) 보도했다.

서구와 중국의 AI 석학들은 지난주 베이징에서 AI 개발에 대한 생화학 무기 제조, 사이버 공격 등 ‘레드라인’을 확인했다.

앞서 조 바이든 미국 대통령과 시진핑 중국 국가주석은 작년 11월 회담을 통해 AI 안전성에 대해 논의하고 이 문제에 대해 대화를 시작하기로 합의했다. 이에 미·중 간 치열한 AI 패권 경쟁이 벌어지는 가운데서도 이번 만남이 성사됐으며, 전 세계 주요 AI 기업들도 최근 몇 달 동안 중국의 AI 전문가들과 비공개로 논의를 진행했다.

이들은 성명에서 “냉전이 한창일 때 국제 과학계와 정부의 협력은 핵전쟁 재앙을 피하는 데 도움이 됐다”면서 “인류는 전례 없는 기술로 인해 발생할 수 있는 재앙을 피하기 위해 다시 한번 손을 잡아야 한다”고 발표했다.

성명에는 어떤 AI 시스템도 명시적인 인간의 승인과 도움 없이 스스로 복사하거나 개선할 수 없어야 한다는 내용이 담겼다. 과학자들은 또 대량살상 무기를 설계하거나 생화학무기 협약을 위반하는 이의 능력을 실질적으로 확대하는 데도 AI가 활용돼서는 안 된다고 강조했다.

성명에는 신경망 연구로 튜링상을 수상하는 등 AI 분야의 ‘대부’로 불리는 제프리 힌튼 캐나다 토론토대 교수와 요수아 벤지오 캐나다 몬트리올대 교수를 비롯해 스튜어트 러셀 미 캘리포니아 버클리대 교수, 중국의 저명한 컴퓨터 과학자 앤드루 야오 등이 참여했다.

벤지오 교수는 “이번 논의의 핵심은 강력한 AI 시스템이 넘지 말아야 할 레드라인과 전 세계 정부가 AI 개발 및 배포에 있어 설정해야 할 레드라인을 정하는 것이었다”고 설명했다.