AI 업계 내부서 또 경고…앤스로픽 CEO “인류 지금 당장 깨어나야”

“개인이 지구 위 모든 생명체 파괴 잠재력 갖게 될 수도
AI의 반란ㆍ세계적 독재 체제 가능성도 경계해야”

▲다리오 아모데이 앤스로픽 최고경영자(CEO)가 23일(현지시간) 스위스 다보스에서 열린 세계경제포럼(WEF·다보스포럼)에 참석하고 있다. (다보스(스위스)/AP뉴시스)

인공지능(AI) 기술의 급속한 진화가 인류 사회에 재앙적 위험을 초래할 수 있다는 경고가 AI 업계 내부에서 다시 제기됐다. 생성형 AI 선두 기업 중 하나인 앤스로픽의 다리오 아모데이 최고경영자(CEO)는 “인류가 지금 당장 깨어나야 한다”고 촉구했다.

27일(현지시간) 파이낸셜타임스(FT)에 따르면 아모데이 CEO는 전날 개인 웹사이트에서 공개한 약 2만 단어 분량의 에세이 ‘기술의 위태로운 성장기’에서 대규모 일자리 감소에서부터 생물 테러에 이르기까지 기술이 통제 없이 발전할 경우 발생할 수 있는 위험을 제시했다.

아모데이 CEO는 “향후 몇 년 안에 강력한 AI가 등장할 가능성이 크다”며 “어떠한 노벨상 수상자, 정치인, 기술자보다 훨씬 뛰어난 능력을 지닐 것”이라고 예측했다. 그러면서 “인류는 상상조차 어려운 힘을 손에 넣게 될 것이며, 우리의 사회·정치·기술 시스템이 이를 다룰 만큼 성숙했는지는 극히 불확실하다”고 경고했다.

이러한 위험 중 하나는 개인이 수백만 명을 죽일 수 있는 생물학적 무기를 개발하거나 최악의 경우 지구 위의 모든 생명체를 파괴할 수도 있는 잠재력이다. 아모데이 CEO는 “학교 총기 난사 사건을 저지를 수 있지만 핵무기를 만들거나 전염병을 퍼뜨릴 능력은 없을 법한 정신적으로 불안한 외톨이가 이제 박사 학위 소지자 수준의 역량을 갖게 될 것”이라고 지적했다. 또 AI가 반란을 일으켜 인류를 압도할 가능성이나 권위주의자나 악의적 행위자들에게 힘을 실어 ‘세계적 전체주의 독재 체제’로 이어질 가능성을 제기했다.

이 밖에도 아모데이 CEO는 AI 발전으로 실리콘밸리에 일자리가 대거 사라지고, 경제적 권력 및 부의 집중이 발생할 수 있다고 내다봤다.

특히 그는 “AI 관련 정치적 결정이 위험 완화보다는 신기술이 제공하는 기회 포착에 점점 더 치우치고 있다”며 “이러한 우유부단함은 매우 유감스러운 일이다. 기술 자체는 유행을 따르지 않으며, 우리는 2023년보다 2026년에 훨씬 더 실제 위험에 가까워져 있다”고 강조했다.