‘노벨물리학상’ 힐턴 “초지능 AI 통제권 장악 막을 연구 시급…공상 과학 소설 아냐”

“정부·국제기구 강력하고 긴급한 관심 필요”

▲노벨물리학상 수상자인 제프리 힐턴 캐나다 토론토대 명예 교수가 7일(현지시간) 스웨덴 스톡홀름에서 기자회견을 하고 있다. 스톡홀름/AFP연합뉴스

올해 노벨물리학상을 수상한 ‘인공지능(AI)의 대부’ 제프리 힐턴 캐나다 토론토대 명예 교수가 “공상 과학 소설이 아니다”며 인류와 AI의 미래에 대해 짧지만 긴급한 경고를 전했다.

10일(현지시간) 캐나다 IT 전문매체 베타키트에 따르면 힐턴 교수는 스웨덴 스톡홀름 콘서트홀에서 열린 2024 노벨상 시상식 및 연회에서 “새로운 형태의 AI는 인간의 직관을 모델링하는 데 탁월하며 거의 모든 산업에서 생산성을 높일 수 있는 고도로 지능적이고 지식이 풍부한 비서를 만들 수 있게 해줄 것”이라며 “생산성 향상의 혜택을 모든 인류가 공평하게 공유할 수 있다면 놀라운 발전이 될 것”이라고 말했다.

다만 “안타깝게도 AI의 급속한 발전은 단기적으로 많은 위험을 수반한다”며 “이미 권위주의 정부에서는 대규모 감시를 위해, 사이버 범죄자들은 피싱 공격을 위해 AI를 사용하고 있다”고 지적했다. 이어 “가까운 미래에는 AI가 끔찍한 신종 바이러스와 치명적인 무기를 만드는 데 사용될 수 있다”며 “이러한 모든 단기적 위험은 정부와 국제기구의 긴급하고 강력한 관심을 필요로 한다”고 강조했다.

또 힐턴 교수는 “우리보다 더 지능적인 디지털 존재를 만들 때 발생할 수 있는 장기적인 실존적 위협도 있다”며 “우리가 이를 통제할 수 있을지는 알 수 없다”고 예상했다. 그러면서 “새로운 존재가 통제권을 장악하려는 것을 막는 방법에 관한 연구가 시급하다”고 촉구했다.