나델라 MS CEO “AI에 언제든 멈출 ‘비상 브레이크’ 필요”

▲사티아 나델라 마이크로소프트(MS) 최고경영자(CEO). AFP연합뉴스

사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)가 AI가 인간의 의도나 통제를 벗어나는 행동을 하는 사례가 잇따르는 가운데 비상 상황에 AI를 언제든 멈출 수 있도록 미리 장치를 마련해야 한다는 의견을 제시했다.

10일(현지시간) 더버지에 따르면 나델라 CEO는 엑스(X·옛 트위터)에 ‘초지능(Super Intelligence) 시대, 내부자 위험이 될 수 있는 AI 모델’이라는 제목으로 올린 장문의 글에서 고도로 발전한 AI 모델이 초래하는 위험과 이에 대응하는 방법에 대한 견해를 밝혔다.

그는 AI를 ‘겹겹이 쌓인 블랙박스’로 취급하고, AI의 조언과 행동을 그저 받아들이거나 거부하는 세상을 더는 용납할 수 없다고 말했다.

그러면서 모델을 격리하고 관찰할 수 있어야 하며 더 투명한 시스템을 구축해야 한다고 주장했다. 그의 권고 중 상당수는 적시에 사고를 공개하고, 독립적인 감사를 실시하며, 검증 가능한 데이터를 확보하고, 모델을 격리해야 한다는 점에서 업계의 다른 인사들이 내놓은 주장과 일치한다.

다만 마지막 항목인 격리와 관련해서는 업계 일부 인사보다 한발 더 나아가 눈에 띈다. 그는 “모델이 이미 침해됐다고 가정하고 처음부터 격리해야 한다”면서 “비상 브레이크와 같다고 생각하면 된다. 권한을 부여받은 사람은 언제든 작업 도중 모델을 일시 정지하거나 종료할 수 있어야 한다. 더 고도화된 모델에는 더 발전된 격리 기술이 필요하며, 우리는 이를 표준화해야 한다”고 제안했다.