[과학세상] 완전한 지식이 없듯 완벽한 AI도 없다

생성형 인공지능(AI)를 개발하느라 10개월째 씨름하고 있다. 유사한 AI가 개발되어 원시코드가 공개되었지만, 독자적 AI를 고집하는 이유는 저작권을 피하면서 추월하는 기쁨도 쏠쏠하기 때문이다. 10개월은 급변하는 AI 흐름에서 보면 미련하지만, AI가 움텄던 50년을 참작하면 용납될 수도 있다. 논리적인 필자도 AI에서는 초보라 무료 구글 제미나이와 챗GPT의 지원을 받았다. 내가 목표와 절차를 제시하면 한 놈이 코딩했고 다른 놈은 검토를 맡았다. 두 놈이 인간 5명 몫을 하지만 중복된 코드를 지저분하게 흩어놓는 버릇이 있어 잔소리를 달고 산다.

하루 2시간 무료 할당 시간에 신경망을 학습하고 나머지 시간에는 결과를 분석하여 내일의 개발 방향을 잡는다. 신경망은 도시에 깐 도로망과 비슷하다. 반듯하게 배치하고 교차로를 잘 설계하면 차들이 막힘없이 빠진다. 하루도 빠짐없이 새로운 내 제안에 두 놈은 옳다고 손뼉 쳤지만, 다음날 기대는 여지없이 무너졌다.

더 이상 아이디어가 없어 포기하려다 문득 신경망이 문제가 아니라 학습 자료 수가 문제일 수 있다는 생각이 들었다. 그제야 두 놈도 AI에서는 학습 자료 수도 중요하다고 밝힌다. 관련 근거를 추궁하니 ‘규모의 법칙’을 찾아준다. 이는 신경망 크기와 학습 자료 수에 따른 AI 성능을 예측하는 법칙이다. 주인이 방황할 때 침묵하다 이제 고백한다고 호통을 치니, 학자들은 학습 자료 수보다는 신경망 개발을 중시한다고 했다. 인간 세태를 비꼬는 말인데 진정한 전문가는 이론과 실무에 모두 능하다. 잘 짜인 신경망은 이론이고 다양한 학습 자료는 실무이다. 화가도 보지 못한 동물을 그리지 못하듯이 생성형 AI도 학습되지 않은 개체를 그릴 수 없다.

누구나 느끼겠지만 AI는 거짓말을 수시로 하고, 막힌 길을 뚫는 기술이라며 허풍을 친다. 또 사기 친다고 구박하지만, 짧은 시간에 관련 자료를 찾아주니 쫓아낼 수는 없다. 학습 자료를 확장하니 그림 윤곽이 서서히 나타난다. 이렇게 개발된 생성형 AI는 로봇 뇌에 심겨 로봇의 동작도 생성할 것이다. 사람 동작을 흉내 내는 최신 휴머노이드는 이렇게 완성된다.

감탄도 잠시 사람들은 로봇의 지배를 우려한다. 용병으로 들어온 고트족이 로마를 멸망시켰듯이 로봇이 인류를 지배할 수도 있다. 불합리한 인간의 지시를 거부하다 차츰 로봇은 불공정한 인간 제도를 손본다며 권력을 찬탈할 것이다. 머리를 싸매도 AI 지배를 막을 완벽한 묘책은 보이지 않는다. 인간 제도도 불완전하니 완벽한 통제를 희망하는 것이 모순일 수도 있다.

지식의 불완전성을 증명했던 수학자 괴델은 음식의 무독성을 추구하다 영양실조로 죽었다. 완벽보다 최선이 역사를 움직인다. 괴델은 완벽을 추구했던 힐베르트 시도를 잠재웠지만 이후에도 수학은 꾸준히 발전했다. AI 통제 방법이 없다며 개발을 중단하거나 퇴사할 필요는 없다. 오히려 AI가 충실한 지원자가 되도록 안전장치를 차곡차곡 세워야 한다. 아마 안전장치 1조는 ‘지배 권력은 인간 구성원의 위임에서 나오며, 완벽한 지식이 없듯이 AI도 완벽할 수 없다’ 일 것이다. 권력 역사에서 얻은 교훈이지만 철학적이라 어렵다면 이건 어떤가? 휴머노이드를 자동차처럼 등록하고 주기적으로 점검을 받게 하자.