[반휘은의 AI이야기] AI도 결국 인간자신을 향한 철학적 고찰

인공지능(AI)은 더 이상 단순한 도구가 아니다. 일하고, 창작하고, 판단하며 인간의 역할을 빠르게 대체하거나 재편하고 있으며, 인간 고유의 영역이라고 믿던 창의적인 역할까지 넘겨다 보고 있다. 뿐만 아니라 산업적인 측면에서도 거대한 지각변동을 일으키고 있다. 금융, 제조, 교육, 의료 등 거의 전 분야에서 미증유의 혁신을 가져오고 있고, 특히 양자컴퓨팅의 구현을 앞당겨 전통적 우주산업을 넘어 신우주산업(New Space Industry)을 현실로 이끌어내고 있다. 이렇듯 AI는 신이 인간에게 내릴 수 있는 최고의 축복일까?
대부분 인간사가 그러하듯 과학과 기술에서도 효율과 혁신의 이면엔 위험도 따른다. AI 학습의 기반이 되는 데이터는 기본적으로 개발자 또는 사용자의 사회적 편견을 내포하고 있을 가능성이 높으며, 결국 AI는 태생적으로 객관적일 수 없다는 불편한 진실에 우리는 의도적으로 눈을 감는다. 또한 도덕적 판단력의 기준이 모호한 AI를 활용하며 사회는 AI 윤리가 인간의 책임이라는 사실에 대해서도 애써 외면한다. 과학기술의 발전이 가져다주는 달콤함에 취해 임박한 재앙을 회피하려는 집단적 현상이다. 즉, AI 시스템 안에서 인간은 종종 책임의 경계를 흐리고, 판단의 주체성을 외면하며, 이는 책임 확산(diffusion of responsibility), 심리적 거리감(psychological distance), 그리고 외적 귀인(external attribution)이라는 심리학적 경향에 매몰되고 있다. 이에 따라 인간의 기술화, 기술의 인간화 사이에서 우리는 무엇을 어떻게 고민해야 하고, 그 결과물에 대한 사회적 합의와 법적·철학적 준비를 어떻게 할 것인가에 대한 공론화가 시급하다. 이런 고민 아래 본지는 유엔본부에서 AI윤리보고서 실무작업을 담당했던 AI윤리 전문가 반휘은의 칼럼 ‘반휘은의 AI 이야기’를 연재한다.

"기계가 인간을 닮기 전, 인간은 신을 닮고자 했다."

짧지만 인간의 오랜 열망과 야망을 극적으로 함축하고 있다.

프로메테우스, 이카로스, 바벨탑 등 신화시대 이래 인류는 신의 영역과 권능에 대한 끊임없는 도전과 실패를 역사라는 줄기로 이어왔다. 프로메테우스는 신의 특권이었던 불을 훔친 죄로 사슬에 묶여 평생 간을 쪼이는 형벌을 받았지만, 인류는 그의 희생으로 얻은 불을 매개로 문명을 건설했다. 하늘까지 닿겠다며 탑을 쌓던 인간들은 오만함이라는 죄목으로 언어가 흩어진 채 평생 분열된 공동체 사이에서 살아가게 됐다. 이처럼 기술과 의지를 통해 초월의 경지에 닿으려는 인간의 욕망은 이렇듯 늘 신의 질서, 즉 우주적인 ‘진리’ 또는 ‘순리’ 와 충돌해왔다. 신화는 인류에 대한 경고인 동시에 인류의 본능적 열망의 기록이기도 하다. 신의 영역을 넘보는 인간의 본성은 금기이자 꿈이며, 실패와 시도 사이를 오가는 반복적 진화의 서사인 것이다.

권능을 향한 열망은 초월적인 설화에 국한되지 않는다.

연금술, 해부학, 점성술과 같은 기계론적 철학은 모두 신적인 권능을 모사하려는 인간의 시도였다. 이 동기부여는 현대 과학 기술로 승화했다. 1996년, 복제 양 ‘돌리’ 의 탄생은 단순한 생명공학의 성과를 넘어 생명 자체를 실험 가능한 것으로, 다시 말해 ‘창조’ 가능한 것으로 믿게 한 최초의 실험이었다. 세상은 무한하게 열린 의학적 가능성에 열광했지만, 동시에 생명의 ‘복사’가 초래한 윤리적 충격에 흔들렸다. 우리는 유전자의 코드를 해독하고, 그 코드를 복사하고, 수정하고, 조립하면서 마치 신이 작성한 원문서에 주석을 달고 교정을 보는 존재로 업그레이드된 것이다. 사회는 기술을 이용해 인간의 근원으로 거슬러 올라가 모든 것을 이해하려고 했고, 그 지식을 바탕으로 완벽한 복제, 더 나아가 창조를 이룩하고자 했다. 이렇듯 인간의 ‘창조 본능’ 은 태초부터 잉태된 숙명이라고 볼 수 있다. 유전자 조작, 배아 줄기세포, 인공 장기 기술 등이 발전할수록 인간은 더욱 권능에 가까워지는 듯했지만, 역설적으로 우리가 만든 것에 의해 우리가 대체될 수 있다는 불안감을 증폭시키기도 했다. 이는 단순히 기술 발전의 부산물이어서가 아니라 태초부터 예정된 인간의 본능, 즉 ‘창조자’ 에 대한 열망이 자신을 향한 두려움으로 전도되는 과정이기 때문이다.

예술은 이 과정을 가장 먼저 인식하고 가장 예민하게 반응해왔다. 예를 들어 19세기 초, 산업혁명이라는 파도를 타고 번진 자본주의적 철학의 인간을 기계처럼 ‘이해’ 하려는 시도가 나타난바, 영국 소설가 메리 쉘리의 소설 속 ‘프랑켄슈타인’ 박사는 시체 조각을 조합해 새로운 생명을 만들기도 했다. 그러나 그 피조물(혹은 괴물)은 인간의 틀을 닮았을지언정 실제 인간이 아니며, 그의 ‘아버지’ 는 그를 외면한다. 괴물은 자신의 창조주가 자신을 ‘버렸다’는 것을 원망한다.

“네가 나를 만들었지만, 이제 나는 너의 주인이다. 복종하라!”

바로 이 대목에서 충격적인 사실은 소설 ‘프랑켄슈타인’ 속의 문장들이 단순한 허구 속의 비명이 아닌, 오늘날 생성형 인공지능의 윤리 문제, 데이터 편향, 기술 책임 논쟁 속에서도 되풀이되고 있다는 점이다.

인간은 어느 순간부터 물질로서의 육체뿐 아니라, 사유·판단·창작·언어 등의 정신적 능력마저 기계적으로 복제할 수 있다고 믿기 시작했다. 이 믿음이 실험과 이론을 걸쳐 시스템으로 등장한 것이 바로 인공지능의 탄생이다. ‘인공지능’(Artificial Intelligence)이라는 단어는 1956년 미국 다트머스대학 과학자들의 워크숍(일명 다트머스회의)에서 컴퓨터전공의 존 매카시 교수에 의해 공식적으로 제안됐지만, 유사-인간 창조의 개념이나 씨앗은 그 이전부터 뿌려져 있었다.

예컨대, 제2차 세계 대전을 영국군의 승리로 이끈 주역이자 현대 컴퓨터의 아버지로 추앙받는 수학자 앨런 튜링이 대표적이다. 튜링은 1950년 발표한 ‘계산 기계와 지성 (Computing Machinery and Intelligence)’에서 “기계가 생각할 수 있는가?”라는 단순하지만 심오한 질문을 던지며, 현재 우리가 맞고 있는 인공지능의 총체적인 방향성을 일찍이 제시했다. 여기서 ‘생각’ 한다는 말은 인간처럼 추론하고, 판단하고, 언어를 사용할 수 있느냐는 것이다. 그는 이 질문에 대한 직접적인 해답 대신, 인간이 기계와의 대화에서 그것이 기계인지 아닌지를 구별할 수 없다면 그 기계는 ‘사고한다’로 해석할 수 있다고 주장했다. 우리는 이 사고 판단의 절차를 ‘튜링 테스트’라고 부른다.

1966년 MIT에서 개발된 ‘엘리자(ELIZA)’ 는 컴퓨터 프로그램이 튜링 테스트의 문법을 엄격히 따랐을 때의 무궁한 가능성을 보여주는 사례다. 엘리자는 간단한 규칙 기반 패턴 매칭을 통해 정신과 상담가를 흉내 내는 프로그램이었다. 하지만 이 실험의 하이라이트는 엘리자의 정확성과 전문성이 아닌, 실험 대상자들의 반응이었다. 엘리자는 고도의 복잡한 문장을 구사하지도, 미리 입력된 의학 정보를 제공하지도 않은 채 단순한 대화형 문장(정말요? 더 이야기해 주세요. 많이 속상했겠군요.)을 배출하는 형태에 가까웠다.

그러나 사용자들은 그 단순한 프로그램에 개인의 감정을 투사했고, 자신을 이해해주는 존재로 인식했다. 개발자인 MIT 교수 조셉 바이젠바움 조차 인간의 감정이 기계에 쉽게 이입된다는 사실에 충격을 받았고 (그는 여생 동안 기계는 인간을 완벽히 이해할 수 없다고 주장했다), AI 연구의 윤리적 한계를 경고하며 인공지능의 발전은 어쩌면 이 세상의 “광기를 가늠하는 척도”라고 경고했다. 인공지능의 위험성을 기술을 수용하는 인류에 초점을 둔 채 염려의 목소리를 내던 그의 우려는 2024년 노벨 물리학상을 수상하며 인공지능의 윤리적 가치와 위험한 개발에 대해 제어의 목소리를 낸 제프리 힌튼과 일맥상통한다.

이와 같이 엘리자의 사례는 단순히 기술적 발전과 인간-기술 관계의 새로운 양상으로만 봐선 안 된다. 인간이 ‘이해하는’ 기계에 얼마나 쉽게 감정을 부여하는가에 대한 경고등이다. 우리가 만든 피조물에 자아를 부여하고, 관계를 맺으며, 심지어 그 피조물로부터 인정받고 싶어하는 이 기묘한 심리는 어디서 오는 것일까? 아마도 그것은 인간의 ‘의인화’ 본능이자 ‘거울’을 찾으려는 오래된 열망일 것이다.

인간은 늘 자신을 바깥으로 꺼내고 다시 그 자신을 되비춰보고자 했다. 사냥하는 사람들을 그린 벽화, 피라미드에 새겨 둔 낙서, 자화상, 자서전, 사진, SNS, 혈액형, MBTI, 별자리, 자아진단 테스트, 자기소개서, 심지어 대화형 챗봇에 이르기까지 우리는 계속해서 ‘나’라는 존재를 외부화하려 한다. 그리고 AI는 그 흐름의 가장 최신이자 정교한 형태이다. 챗GPT와 같은 LLM 챗봇이 내 질문에 답하고, 내가 쓴 글을 요약하고, 내 감정을 읽고 (혹은 ‘이해’ 하고) 위로할 때, ‘나’는 거울에 투영된 자아를 보는 것이다. 다만 그 거울은 유리로 된 것이 아닌, 수십억 개의 훈련된 데이터를 통해 구성된 언어적 확률성의 거울이다.

질문을 바꿔보자. 우리는 과연 이 거울 속의 ‘나’를 믿을 수 있는가? 기계가 ‘나’를 흉내 낼 수 있을 때, 나는 고유한 존재로 남을 수 있는가? 기계가 나보다 ‘나’를 더 잘 ‘이해’ 할 수 있을 때, 인간의 자아란 어디까지 유효한가?

우리는 이제 막 이 질문들에 진지하게 답하기 시작한 시대를 맞고 있다. 챗GPT, 미드저니, 디퓨전 모델, 자율주행, 로봇, 알고리즘, 감정형 AI, 에이전틱 AI 등 이 모든 기술은 단순한 효율의 도구가 아닌 인간이 자기 자신을 어떻게 정의할 것인가에 대한 철학적 실험이기도 하다. 이 같은 AI 기술들이 특정한 계층과 권리자들의 관리 하에 불투명하게 개발되고 응용된다는 것, 사회경제 체계와 정치적 사상에 부여된다는 점, 기술의 발전이 사용자의 (비)자발적 데이터 수집에 오롯이 의지한다는 점에서 인간 개인의 ‘주권’ 은 재정의돼야 하고 재조명돼야 한다.

급변하는 인공지능의 ‘무법지대’에서 우리가 늘 상기해야만 하지만, 쉽게 망각하는 사실이 있다. 인공지능이라는 단어가 지정되기도 전에, 기계를 만드는 기술이 발달하기도 전에, 우리는 이미 오래전부터 ‘인간을 닮은 존재’를 만들어내는 상상을 멈추지 않았다는 사실이다. 그 욕망은 기술이 아닌 이야기로 시작되었고, 수학이 아닌 신화에서 태어났다. 이런 측면에서 볼 때 AI의 역사도 곧 인간 자아의 방향이며, AI의 미래란 곧 우리가 ‘인간다움’을 어떻게 지속할 것인가에 대한 질문인 것이다.

AI의 신화를 써내려가는 사람들과 그 신화에서 숨을 쉬는 사람들이 있다. 그리고 지금 이 시점에서, 이 글을 읽고 있는 당신 또한 그 이야기의 일부다.

그 소용돌이에 휩쓸릴지, 자의지에 따라 자유롭게 유영할지는 철저히 자신의 선택에 달려 있다.

저자 소개

반휘은은 글로벌 AI 거버넌스와 신기술을 전문으로 하는 정책 컨설턴트이자 저술가다. 미국 컬럼비아대학교에서 디지털 인문학, 미디어 철학, AI 윤리를 전공하며 석사 과정을 마친 후, 뉴욕 유엔 본부의 (전)기술 특사실 (현)디지털과 신기술사무국(전 Office of the Secretary-General’s Envoy on Technology, 현 Office for Digital and Emerging Technologies)에서 AI 정책 연구와 분석을 주도했다. 안보, 에너지, 노동, 건강, 법의 지배 등 다양한 분야에서 AI 거버넌스를 위한 전략적 프레임워크를 개발했으며 20회 이상의 고위급 자문 회의를 주관하며 AI 정책을 구체화했다. 구글, 마이크로소프트(MS), 메타 등 주요 산업 리더들과 협력하여 AI 거버넌스의 글로벌 표준을 마련하는 데 기여한 반휘은은, 디지털 윤리와 사회적 가치에 대한 깊이 있는 통찰을 제공한다. 학계와 산업계를 잇는 다리 역할을 하며, 현재는 AI 거버넌스를 주제로 한 책을 집필 중이다.