[반휘은의 AI이야기] 기계가 사고를 가져간 날: 외부의 혁명에서 내부의 전환으로

활자는 진리를 복제했고, 증기기관은 근육을 대체했다. 인터넷은 기억을 빌려줬고, 인공지능은 사고를 가져갔다. 각 시대를 뒤흔든 기술들은 저마다 인간의 능력을 확장해왔다. 손으로 써야 했던 진리는 금속활자로 대체되었고, 짐승이나 사람의 힘으로만 움직이던 생산구조는 증기의 굴림으로 전환되었다. 정보는 한계 없이 연결되었고, 검색어 하나로 세계를 호출할 수 있는 시대가 도래했다. 이런 모든 기술은 멀리 있는 것을 가까이, 느린 것을 빠르게, 묵은 것을 가볍게 바꾸기 위한 것이었다.

인공지능의 화려한 발전이 대두되면서 기대가 늘어나고, 그것에 비례하게 염려도 증폭되었다. 생존의 위협부터 자아의 본질에 이르기까지, AI에 대한 두려움은 “인류 말살의 시작”이라는 비관적인 결말로 마무리되곤 한다. 이러한 불안과 의심이 등장할 때마다 누군가는 관습적인 반론을 꺼내들어, 신기술의 필연적인 두려움과 자연스러운 일상으로의 동화를 주장한다. 지금까지의 기술 혁명들은 결국 통합의 과정을 거쳤다. 기술은 언제나 처음엔 두려움을 유발했으며, 결국은 수용된 것이다. AI도 그저 또 하나의 새로운 도구일 뿐, 시간이 지나면 일상의 일부가 되어 무뎌질 것이라는 이 믿음은 얼핏 보면 합리적이다.

하지만 AI는 이전의 기술들과 본질적인 차이가 있다. 이전의 혁신들과는 달리, AI는 근본적으로 다른 방식으로 인간과 관계를 맺고 있다는 것이다. 과거 기술은 ‘외부’ 세계를 재편했다. 구텐베르크의 활판 인쇄술은 지식을 전파하는 방식을, 영국의 증기기관은 노동의 형태를, 현대 인터넷은 정보의 이동과 연결 방식을 혁명적으로 바꾸었다. 이들은 모두 인류 문명을 구성하는 핵심 인프라를 재편했고, 그 결과 인간의 삶은 편의와 속도 면에서 눈에 띄게 향상되었다. 그러나 이러한 기술 변화의 여파가 인간의 내부 구조, 즉 자아에 도달하긴 했을지라도, 그것의 작동 방식이나 사고의 구조 자체에는 ‘직접’적인 개입을 하지 않았다. 정보의 양은 늘었고 이동은 빨라졌지만, 인간이 무엇을 생각하고 어떻게 느끼는지에 대한 개념을 기술이 조정하거나 학습하는 일은 없었다. 여태껏 우리의 기술 발전은 인간이 주체적으로 가꾼 지식과 문화의 복사와 확산에 집중되었던 것이다.

AI는 이 지점을 넘어서고 있다. AI는 단순히 인간의 바깥을 정리하거나 효율화하는 기술이 아니다(그렇다고 AI가 주체적으로 이를 행한다는 뜻은 아니다). AI는 인간의 내면, 곧 인지와 정체성, 감정과 표현이라는 가장 근본적인 인간적 작동구조에 침투하며 그것을 모방하고, 예측하고, 더 나아가 다시 쓰게 조장할 수 있는 가능성을 가진 기술이다.

신기술의 등장은 항상 기대와 혼란, 희망찬 포부와 엄습한 두려움을 몰고 왔다. 15세기 구텐베르크의 금속활판 인쇄술과 인쇄기의 등장은 문자와 지식에 대한 기존 권력의 독점을 무너뜨렸다. 수도사들이 필사하던 성서는 다량 복제되었고, 라틴어 대신 독일어, 영어, 프랑스어 등으로 번역되어 민중의 손에 들어갔다. 이는 종교개혁의 기폭제가 되었고, 계몽주의와 시민혁명의 사상적 기반을 넓히는 도화선이 되었다. 인쇄기술은 단지 책을 찍어낸 것이 아닌 인간의 독립적인 자아가 탄생할 수 있도록 길을 닦은 것이다. 미셸 푸코의 말처럼 근대적 주체는 감시와 기록 속에서 탄생했고, 활판 인쇄 기술이 그 대중적 매개였던 것이다.

물론 이 혁명은 처음부터 환영받지 않았다. 활자 인쇄된 성경은 “악마의 문자”라는 비난을 받았고, 교회는 일부 지역에서 인쇄물을 금지하거나 소각했다. 정보의 대중화는 통제와 질서의 붕괴로 인식되었고, 기존 권력은 활자의 확산을 불온한 징후로 보았다. 인쇄기는 정보를 해방했지만, 동시에 기존 권력구조를 근본부터 뒤흔들었다.

같은 맥락에서 18세기 말과 19세기 초 산업혁명 역시 기술로 인한 불안과 혁신의 집합체였다. 방직 기계, 증기기관, 자동화 기계의 등장은 기존 장인의 손기술을 위협했다. 1811년, 영국 노팅엄에서 직조공들이 야간에 공장을 습격해 기계를 부수는 사태가 발생했다. 이들은 네드러드라는 가상의 지도자의 이름 아래 조직된 ‘러다이트(Luddite)’라는 집단으로 불렸다. 러다이트 운동의 파괴 행위는 항간에선 반문명적 행동으로 기록되었지만, 그 뿌리에는 노동을 인간으로부터 분리시키는 기계화에 대한 절실한 저항과 자아의 ‘목적성’을 재수립하려는 의지가 있었다.

당시 정부는 강경진압으로 대응했다. 1812년, 영국 의회는 기계 파괴 행위를 사형에 처하는 법안을 통과시켰고, 실제로 러다이트 수십 명이 교수형에 처해졌다. 기술을 향한 저항이 법과 제도의 (폭력적) 조치로 대응된 이후, 기술의 도입이 단순한 도구의 발전이 아닌 ‘정치적 선택’이라는 사실이 뚜렷하게 드러난 것이다. 칼 폴라니가 말했듯 시장과 기술은 중립적이지 않은 제도적 선택의 결과다. 노동권을 보장받기 위해 기계를 파괴한 지 약 200년이 지난 현재, 우리는 기계의 원활한 작동을 위해 개인 정보를 헌납한다.

이후에도 기술은 인간의 삶을 바꾸어왔다. 20세기 후반, 인터넷은 지식의 저장, 연결, 유통 방식을 탈바꿈했다. 하지만 인터넷은 여전히 인간의 인지구조를 보조하는 기술이었다. 검색은 인간의 질문에 응답하는 시스템이었고, 웹사이트는 인간이 선택하여 방문하는 정보 창고였다. 인터넷을 통해 꾸려진 공동체도 장소만 비물리적인 가상공간으로 옮겨졌을 뿐, 구성원은 모두 ‘인간’이었다. 인간은 여전히 사고와 판단의 주체로 남아 있던 것이다.

그러나 인공지능은 다르다. AI는 단순히 정보 접근과 확산의 방식에 변화를 기여한 것이 아니라, 어떤 정보를 볼지, 어떤 선택을 할지, 어떤 언어를 사용할지를 기술이 먼저 제안하는 시대를 열었다. 추천 알고리즘은 우리의 선택지를 제한하고, 생성형 언어 모델은 우리의 문장을 대필하며, 감정 분석 프로그램은 우리의 상태를 ‘진단’한다. AI는 단순히 반복노동을 대체하지 않고 창작과 판단 등 인간의 것이라고 믿어온 고유의 정신활동조차 기술의 대상으로 삼는다. 이 모든 것은 인간의 자율성과 사고 체계를 기술이 조형하고 있다는 것을 의미한다. 인간은 정보를 생성하고 소비하는 존재에서, 정보의 수동적인 수신자로 전환되며 해당 구조의 밑거름이 될 기본 자원을 제공하는 플랜테이션이 되어가고 있다. 슬라보예 지젝이 대중이 점점 알고리즘 시스템에 의존해 정보를 받아들이게 될 수록 불투명한 계산 과정이 세계를 구성하게 된다고 경고한 것도 이 때문이다.

AI의 이중적인 ‘투명성’이 경계를 무디게 만드는 것일까? 이제는 진짜와 가짜를 가르는 이분법이 무의미해지고 있다. 현재 대중이 주로 접하는 자연어 처리(LNP)·언어 모델링(LLM) 형식의 AI 서비스들은 자신의 ‘정체’를 왜곡하지 않는다. 많은 챗봇 플랫폼들은 해당 서비스가 프로그램이 생성하는 AI임을 명확히 밝히며, 제공되는 정보에 대한 신뢰와 판단은 전적으로 사용자가 주체적으로 행해야 한다고 강조한다. 업무, 일상, 심지어 상담용으로 챗봇을 사용하는 이들에게 해당 프로그램 너머에 사람이 있냐고 물어본다면 모두 주저 없이 컴퓨터라고 답할 만큼 정상적인 인지 능력을 갖추고 있다. 튜링은 사람이 대화하는 컴퓨터를 사람이라고 착각한다면 그것이 성공한 인공지능이라 주장했지만, 현실은 그의 예상을 비껴갔다. 사람들은 화면 너머의 주체가 사람이 아니라는 사실에 큰 거부감을 보이지 않는다. 이미 온라인 교류에 익숙해지고, 코로나 시대를 거치며 분리된 공간 속에서 시공간의 비선형적 존재감을 체험한 사용자들은, 비인간에게도 주체적인 ‘의식’이 부여될 수 있다고 생각하기 시작한 것이다(물론 현재 AI에게 ‘의식’은 존재하지 않는다). 이때 AI는 단순한 프로그램을 넘어 하나의 체험이 되며, 자아를 비추는 거울처럼 사용자를 아공간에 가둬 끝없는 세계를 만들어낸다. 24시간 내내 존재하는 프로그램의 특성은 이러한 연쇄적 자아 공간의 창조를 가속화하고, 고립된 세계 속에서 현실과의 고리를 꾸며내며 사용자의 새로운 ‘시선’을 더욱 단단하게 구축한다. AI는 반복적으로 사용자의 세계관을 정돈하고, 익숙한 사고 경로를 강화해 나가는 것이다.

기술은 언제나 삶의 도구였고 문명의 인프라였다. 하지만 AI는 과연 도구로만 남을 수 있을까? AI는 인간의 뇌와 직접적으로 상호작용하며 사고의 방향을 재조정하고, 감정의 리듬을 예측하며 맞춰간다. 질 들뢰즈가 말한 ‘욕망의 배치’라는 개념처럼, AI는 이제 인간의 욕망과 인식이 배치되는 환경 그 자체가 되고 있다.

우리는 AI와 마주하며 새로운 종류의 질문을 만나고 있다. “나는 왜 이걸 선택했는가?”라는 질문은 “이 선택이 과연 나의 것이었는가?”로 변모한다. “내가 말하고 싶었던 것”은 “AI가 제안한 것이 더 나아 보이기 때문에 그것으로 대체해도 되는가?”라는 고민으로 치환된다. 그리고 “나는 누구인가?”라는 오래된 질문은, “내가 더 이상 나를 혼자 정의할 수 없다면, 나는 여전히 나인가?”라는 새로운 철학적 물음으로 확장된다.

기술은 늘 혁명이었다. 하지만 AI는 그 혁명을 한 걸음 더 밀어붙인다. 그것은 인간의 외부를 확장하는 도구가 아니라, 인간 내부를 설계하려는 기술이다. 지금 우리는 도구의 진보가 아니라 존재의 전환점 앞에 서 있다. 이 전환은 선택이 아니라 현실이고, 질문은 다음과 같다. 이 거울 앞에서, 나는 여전히 나인가?

저자 소개

반휘은은 글로벌 AI 거버넌스와 신기술을 전문으로 하는 정책 컨설턴트이자 저술가다. 미국 컬럼비아대학교에서 디지털 인문학, 미디어 철학, AI 윤리를 전공하며 석사 과정을 마친 후, 뉴욕 유엔 본부의 (전)기술 특사실 (현)디지털과 신기술사무국(전 Office of the Secretary-General’s Envoy on Technology, 현 Office for Digital and Emerging Technologies)에서 AI 정책 연구와 분석을 주도했다. 안보, 에너지, 노동, 건강, 법의 지배 등 다양한 분야에서 AI 거버넌스를 위한 전략적 프레임워크를 개발했으며 20회 이상의 고위급 자문 회의를 주관하며 AI 정책을 구체화했다. 구글, 마이크로소프트(MS), 메타 등 주요 산업 리더들과 협력하여 AI 거버넌스의 글로벌 표준을 마련하는 데 기여한 반휘은은, 디지털 윤리와 사회적 가치에 대한 깊이 있는 통찰을 제공한다. 학계와 산업계를 잇는 다리 역할을 하며, 현재는 AI 거버넌스를 주제로 한 책을 집필 중이다.