[반휘은의 AI이야기] 권력화된 테크봉건제, 빅테크는 국경 없는 이사회

영주가 되고 싶은 정용진의 실험

지금 우리는 손가락으로 세상을 움직인다. 클릭 한 번에 순종하는 알고리즘, 말 한마디에 응답하는 인공지능. 권력은 더 이상 멀리 있지 않다. 그것은 당신의 관심을 읽고, 당신보다 당신을 더 정확히 기억하며, 당신이 ‘좋아요’를 누르기도 전에 무엇을 좋아할지를 ‘알아낸다’. 과거의 권력은 항상 물리적 거리가 중요했다. 중세의 군주는 성 위에서 아래를 내려다보았고, 전체주의 왕정의 통치는 혈통으로만 이루어져 ‘아랫것’들의 세력화를 차단했으며, 근대의 관료제는 문서로 개인을 판단하고 분류했다. 하지만 지금의 권력은 각자의 주머니 속에 있다. AI는 왕좌에 앉지 않는다. 다만 당신의 취향, 언어, 감정에 맞춰 형체 없이 섞여든다.

인공지능이 만들어 내는 권력은 근본적으로 ‘관계’에서 발생한다. 그것은 사람과 사람 사이의 연결을 대체한다는 얘기만은 아니다. 사람과 사람 사이의 틈에 자리를 잡아 새로운 규칙을 창조한다는 뜻이다. 우리는 친구에게 링크를 공유하고, AI가 제안한 맛집을 연인과 찾아가며, 고객을 위해 자동화된 답변을 설계한다. 사회 모든 연결망에 알고리즘이 뒤섞이고, 그 위에서 AI는 중재자이자 조율자, 때론 감시자로 작동한다. 이 권력은 지금까지의 전통적인 위계 구조와 달리 습관을 통해 굳어진다. 사용자가 직접적으로 통제받는다고 느끼지 않더라도, AI는 어떤 정보를 먼저 보여줄지, 누구의 말에 공감할 기회를 줄지, 어떤 세계관이 정상적인 것처럼 보일지를 조용히 재조정한다. 유튜브의 추천 알고리즘은 사용자의 과거 클릭과 시청 시간, 멈췄던 지점까지 분석해 유저가 ‘원할 만한 것’을 보여 주지만, 그 과정에서 사용자가 보지 않았던 정보는 사실상 ‘존재하지 않는’ 것처럼 처리된다. 인스타그램 릴스와 틱톡 알고리즘도 마찬가지로 사용자의 성별, 지역, 관심사, 소비 습관을 기반으로 감정적 동조를 유도하는 콘텐츠를 전면 배치한다.

생성형 AI 제품군에서도 이 부드러운 권력은 뚜렷하다. 마이크로소프트 사의 코파일럿(Copilot)은 이메일 작성, 회의 요약, 업무 제안까지 자동화하면서 사용자의 ‘결정’을 지원하지만, 동시에 문장 구조와 톤, 키워드의 미세한 뉘앙스를 유도한다. 단순한 도우미가 아닌 사용자의 소통 방식을 학습하고 재정의하는 관계 ‘관리자’ 에 가깝다. 미드저니와 어도비 파이어플라이(Firefly)는 유저의 상상력과 창작물의 경계를 모호하게 만든다. 사용자는 프롬프트를 입력했을 뿐인데, 결과물의 형태와 미학적 구조는 AI의 훈련 데이터에 의존한다. 결국 창작의 ‘기준’이 사람이 아닌 시스템 내부로 이동하는 셈이다. 이처럼 AI는 단순히 응답하는 도구가 아니라 판단의 순서를 설계하고 감정의 흐름을 조율하며 선택의 지형을 미리 구축해 둔 인프라에 가깝다. 이것이 바로 AI가 다루는 권력의 형식이다. 위압과 강제가 아닌 자율적 설계, 명령이 아닌 유도된 습관, 직접적 통제가 아닌 정서적 동기화인 것이다.

이러한 권력은 누구의 손에 쥐어져 있는가? 실리콘밸리의 억만장자들은 오래전부터 이 질문에 대한 답을 정해 두었다. 이 구조를 언어화한 인물 중 한 명인 피터 틸은 2019년 뉴욕타임즈에 기고한 칼럼에서 “AI는 본질적으로 군사기술이며 그 첫 번째 사용자도 장군이 될 것”이라 단언했다. 틸의 진단은 단순한 철학이 아닌 전략이다. 그는 데이터 기반 정보 분석과 국방기술을 융합한 회사 팔란티어(Palantir)의 공동창립자로, 미국 국방부 및 CIA의 핵심 파트너이기도 하다. 뿐만 아니라 그는 정치적 영향력 확장을 위해 미국 거대 자본들과의 연결고리를 강화해왔다. 2024 미국 대선을 앞두고 틸은 트럼프 대통령에게 J.D. 반스를 러닝메이트로 지명할 것을 적극 권유했으며, 이전 반스의 상원의원 선거 캠페인에 약 1500만 달러(한화 약 207억 원)에 달하는 선거자금을 지원한 주요 후원자이기도 하다. 반스는 틸의 투자 네트워크에서 경력을 시작해 틸의 ‘수제자’로 불릴 만큼 업계와 정치권 내부에서 그의 정치적 철학과 기술 비전을 공유하는 인물로 평가된다.

한편 틸은 “AI는 공산주의적이고 크립토(crpytocurrency·암호 화폐)는 자유지상주의적”이라는 유명한 발언을 남기며 (그와 함께 토론에 참여한 링크드인 창립자 리드 호프만은 “암호 화폐는 무정부주의, 인공지능은 법치의 체계”라고 응수했다) AI가 필연적으로 중앙집중화된 구조에 종속될 수밖에 없음을 지적했다. 그에 따르면 AI는 수백만 단위의 데이터, 막대한 양의 GPU, 밀도 높은 컴퓨팅 클러스터를 기반으로 하기에 기술의 발전은 곧 자본 집중의 심화로 이어진다는 것이다.

그와 함께 ‘AI 통론’을 주장해온 실리콘밸리의 ‘철학가’ 커티스 야빈(Curtis Yarvin)은 더 노골적이다. ‘멘시우스 몰드버그(Mencius Moldbug)’라는 필명으로 활동하며 ‘암흑 계몽주의(Dark Enlightenment)’의 기틀을 마련한 그는 민주주의 체제를 “늙은 소프트웨어”이자 “고장 난 운영체제”라 비판하면서 대안으로 네오카메랄리즘(Neo-Cameralism)이라는 독특한 통치 모델을 제시한다. 그의 주장에 따르면 국가는 주식회사처럼 최고경영자(CEO)의 관리 하에 운영되어야 하며, 국민은 주주가 아닌 고객일 뿐이고 더 나은 국가는 “업데이트 가능한 서비스 플랫폼”이다. 그리고 이 구조의 핵심 통제 기술이자 운영 체제가 바로 AI다. 감시, 규제, 판단, 처벌, 보상. 이 모든 것을 인간 관료 대신 알고리즘이 수행한다면 국가는 ‘보다 효율적이고 지속가능한’ 서비스 제공자가 될 수 있다. 정치는 코드가 되고 국민은 데이터가 된다. 이러한 그의 철학은 단순한 이론이 아닌 실질적인 네트워크로 이어진다.

야빈은 블로그를 운영하며 기술 엘리트들 사이에서 영향력을 넓혔고, 그의 주장은 실리콘밸리 억만장자들 사이에서 지적 바이블로 회자된다. 틸은 야빈의 사상을 공개적으로 지지하며 반스와 함께 그의 글을 여러 차례 인용했다. 틸이 투자한 스타트업들의 조직 구조와 전략적 방향성에서도 이러한 정치철학이 반영되었으며, “주식회사처럼 운영되는 국가”라는 개념은 실제로 틸이 지원했던 정치 신인들의 주요 슬로건으로 반복 재생됐다. 틸과 야빈의 지원과 지지를 받은 반스는 록브리지 네트워크(Rockbridge Network)와 같은 단체를 통해 기술 엘리트와 보수 진영을 묶는 새로운 정치 구조를 실험 중이다. 이 네트워크는 Web3, DAO(탈중앙화 자율 조직·Decentralized Autonomous Organizations), 디지털 헌법과 같은 기술 이념을 기반으로 포스트 민주주의 사회 설계를 시도하며, 동시에 공공 규제에 반대하는 AI 기업들을 보호하는 거버넌스 프레임을 구축하고 있다. 트럼프 행정부와 실리콘밸리의 거물들을 연결해 준 핵심 다리로 거론되는 이 네트워크는 최근 아시아 총괄(총괄회장)로 정용진 신세계 그룹 회장을 추진 중인 것으로 알려졌으며 미국 내부에서 국제 무대로 그 영향력을 넓히고 있다. 다시 말해 야빈의 이론은 틸의 정치적 자본을 통해 실험적인 철학이 아닌 정치적 기획서로 작동하고 있는 셈이다.

그의 철학은 이제 은밀한 개인 블로그의 수위에서 벗어나 실질적 정책 구상, 기업의 사회적 비전, 테크 리더십 교육과 연설 자료 등으로 침투하고 있다. 이 때문에 야빈은 그 방향의 ‘옳음’과 무관하게 21세기 기술 권력의 ‘정치 설계자’라고 볼 수 있다. 그는 AI와 테크 기업들이 기존 정치 구조를 대체하는 것이 아닌 “압도”하는 것을 목표로 삼아야 한다고 주장한다. 그의 사상은 단순히 보수(극우) 정치에 영향을 미치는 것을 넘어서 기술 기반 통치 구조를 지지하는 기술 경영자들과 벤처캐피탈(VC) 투자자 집단 내부에서 거의 이데올로기로 숭앙을 받고 있다. 그리고 그의 이론은 우리가 기술을 어떻게 받아들여야 할지를 넘어 어떻게 살아야 하는가에 대한 새로운 지배 조건이 되어가고 있다.

현재 틸은 트럼프 정권과의 마찰 후 작금의 정치 흐름에 회의적인 인상을 내비치며, 표면적으로 기존 정치 체제와의 거리를 둔 채 더욱 민주주의의 종식과 ‘탈국가화’ 양상을 띠고 있다.

한편, 이러한 권력의 구조는 기술 자체만으로 형성되지 않는다. 그것을 구현하는 소유 방식, 즉 산업 구조가 중요하다. 사모펀드와 빅테크의 움직임은 점점 ‘테크·AI 봉건제’라는 말에 현실성을 부여하고 있다. 블랙록(BlackRock)과 같은 거대 사모펀드들은 AI 기업을 잇따라 집어삼키며 산업 전체를 재편하고 있고 이 과정에서 자본을 통해 인프라, GPU 클러스터, 데이터센터까지 물리적으로 독점을 꾀하고 있다.

2024년 10월 미국의 사모펀드 토마 브라보(Thoma Bravo)는 영국 AI 보안 기업 다크트레이스(Darktrace)를 53억 달러(한화 약 7조3113억 원)에 인수했다. 비스타 에쿼티 파트너스(Vista Equity Partners)는 아큐마티카(Acumatica)를 인수하면서 클라우드 ERP(전사적 자원관리·Enterprise Resource Planning), 재무와 기계학습 솔루션시장까지 통합했다. 이런 인수 결정은 단순한 기술 확보와 시장 점유가 아닌 AI 인프라 자체를 독점해 경제와 사회 전반을 재편하는 시도다.

그리고 그 정점에는 마이크로소프트 사와 오픈 AI가 있다. 마이크로소프트는 GPT 모델을 자사 코파일럿 시스템에 심으며 워드(Word), 엑셀(Excel), 아웃룩(Outlook) 등의 생산성 도구 전체에 알고리즘을 주입했다. 구글은 제미나이(Gemini)를 통해 검색과 브라우저의 구조를 다시 쓰고 있으며, 메타는 광고 추천 알고리즘에 거대언어모델(LLM)을 통합해 감정 기반 소비 예측 시스템을 실험 중이다. 구글과 메타는 오픈소스를 표방하지만 정작 핵심 훈련 데이터와 알고리즘 설계는 공개하지 않고 있다. 그 과정에서 사용자의 상호작용은 피드백 루프를 통해 다시 모델 학습에 재투입된다. 메타는 자사 AI 모델 학습을 위해 사용자의 인스타그램 사진을 무단 수집한다는 논란에 휘말렸고, 구글은 자사 LLM 훈련을 위해 크리에이터들의 유튜브 영상 자막을 전수 학습했다는 보도마저 있었다. 이는 공공의 창작과 참여를 통해 이뤄진 거대한 콘텐츠의 흐름이 결국 소수의 AI 훈련 데이터로 전환되고, 그 수익은 다시 플랫폼 독점 구조로 회수된다는 것을 의미한다. AI는 점점 사용할 수 있는 사람과 사용 ‘밖에’ 못 하는 사람으로 나뉘고 있다. AI는 더 이상 누구나 공평하게 활용할 수 있는 기술이 아니다. 그것은 선택된 기업의 독점 자산이자, 독립적 사회 구조를 가능케 하는 통치 도구로 진화하고 있다.

국가 단위도 예외는 아니다. 전통적인 국가 권력은 사법과 세금, 언론, 군사력 등을 통해 국민을 관리해왔다. 그러나 AI가 이 모든 기능을 플랫폼 기반에서 구현하면서 국가는 유일한 통치 기구의 권위에서 물러나고 있다. 정보 통제는 검색 엔진과 소셜미디어가, 노동 조율은 자동화 플랫폼이, 문화 형성은 알고리즘이 대신한다. 국가는 플랫폼 위에 얹히며, AI 기술에 뒤처진 국가는 ‘통치의 도구’ 가 부족한 상태에 놓인다. 이는 군사력보다 데이터 권력이 중요해지는 시대의 징후다. 신임 이재명 정부를 비롯한 여러 국가가 주장하는 ‘소버린 AI’는 이러한 염려를 기반으로 탄생한 돌파구다.

이 지형에서 가장 앞서 있는 국가는 미국과 중국이다.

미국은 실리콘밸리와 정부의 협업을 통해 AI를 글로벌 패권의 도구로 삼으려 하고, 중국은 국가 주도의 AI 감시 시스템을 통해 내치와 외교를 동시에 추동한다. 두 국가는 각각 ‘자유 시장 기반 플랫폼 지배’와 ‘중앙 통제 기반 플랫폼 통치’라는 상이한 전략을 취하고 있지만, 공통점은 둘 다 기술을 ‘국가 권력의 확장 수단’으로 사용하고 있다는 사실이다.

대한민국은 과연 어떤가.

세계 최고 수준의 디지털 인프라와 교육, 스타트업 생태계를 보유한 한국은 기술적으로 강국이지만, 정작 AI의 규범 설계나 플랫폼 주권 측면에서는 취약하다. 미국과의 협력을 통해 클라우드와 LLM 인프라를 수입하면서도, 자국민의 데이터 주권이나 알고리즘 편향에 대한 통제력은 제한적이다. 이는 단순한 기술의 문제가 아니라, 향후 한국 사회의 정치적 자율성, 민주주의적 통제력, 경제적 독립성까지 영향을 줄 수 있는 구조적 문제다.

이러한 현실은 기술에 대한 정치경제학적 감각 없이는 설명되지 않는다. 옛 봉건 영주가 토지를 소유하고 농노를 지배했다면, 오늘날의 데이터 영주는 인프라를 소유하고 서비스를 제공한다. AI는 토지이며, 알고리즘은 농노를 배치하는 설계도다. 사용자는 주체적으로 시스템을 사용하는 것처럼 보이지만, 실제로는 자신도 그 시스템의 일부로 동원되고 있다는 사실을 인지하기 어렵다. 카를 슈미트는 정치에 있어서 결정권자를 정체화하는 것에 대한 중요성을 강조했다. 하지만 그 결정권이 더 이상 인간 주체가 아닌, 사익을 추구하는 특정 이익 집단의 코드와 알고리즘의 집합으로 옮겨간다면, 정치의 정의는 근본부터 재설정되어야 한다.

한나 아렌트는 ‘인간의 조건’에서 “정치적 삶이란 다수와의 관계 속에서 말하고 행동하는 삶”이라고 명했다. 하지만 지금의 AI는 그 관계 자체를 다시 쓰고 있다. 인간은 누구와 대화하고 무엇을 믿을지를 스스로 결정한다고 믿지만, 실은 알고리즘이 조율한 스크립트 위에서 반응하고 있다. 우리는 알고리즘을 소유하고 있는 집단이 선택한 정보를 우리의 기호이자 선호도라고 착각한다. 이는 단순한 사용성의 문제가 아니라, 인간의 판단 능력과 자율성이 재정의되고, 더 나아가 보편화된 체제의 격변을 야기하는 지점이다.

이 구조 속에서 개인의 자율성과 선택권이 점점 더 축소되고 있다는 우려가 나타나고 있다. 테크 봉건제의 핵심은 ‘데이터 영토의 사유화’다. 수십억 명이 만든 데이터가 소수 기업의 사적 자산으로 귀속되고, 알고리즘은 투명하지 않은 내부 구조 속에서 작동한다. 사용자들은 자신이 무엇을 선택하고 있는지도 모른 채 설계된 질서 위를 걷는다. 미적 판단, 정치적 견해, 사회적 감수성조차 알고리즘이 주는 문법에 의존한다.

지금 우리는 새로운 체제의 초입에 서 있다. 이 체제는 거부할 수 없다. 왜냐하면 친절하기 때문이다. 빠르고 유용하며 피로를 유발하지 않는다. 그러나 이 체제의 가장 깊은 위협은 사용자 개인이 더 이상 ‘시민’이 아니라 ‘소비자’로만 환원된다는 점이다. 민주주의의 기본 단위가 의견을 형성하고 교환할 수 있는 자유로운 인간이라면, 테크 봉건제 아래에서 인간은 그저 프롬프트를 입력하고 피드백을 받는 ‘계정’일 뿐이다. 권력은 질문하지 않는다. 대신 추천한다.

우리는 질문해야 한다. 지금 AI를 ‘활용’하고 있는가, 아니면 그 권력 질서에 ‘편입’되고 있는가? 그리고 그 질문이 가능한 자유마저 위협받고 있는 것은 아닌가?

테크 봉건제는 새로운 시대의 정치 체제다. 이름 없는 봉건, 코드화된 왕권. 데이터로 봉사하고 알고리즘으로 살아가는 체제.

그리고 우리는 어느새 그 영토에 입장했다. 원치 않아도.

저자 소개

반휘은은 글로벌 AI 거버넌스와 신기술을 전문으로 하는 정책 컨설턴트이자 저술가다. 미국 컬럼비아대학교에서 디지털 인문학, 미디어 철학, AI 윤리를 전공하며 석사 과정을 마친 후, 뉴욕 유엔 본부의 (전)기술 특사실 (현)디지털과 신기술사무국(전 Office of the Secretary-General’s Envoy on Technology, 현 Office for Digital and Emerging Technologies)에서 AI 정책 연구와 분석을 주도했다. 안보, 에너지, 노동, 건강, 법의 지배 등 다양한 분야에서 AI 거버넌스를 위한 전략적 프레임워크를 개발했으며 20회 이상의 고위급 자문 회의를 주관하며 AI 정책을 구체화했다. 구글, 마이크로소프트(MS), 메타 등 주요 산업 리더들과 협력하여 AI 거버넌스의 글로벌 표준을 마련하는 데 기여한 반휘은은, 디지털 윤리와 사회적 가치에 대한 깊이 있는 통찰을 제공한다. 학계와 산업계를 잇는 다리 역할을 하며, 현재는 AI 거버넌스를 주제로 한 책을 집필 중이다.