[진단과 제언] ‘AI 주권’은 기술 아닌 신뢰의 경쟁이다

신철호 | OGQ 대표, 연세대학교 정치외교학과 겸임교수

기술 발전의 속도가 인간이 감당할 수 있는 속도를 넘어섰다. 2022년 11월 챗GPT가 등장한 이후 전 세계는 단숨에 인공지능(AI)이 만들어낸 텍스트, 이미지, 영상으로 가득 찬 정보의 홍수 속으로 들어왔다. 정보는 넘치는데 신뢰는 줄어드는 모순적인 현실, ‘AI 슬럼’이 됐다. 저품질 콘텐츠가 온라인을 뒤덮고, 저작권과 윤리는 배제되며, 국가의 데이터 주권마저 흔들리는 상황이다. 각국이 ‘소버린 AI’를 국가 전략으로 채택하고 수백조 원을 투입하는 이유는 단순하다. 목표는 “우리 기술로 다 만들자”가 아니라, “우리 데이터와 우리 규칙, 그리고 우리의 신뢰를 지켜낼 수 있는가”라는 질문이다.

AI 시대의 첫 번째 장벽은 저작권의 붕괴다. 지금 우리가 사용하는 대다수의 거대언어모델(LLM)은 저작권자의 허락 없이 수십억 개의 텍스트와 이미지 등을 학습했다. 게티이미지와 스태빌리티 AI의 소송은 그 시작에 불과하며, 원본 데이터를 무단으로 사용하는 관행은 전 세계적인 법적 충돌로 확산되고 있다. AI의 생성물은 딥페이크, 초상권 침해, 상표 도용까지 포함하며, 창작자의 권리를 소리 없이 잠식하고 있다. 이 문제는 단순히 소송의 증가가 아니다. 정당한 보상이 무너지기 시작하면 창작자가 하나둘 산업에서 빠져나가고, 결국 콘텐츠 전체의 글로벌 신뢰가 붕괴할 수 있다. AI가 잘못된 방식으로 학습하면 콘텐츠 산업은 누구도 눈치채지 못한 채 ‘조용한 붕괴’를 겪게 된다.

두 번째 장벽은 윤리가 사라진 AI가 만들어내는 차별의 자동화다. AI는 사람을 닮지 않는다. 데이터를 닮는다. 편향된 데이터를 학습하면 그 편향을 더 크게 확대한다. 매사추세츠공과대학(MIT)의 연구에 따르면 일부 얼굴 인식 기술에서 어두운 피부를 가진 여성의 오류율은 34%가 넘는다. 이런 기술이 채용, 대출, 보험에 사용된다면 특정 집단은 태어나는 순간부터 더 나쁜 조건을 부여받는 셈이다. 인터넷 텍스트에 의존하는 지금의 LLM 구조는 근본적으로 편향과 소음을 내재하고 있으며, 이를 교정하지 않은 채 AI를 의료, 교육, 사법 시스템에 적용하면 결국 사회의 불평등을 ‘디지털 계급’ 형태로 고착시키게 된다. 그래서 국가가 주도하는 윤리 데이터셋과 벤치마크 구축이 시급하다. 기술의 공정성을 개인에게 맡길 수는 없다.

AI 편향은 겉으로는 보이지 않는다. AI는 스스로를 중립이라 말하지만 그 내부에는 ‘기본값’이 숨겨져 있다. 자체 진행한 실험에서 “일반적인 사람”을 만들어달라고 요청했더니 최상위로 생성된 인물은 ‘동아시아 여성, 21세, 교도관’이었다. 이유를 분석해보니 세 가지가 있었다. AI가 부드러운 표정을 만들 때 오류율이 낮은 얼굴 구조, 데이터셋에서 가장 깨끗하게 라벨링된 이미지, “gentle, kind, soft smile” 같은 긍정 라벨이 특정 그룹과 결합해 학습된 구조였다. 반대로 ‘연쇄살인마 현상수배’ 이미지를 요청하니 대부분 백인 남성이 생성됐다. 이것은 악의의 문제가 아니라 데이터와 안전 규칙이 만들어놓은 기본값 때문이다. 도시를 그리면 뉴욕, 정부청사는 서구식 건물, 정치인은 백인 남성이 되는 것이다. 중립은 곧 서구형이라는 감춰진 규칙이 된 것이다. 편향 척도와 질문 프레임워크를 구축해 기본값을 체계적으로 측정해야 하는 이유이다.

한국형 LLM을 만든다는 목표만으로는 충분하지 않다. 성능이 뛰어나도 윤리와 저작권이 빠진 LLM은 한국 사회를 위한 모델이 될 수 없다. 해법은 두 가지다. AI 필터링 에이전트를 통해 프롬프트와 출력 양쪽에서 저작권·초상권·상표·유해 콘텐츠를 실시간 검증하는 공적 필터를 만들고, 모든 AI 서비스가 이를 의무적으로 통과하도록 하는 구조를 만드는 것이다. 다른 하나는 AI 윤리 벤치마크를 통해 한국 사회의 맥락을 반영한 편향·윤리 데이터셋을 만들고 전문가와 시민이 함께 검증하는 ‘Human-in-the-Loop’ 시스템이다.

그렇다면 국가 전략은 무엇이어야 하는가. 첫째, 데이터 경제의 컨트롤 타워인 ‘데이터인공지능청’을 설립해 생성·유통·활용·보상 체계를 하나로 통합하는 제도적 기반을 만든다. 둘째, ‘저작권보험심사평가원’을 도입해 보험 원리를 AI 데이터 사용에 적용한다. 창작자는 선지급 보상을 받고, AI 기업은 합법적 대량 학습권을 얻으며, 산업 전체는 예측 가능한 구조를 갖게 된다. 셋째, 국제 표준화다. 모든 AI 생성물에 우리 자체의 SynthID 기반 워터마크를 의무화하고, 수익이 발생하면 원저작자에게 자동 정산하는 법적 구조를 마련한다. 그리고 상용 AI 서비스는 출시 전 윤리·편향 테스트를 통과하고 결과를 공개해야 한다. 이것이 구현되면 한국은 기술을 수입하는 나라가 아니라 신뢰의 규칙을 수출하는 나라가 된다.

AI 경쟁은 파라미터의 크기나 모델의 성능을 겨루는 싸움만이 아니다. 누가 더 신뢰할 만한 규칙을 만들고, 그 규칙 위에서 산업을 성장시키는가의 싸움이다. 한국은 규제 중심의 유럽 모델도, 자율 중심의 미국 모델도 그대로 가져올 수 없다. 우리는 두 가지의 장점을 결합한 ‘신뢰 기반 산업화’라는 제3의 길을 선택할 수 있다. 한국의 콘텐츠 산업, 데이터팩 수출, 공정성 높은 AI, 윤리적 AI 강국이라는 국가 브랜드까지, 이 모든 가능성의 출발점은 단 하나의 질문이다. “우리는 어떤 규칙을 만들 것인가.” 그 대답을 우리가 함께 만들어가는 일이야말로 대한민국의 새로운 AI 주권을 세우는 출발점이다.

신철호

OGQ 대표. 연세대학교 정치외교학과 겸임교수. AI, 데이터, 플랫폼 등 분야에서 활동하고 있다.