[진단과 제언] AI시대의 사회계약 ‘존중과 보상’

신철호 OGQ 대표/연세대 정치외교학과 겸임교수

인공지능(AI) 학습은 결국 인간이 만들어낸 데이터를 토대로 이루어진다. 우리가 쓰고 말하고 기록한 모든 것이 AI가 사고하고 판단하는 기반이 된다. 그럼에도 지금까지 AI의 발전은 이러한 인간 창작의 기여를 존중하지 않은 채, 데이터의 출처와 기여자, 보상도 불분명한 상태로 이어져 왔다. 지금 필요한 것은 기술이 아니라 ‘질서’다.

최근 크리에이티브 커먼스(Creative Commons)는 새로운 신호 체계 ‘CC시그널(CC Signals)’을 발표하며, AI가 콘텐츠를 사용할 때 반드시 지켜야 할 기준을 제안했다. 바로 크레딧(출처 표기), 직접 기여(금전적 보상), 생태계 기여(커뮤니티 지원), 개방(AI 시스템 공개)이다. AI가 인간의 창작물을 사용할 수는 있지만, 그 과정에는 반드시 정당한 인정과 보상, 혹은 기여의 방식이 전제되어야 한다.

이러한 시도는 OGQ가 제시한 ‘AI 창작 3원칙’과도 결을 같이한다. AI는 인간 창작을 대체하지 않고, AI 콘텐츠는 명확히 구분되어야 하며, 나아가 AI는 창작 그 자체와 사람과의 상호작용을 확장하는 도구로 기능해야 한다. 인간 창작의 존엄을 지키면서 AI 기술을 활용하는 방식에 대한 합의는 더 이상 민간 기업의 선언이나 캠페인 차원에 머물러서는 안 된다.

앞으로는 국제적인 AI 데이터 인증 체계와 수익 분배 연합의 사회계약이 필요하다. 각국은 우리나라의 저작권위원회처럼 공인된 인증 기관을 통해 자국 내 창작 데이터를 등록·관리하고, AI 기업은 이 인증 데이터를 학습할 경우 수익을 기여도에 따라 창작자와 분배하는 구조를 갖춰야 한다. 이런 시스템이 없다면 인간 창작은 자원으로만 취급되고, 결국 AI가 인간을 대체하는 수순으로 나아가게 된다.

일론 머스크는 “더 이상 인간이 만든 데이터를 학습할 필요가 없다”며 앞으로는 합성 데이터로 넘어갈 것이라 말했다. 또한 사회과학은 AI 학습에 유의미하지 않다는 취지의 발언을 하기도 했다. 이는 기술만을 보는 좁은 시야다. 합성 데이터는 기존의 편향을 그대로 학습해 결과가 같아지는 원인이 되기에, 인간 존엄을 지키는 데이터의 비중을 키워야 할 이유가 있다.

AI가 합성 데이터를 만들려면 여전히 방대한 고유 맥락을 가진 인간 데이터가 필요하다. 인간 사회의 정치·문화·감정·관계가 담긴 데이터는 AI의 편향을 막는 핵심 자원이기도 하다. 엔지니어적 관점에서 불필요하다고 판단되는 비정형 데이터가 오히려 AI의 윤리와 다양성을 지키는 근거가 된다.

AI의 편향을 제거하고 지속가능한 사회적 신뢰를 확보하려면 데이터 편향을 감시하고 조정하는 법적 제도와 위원회 또한 필요하다. 특정 민족이나 계층, 성별이나 이념에 기울어진 데이터가 학습된다면 AI는 공정성을 잃고 사회적 분열을 촉진할 수밖에 없다. 소수자와 다수자, 중심과 주변이 균형을 이루는 데이터 구조는 AI의 정확성보다 더 중요한, 기술과 사회의 공존 조건이다.

AI 그 자체는 기술의 진화일 뿐 문명의 진보는 아니다. 인간 창작이 지속될 수 있는 생태계를 만들지 않는 한, AI는 빈 껍데기만을 무한히 반복하게 된다. 지금 우리가 구축해야 할 것은 AI의 발전만이 아니라, 인간의 창작이 존중받고 보상받는 기술 사회의 질서다. 이 질서 없이는 어떤 기술도 지속가능하지 않다.

신철호

OGQ 대표. 연세대학교 정치외교학과 겸임교수. AI, 데이터, 플랫폼 등 분야에서 활동하고 있다.