"AI시대 '디지털 봉건화' 싹 터...취약층 2등 시민 막아야" [AI 신계급사회]

김형준 한국과학기술원(KAIST) AI미래학과 학과장 인터뷰

"AI 시대, 사회 룰 바뀐다⋯'어떻게 쓸지' 넘어 '어떻게 다스릴지' 논의할 때"
"단순 정보 격차 넘어 '인지노동 증폭'⋯남는 건 '판단하는 자 vs 평가받는 자' 구조뿐"
"평가 권한 AI에 전임 안 돼⋯인간 기본권 보장하는 예견적 거버넌스 시급"

▲김형준 한국과학기술원(KAIST) AI미래학과 학과장.

"과거의 디지털 정보 격차가 '정보에 접근할 수 있느냐'의 문제였다면, AI 격차는 '판단하고 행동하는 능력을 얼마나 증폭할 수 있느냐'의 문제입니다. 이 격차가 누적되면 결국 'AI를 이용해 판단하는 사람'과 'AI에 의해 판단되는 사람' 사이의 사회적 지위 격차로 굳어질 것입니다."

김형준 한국과학기술원(KAIST) AI미래학과 학과장(문술미래전략대학원 교수)은 현재 우리 사회가 목격 중인 양극화 현상을 '디지털 봉건화'의 초기 징후라고 진단했다. 기술의 발전이 지식을 평준화하는 역설 속에서 AI가 새 형태의 불평등 구조를 고착화하고 있다는 경고다. 김 교수는 7일 본지 인터뷰에서 다가오는 AI 시대를 대비하기 위해 기술을 수용하는 '연착륙' 방안과 국가 차원의 거버넌스 재설계가 시급하다고 조언했다.

◇지식 가치 '0'의 시대⋯대물림되는 '노-후(Know-who)' 경계

김 교수는 과거 정보화 시대의 핵심 경쟁력이 필요한 정보의 위치를 아는 '노-웨어(Know-where)'였다면 AI 시대에선 무게중심이 '노-후(Know-who)'로 이동했다고 분석했다. 그는 "노-후란 단순한 인맥이 아니다. 누가 문제를 해결할 의지를 가졌는지 알아보고, 사람과 AI를 엮어 목표를 수행하게 만드는 '관계와 판단의 역량'"이라고 설명했다.

문제는 이 '관계 자본'이 지식이나 학력과 달리 가정 배경에 따라 가장 대물림되기 쉬운 자산이라는 점이다. 김 교수는 "현재 중세 시대 토지에 해당하는 데이터와 연산 인프라를 소수가 쥐는 디지털 봉건화가 싹트고 있다"며 "기득권의 관계와 기회의 가치가 '능력의 차이'로 포장되어 구조적 출발선의 차이를 가리고 있다"고 지적했다.

김 교수는 대표적인 사례로 신입사원 고용 축소를 꼽았다. 초년생의 업무는 본래 '일을 배우는 과정'인데 이것이 AI로 자동화되면서 청년 세대의 숙련 경로와 계층 이동 사다리 자체가 사라질 위기에 처했다는 것이다.

이런 상황에서 김 교수는 AI가 낳은 격차가 소외 계층을 사회 시스템 밖으로 밀어내지 않도록 시급히 '제도적 안전망'을 구축해야 한다고 강조했다.

김 교수는 "사람을 알아보는 일이 AI 시대의 가장 인간적인 역량이라면 사람에 대한 평가를 AI에 전적으로 맡겨서는 안 된다"며 "채용, 승진 등을 평가할 때는 AI와 동수 이상의 인간 평가자가 반드시 참여해 최종 판단의 무게를 인간이 쥐어야 한다"고 말했다.

또 "피평가자가 AI의 평가 결과에 근거를 두고 다툴 수 있는 실질적인 '토론의 권리'를 절차적으로 보장해야 한다"고 덧붙였다. 재난 안내 등 생명과 직결된 서비스에 대해서도 "전환 속도를 사회적 수용 속도에 맞춰 대면(아날로그) 경로 병행을 의무화해야 취약계층이 2등 시민으로 전락하는 것을 막을 수 있다"고 제안했다.

◇ '어떻게 다스릴 것인가'⋯AI 인본주의와 예견적 거버넌스

다가오는 AI 시대가 '차별의 장벽'이 아닌 '도약의 사다리'로 작동하려면 교육 시스템 개편과 국가 차원의 장기적인 정책 방향 등 우리 사회의 룰을 재설계가 반드시 필요한 상황이다. 김 교수는 이 과정에서 필요한 개념으로 ‘AI 인본주의’를 제시했다. 그는 "핵심은 AI를 '어떻게 쓸 것인가(How to Use)'에서 '어떻게 다스릴 것인가(How to Govern)'로 전환해야 한다"며 "AI의 비약적 생산성 향상의 과실을 알고리즘 앞에서의 반론권, 재교육 기회 등 인간의 '새로운 기본권'을 확장하는 데 투입해야 한다"고 목소리를 높였다.

아울러 변화 속도를 쫓아가는 사후 규제가 아니라 복수의 시나리오를 상정하고 정책을 미리 시험하는 '예견적 거버넌스'를 사회 정책 전반에 도입할 것을 촉구했다. 그는 "변화가 제도를 앞지르는 만큼 사후 규제가 아닌 '예견적 거버넌스'가 시급하다"며 “다만 이러한 재설계는 혁신의 동력을 훼손하는 것이 아니라 보완하는 방향으로 구성원의 합의를 거쳐야 한다"고 조언했다.

마지막으로 미래 세대를 위한 교육 시스템의 근본적 체질 개선도 주문했다. 김 교수는 "AI에 위임할 수 없는 '무엇을 원하고 왜 하는지'를 묻는 힘을 길러주기 위해 인문ㆍ철학 소양 교육이 필수적"이라며 "배경에 따른 관계 자본의 세습을 끊어내기 위해 공공영역에서 견습과 멘토링, 현장 협업 등 서로 다른 배경의 사람들이 소통하고 신뢰를 쌓는 기회를 적극적으로 제공해야 한다"고 강조했다.