[시론] AI기본법, ‘기술·규제’ 두 토끼 잡으려면

한광식 전문대학평생직업교육협회 사무총장/세종특별자치시 지방시대위원회 위원

지난달 22일 세계 최초로 ‘인공지능(AI) 발전과 신뢰 기반 조성 등에 관한 기본법’(일명 ‘AI기본법’)이 시행됐다. 인공지능 규제법을 전면 시행하는 최초 국가가 된 것이다. AI기본법은 AI 기술·산업 등과 관련해 AI에 대한 포괄적이고 상위적인 지위를 명시하고 있다. 핵심은 ‘산업 진흥’과 ‘신뢰 확보’에 있다.

산업 진흥 측면에서는 AI 연구개발과 학습용 데이터 구축, 전문인력 확보, AI 데이터센터 구축지원 등에 이르기까지 기업의 혁신을 위한 법률상 지원 사항과 세부 기준 및 절차 등을 구체화했다. 또한 신뢰 측면에서는 AI 윤리와 검증, 투명과 안전성 확보 그리고 국민의 생명과 권리에 중대한 영향을 미칠 수 있는 ‘고영향 AI’ 규정을 법률로 제시하고 있다. 이 법의 진흥책을 보면, 과학기술정보통신부가 3년마다 인공지능 관련 산업의 진흥, 국가 경쟁력 강화를 위해 인공지능 기본계획을 세우고 이를 시행하도록 하고 있다.

‘고위험 AI’ 구체적 기준 명확히 하고

법과 규제는 사회의 안전과 공정성을 보장하기 위한 필수적 요소다. 따라서 무엇보다도 균형 잡힌 정책을 유지하는 것이 중요하다. 이를 위해 ‘AI기본법’에서 유념해야 할 사항이 있다.

첫째는 ‘고영향 AI’의 불확실성이다. 이 법을 통해 고영향 AI를 정의하고 규제하는 근거를 마련하고 있지만, 정의가 크고 서로 해석 여지가 다를 수 있다. 유럽연합 ‘AI법’과는 달리 한국은 ‘고위험’이라는 표현을 사용하고, 실제 규제 내용에서는 부정적 영향만을 전제로 하고 있다. 금지 AI 조항이 부재하고, 고위험 AI에 대한 구체적 기준이 명확하지 않다는 점이다. 정부는 우선 국민의 기본권과 생명에 직결된 10개 영역을 고영향 AI로 지정하고, 구체적으로는 ‘레벨 4 이상의 완전 자율주행 기술’ 등이 포함되어 있다. 아직 업계에서는 좀 더 세부적인 가이드라인이 필요하다는 입장이다.

둘째는 과도한 규제의 문제다. 이 법은 AI 산업 발전을 돕고 신뢰받는 생태계를 조성하는 데 초점을 맞추고 있다, 그러나, 많은 기업이 자본, 인력, 인프라가 부족한 상태에서 법 적용을 따르기는 그리 녹녹지 않은 상태다. AI 스타트업과 관련 업계는 일부 법 규정의 모호성에 대해 우려를 표하고 있다.

셋째는 법의 실효성 측면이다. 이 법이 자칫 산업 혁신을 저해할 수 있다는 우려가 있다. 인공지능을 기반으로 활용한 딥페이크(deepfake), 허위 사실 유포, 인권 침해 등 고도화된 인공지능의 폐해로부터 사회를 지킬 규범도 필요해 보인다.

넷째는 산업 혁신과 규제의 균형 측면이다. AI 기술의 발전 속도에 산업 변화가 효과적으로 대처하기 위해서는 이해관계자 간 협력과 법의 세부 조항들이 명확히 규정되어야 법과 규제를 효율적으로 준수할 수 있는 환경이 마련될 수 있다.

잠재적 위험 최소화, 신뢰성 확보해야

현재 AI 기술발전과 산업 혁신을 동시에 고려해야 하는 복잡한 상황을 보여주고 있다. 법과 규제를 통해 안전과 질서를 유지하고, 공정한 경쟁 환경을 조성한다는 면에서는 매우 의미가 있지만, 자칫 산업 발전을 저해할 수도 있다는 점이다.

따라서 정부는 인공지능이 국민 생활에 미치는 잠재적 위험을 최소화하고, 인공지능의 안전성과 신뢰성 확보를 위한 기술개발, 교육, 홍보를 체계적으로 추진해 나가야 한다. ‘AI기본법’이 우리나라가 기술 강국으로 도약할 수 있는 발판이 되기를 바란다.