AI 룰세팅 전세계 각축전…"자비스급 AI 오는데 안정장치 없는 韓"

▲엄열 과학기술정보통신부 정보통신정책관이 마루 180에서 열린 2024 AI Safety Compass 컨퍼런스에서 ‘2024 인공지능 정책 방향’에 대해 발표하고 있다. (사진제공=국제인공지능윤리협회)

오픈AI, 구글, 마이크로소프트 등 빅테크의 인공지능(AI) 패권 경쟁만큼 AI 룰세팅(규칙제정)의 주도권을 가져가기 위한 강대국들의 경쟁이 치열해지고 있다. 국내에서도 국제표준 선점을 위해 선제적으로 AI 기본법을 제정해야 한다는 지적이 나온다.

전창배 국제인공지능윤리협회(IAAE) 이사장은 16일 서울 강남구 마루 180에서 열린 2024 AI Safety Compass 콘퍼런스에서 “위험할 수 있는 자동차를 안전하게 탈 수 있는 것은 브레이크와 같은 기술적 안전장치와 더불어 도로교통법과 같은 법과 제도 덕분”이라며 “인공지능 역시 AI 윤리라는 안전장치가 필요하며 안전한 인공지능 생태계 구현을 위한 법과 제도 마련이 그 어느 때보다 중요하다”고 강조했다.

전 이사장은 “최근 전 세계적으로 AI 논리와 법 제도의 주도권을 가져가기 위한 AI 강국들의 경쟁이 치열해지고 있다”며 “AI 서울 정상회의가 22일 개최되는데 이 같은 국제적인 논의도 굉장히 중요하지만, 국내 차원에서도 AI 관련법과 제도가 선제적으로 마련돼야 한다”고 설명했다.

챗GPT 출시 이후 AI 기술 혁신과 맞물려 할루시네이션(환각), 딥페이크, 가짜뉴스, 저작권 침해 등 악용 사례도 등장하자 AI 선진국들은 이미 발 빠르게 대응하고 있다. 국내에서 인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안이 국회 과학기술정보방송통신위원회 법안2소위를 통과한 채 1년 넘게 계류된 동안 유럽연합(EU)에서는 3월 세계 최초로 AI 기본법을 통과시켰다. 미국은 지난해 10월 AI 안전성 평가 의무화, AI 안전성 표준 마련 등을 담은 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’을 발표했다.

엄열 과학기술정보통신부 정보통신정책관은 “AI 기본법 수정안은 인공지능 산업 발전을 위한 기술 도입의 활용 측면이나 기술 개발 지원, 국제협력에 대한 법적 근거가 마련돼 있다”며 “신뢰를 조성하기 위해 생명, 신체, 기본권 등에 중대한 영향을 미칠 우려가 있는 고위험 AI를 정의하고 관련 분야를 사업자가 개발하는 경우에는 사업자 책무를 규정하고 있다”고 설명했다. 그러면서 “위험에 따라 AI를 4단계로 분류하고 강력한 벌칙을 부과하는 EU와 달리 국내 AI 기본법은 발전과 신뢰기반 조성의 균형을 위한 필요 최소한의 의무룰 규정하고 있는 것이 국내법의 특징”이라며 “21대 국회에서 통과되지 않을 경우 22대 국회에서 원점부터 논의해야 하는 만큼 빠르게 통과되길 기대한다”고 덧붙였다.

AI 위험성이 확산하자 미국, 영국, 일본 등에서 선제적으로 AI 안전연구소를 설립해 정부 주도로 AI 안전 표준을 만드는 추세다. 자국 기술 경쟁력을 확보하기 위해서다. 정부도 AI 안전연구소를 설립해 신뢰할 수 있는 AI 생태계 구축에 앞장서겠다는 계획이다.

엄 정책관은“미국, 영국, 캐나다, 일본이 AI 안전 연구소 설립을 발표했다”며 “이는 지역적으로 안전연구소와 관련된 규제 체계를 선점하겠다는 의도로 보여진다. 한국도 이 부분을 놓치지 않고 준비하겠다”고 설명했다.