복지·인허가에 AI 써도 최종 판단은 ‘사람’…정부 윤리기준 마련

공공성·투명성·책임성 등 6대 핵심가치 제시
편향·사생활 침해 막는다…68개 자율점검 항목

▲기획재정부, 행정안전부. 조현호 기자 hyunho@ (이투데이DB)

복지대상자 선정이나 인허가처럼 국민의 권리와 생활에 영향을 미치는 행정업무에 AI을 활용하더라도 최종 판단과 책임은 사람이 맡는다.

행정안전부는 이 같은 내용을 담은 ‘공공부문 인공지능 윤리기준’을 확정했다고 1일 밝혔다. 공공부문의 AI 활용이 확대되면서 발생할 수 있는 편향된 의사결정과 사생활 침해 등의 위험을 줄이기 위한 조치다.

윤리기준은 AI가 행정 의사결정을 지원하거나 직접적인 판단에 활용되더라도 최종 책임과 통제 권한은 사람에게 두도록 했다. 특히 복지대상자 선정과 인허가, 위험예측 등 국민에게 직접적인 영향을 미치는 업무는 서비스 기획부터 제공까지 단계별 책임 주체를 명확하게 정해야 한다.

AI의 판단을 사람이 검토하고 필요한 경우 개입할 수 있는 감독 체계도 갖추도록 했다. 문제 발생에 대비한 사후관리와 피해구제 절차도 마련한다. 행정 효율을 높이기 위해 AI를 활용하더라도 국민의 권리와 관련된 판단까지 AI에 전적으로 맡기지는 않겠다는 취지다.

윤리기준은 공공성·형평성·투명성·책임성·안전성·프라이버시 보호 등 6대 핵심가치와 68개 자율점검 항목으로 구성됐다. 기관별 AI 활용 수준에 따라 ‘적용·응용·융합’의 3단계 자율점검 체계도 도입한다.

행안부는 공공부문 종사자를 대상으로 관련 교육을 진행하고 AI 기술 발전에 따라 새롭게 등장하는 윤리적 쟁점을 점검 항목에 지속 반영할 계획이다.