'보이지 않는 손'이 된 AI, '알고리즘 투명성'은 해결 과제로 [AI가 바꾼 행정]

▲AI 행정이 표준화된 미래 서울 모습 이미지. (미드저니/정용욱 기자 dragon@)

"신청하지 않아도, 알아서 챙겨줍니다."

먼 미래의 이야기가 아니다. 2025년 한국 행정의 현재 주소다. 과거 서류를 떼러 관공서를 직접 방문하던 '발로 뛰는 행정'의 시대, 스마트폰으로 민원을 처리하던 '전자정부'의 시대를 지나 이제는 인공지능(AI)이 시민의 필요를 먼저 파악해 서비스를 제공하는 '알고리즘 정부'의 시대가 도래했다. 하지만 AI라는 강력한 엔진을 확보하는 것만큼 이 힘을 공정하고 투명하게, '인간 중심'으로 사용하는 것이 2026년 행정의 핵심 과제로 떠오르고 있다.

2026년 이후 한국 행정은 '신청주의'와의 작별을 고할 것으로 전망된다. 지금까지는 복지 혜택을 받으려면 시민이 직접 정보를 찾고 신청해야 했지만, 앞으로는 AI가 데이터를 분석해 행정 혜택을 먼저 알려주는 '선제적 서비스'가 일반화된다.

행정안전부의 '2025년 정부혁신 실행계획'에 따르면, 정부는 국민이 놓치기 쉬운 혜택을 미리 알려주는 '혜택알리미' 서비스를 2024년 1178종에서 2025년 2300여 종으로 2배 가까이 확대한다. 또 2026년까지 구비서류 제로화 대상을 1498개로 늘려 사실상 종이 서류가 필요 없는 행정 시스템을 완성한다는 방침이다.

이러한 변화의 핵심에는 '데이터 통합'이 있다. 기존에는 부처별로 데이터가 흩어져 있어 종합적인 분석이 불가능했지만, 디지털플랫폼정부 위원회를 중심으로 데이터 칸막이가 제거되면서 AI가 개인의 상황을 입체적으로 분석할 수 있게 되었다. 이는 영국이 내각부 산하에 'i.AI(Incubator for AI)'를 설치하여 부처 간 데이터 및 AI 인프라 공유를 주도하고, 공공 서비스 혁신 기회를 발굴하는 전략과 맥을 같이한다.

AI는 행정의 범위를 '사후 처리'에서 '사전 예방'으로 확장시킨다. 재난 안전 분야가 대표적이다. 행정안전부는 2025년까지 침수 등 위험 정보를 민간 내비게이션과 실시간 연동할 계획이다. 나아가 현실 도시를 가상에 복제하는 '디지털 트윈(Digital Twin)' 기술과 AI가 결합하면, 도시 행정은 '예측 행정' 단계로 진입한다. AI가 가상 도시에서 교통, 환경, 재난 시뮬레이션을 수행해 최적의 정책을 도출하고 범죄나 전염병 확산 같은 위험을 미리 예측해 선제적으로 대응하는 방식이다.

하지만 AI 행정 확대에는 장밋빛 전망만 있는 것은 아니다. 행정 시스템이 알고리즘에 의존할수록 '블랙박스(Blackbox)' 문제는 커진다. AI가 왜 그런 결정을 내렸는지 설명하지 못한다면, 행정 처분에 대한 국민의 신뢰는 무너질 수밖에 없다. 실제로 국내 공무원들을 대상으로 한 인식 조사에서 AI 도입의 가장 큰 제약 요인으로 '업무 결과물에 대한 책임성'과 '시스템 보안성'이 꼽혔다.

해외 주요국들은 이에 대한 대비책을 서두르고 있다. 미국은 2023년 행정명령 14110호를 통해 각 연방 기관에 '최고 AI 책임자(CAIO)' 지정을 의무화하고, AI 사용 사례를 투명하게 공개하도록 했다. 호주 역시 '자동화된 의사결정 실행 가이드라인'을 통해 AI 활용 시 준수해야 할 법적, 윤리적 기준을 명확히 하고 있다.

한국 역시 '공공부문 인공지능 윤리 가이드라인' 등을 마련하고 있으나 법적 구속력이 약하다는 지적이 나온다. 한국행정연구원 보고서는 "자동행정결정에 활용되는 데이터 분석의 안전성을 확보하고, 알고리즘 영향평가를 의무화하는 법적 근거(행정기본법 등) 마련이 시급하다"고 제언했다.

이 밖에 AI가 내린 결정으로 인해 손해가 발생했을 때 그 책임을 누구에게 물을 것인가에 대한 국가배상법적 논의도 함께 이루어져야 한다는 의견이 나온다.