서울시, ‘AI 행정’ 윤리 기준 세웠다… 공정성·책임성 등 5대 원칙 정립

▲서울시 AI 비전도. (자료제공=서울시)

서울시가 행정 전반에 인공지능(AI) 기술 도입이 가속화됨에 따라 시민들이 안심하고 신뢰할 수 있는 ‘AI 행정’ 구현을 위한 윤리적 기준을 마련했다고 4일 밝혔다.

이날 시에 따르면 이번 지침은 AI 기술이 단순한 행정 효율화 도구를 넘어 시민의 삶에 직접적인 영향을 미치는 공공 수단으로 자리 잡은 만큼 오남용이나 차별 등 잠재적 위험요소를 예방하고 책임 있는 활용 체계를 구축하기 위해 마련됐다.

시는 이번 지침을 통해 ‘서울형 AI 윤리 기준’으로 △공공성 △공정성 △투명성 △책임성 △안전성 등 5대 원칙을 제시했다. 우선 ‘공공성’ 원칙에 따라 AI 도입 시 시민의 복리 증진과 공공 목적 부합 여부를 최우선 기준으로 삼도록 했다. ‘공정성’ 원칙은 알고리즘 편향성으로 인해 특정 계층이나 집단이 차별받지 않도록 형평성을 보장하는 것을 골자로 한다.

또 ‘투명성’ 원칙을 통해 AI의 판단 근거와 활용 과정을 시민이 이해할 수 있도록 설명 가능성을 확보하도록 했으며, ‘책임성’ 원칙을 명시해 AI는 의사결정 보조 수단임을 분명히 하고 최종적인 판단과 책임은 사람이 지도록 했다. ‘안전성’ 원칙을 통해 개인정보 보호와 시스템 보안 강화를 의무화했다.

이번 지침은 지난해 9월 제정된 서울시 인공지능윤리 기반 조성에 관한 조례의 후속 조치다. 적용 범위는 서울시 본청과 자치구, 시 산하 투자·출연기관과 위탁·용역 수행기관까지 포괄한다. 시 업무를 수행하는 과정에서 AI를 활용하는 모든 주체가 대상이다.

시는 이번 지침 마련을 위해 지난해 7월부터 서울AI재단과 함께 타당성 분석 연구를 진행했으며, 국제인공지능윤리협회 등 전문기관의 자문을 거쳐 완성도를 높였다. 향후 기술 발전 속도와 정책 환경 변화에 맞춰 지침을 지속적으로 보완해 나갈 방침이다.

강옥현 서울시 디지털도시국장은 “이번 지침은 AI가 행정의 일상적 도구가 된 시대에 시민의 권리를 보호하면서도 기술을 책임 있게 활용하기 위한 기준점”이라며 “윤리와 신뢰를 기반으로 한 AI 행정을 정착시켜 서울이 글로벌 AI 선도 도시로 도약하도록 최선을 다하겠다”고 말했다.