정부, 3대 가치와 7대 원칙 담긴 ‘AI 윤리원칙’ 제정

▲AI 윤리원칙. (사진제공=과학기술정보통신부)

‘대한민국 인공지능 윤리원칙’이 21일 확정됐다. AI 윤리원칙은 AI의 건전한 활용과 사회의 지속적인 발전을 위해 AI를 개발·제공하고 이용하는 다양한 주체와 사회 전체가 함께 지켜나가야 할 공통의 가치와 원칙을 밝힌 것이다.

과학기술정보통신부와 정보통신정책연구원(KISDI)은 제12회 과학기술관계장관회의에서 안전하고 신뢰할 수 있는 AI 기본사회 구현을 위한 AI 윤리원칙이 확정됐다고 24일 밝혔다. 정부는 2020년 ‘AI 윤리기준’을 계승하되 기술 발전과 ‘AI 기본법’ 시행 등 달라진 여건을 반영해 새 윤리원칙을 마련했다.

윤리원칙은 사회 전 영역에 적용되어 각 분야 윤리기준과 지침의 토대가 될 전망이다. AI를 둘러싼 물음에 일률적인 답을 정하기보다 판단 과정에서 살펴야 할 사항을 밝혀 각 주체가 갈등을 줄이고 함께 답을 찾아가는 데 필요한 자율적 실천의 방향을 제시한다.

윤리원칙은 3대 가치와 7대 원칙으로 구성된다. 3대 가치는 모든 사람이 수단이 아닌 목적 그 자체로 존중받으며 존엄과 인권을 온전히 누리는 ‘인간의 존엄성’, AI의 편익이 개인의 삶을 넘어 사회적 신뢰와 공동의 이익으로 이어지는 ‘사회의 공공선’, 그 편익을 현재와 미래 세대가 함께 누리며 환경과 사회의 기반이 지속되는 ‘인류의 지속가능성’이다.

7대 원칙은 △인간중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성으로 이러한 가치를 실현하기 위해 모든 주체가 AI 전 생애주기에서 실천해야 할 공통의 기준이다. 각 원칙별로 구체적인 설명과 공급자, 이용자, 정부·사회 등 주체별 역할을 제시해 실제 AI 개발·제공·이용 과정에서 참고할 수 있도록 했다.

과기정통부와 KISDI는 2025년 12월부터 윤리원칙 제정을 추진해 왔다. 작업반과 자문단 운영을 통해 올해 5월 29일 초안을 공개했다. 이후 산업계·시민사회·학계·관계부처와 일반 국민으로부터 총 153건의 의견을 접수했으며, 8월 14일 대토론회를 거쳐 윤리원칙을 보완하고 최종안을 마련했다.

이번 윤리원칙의 특징은 세 가지다. 첫째, AI의 활용이 이미 선택이 아니라 ‘어떻게 잘 활용할 것인가’의 문제가 된 만큼 사회의 지속가능성을 위해 각 주체가 지켜야 할 원칙을 담았다. 둘째, AI를 이용자도 책임 있는 AI 활용의 주체로 보고 이용자의 윤리와 역할도 함께 강조했다. 셋째, AI 역량과 자원을 많이 가진 국가와 기업이 영향력에 걸맞은 책임을 다하고, AI의 혜택이 특정 국가·지역·집단에 치우치지 않아야 한다는 국제사회를 향한 메시지도 담았다.

과기정통부는 윤리원칙이 현장에서 잘 실천될 수 있도록 후속 조치를 추진할 계획이다. 사례 중심의 해설서와 분야별 자율점검표, 대상별 윤리교육 교재 등을 마련·보급하고, 윤리원칙을 지속적으로 점검·보완하는 한편 국제사회에도 공유·확산해 나갈 예정이다.

배경훈 부총리 겸 과학기술정보통신부 장관은 “AI 혁신을 가속화하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다”라며 “AI 윤리원칙이 AI에 대한 사회적 신뢰를 높이고, 바람직한 개발·활용과 그 혜택의 확산을 돕는 실천의 기준으로 자리 잡도록 뒷받침하겠다”고 말했다.