카카오, AI 에이전트 위험 5대 영역으로 관리…윤리 지침 연내 적용

▲카카오가 13일 경기도 용인 카카오 AI 캠퍼스에서 개최한 개발자 행사 ‘이프 카카오(if(kakao)26)’에서 AI 에이전트의 자율성 확대에 대응하기 위한 새로운 AI 윤리 원칙과 이행 지침을 공개했다. (사진제공=카카오)

카카오가 AI 에이전트의 자율성 확대에 대응해 위험 관리 체계를 강화한다. AI 서비스의 기획부터 운영까지 적용할 윤리 원칙과 이행 지침을 마련하고 연내 위험 점검 체크리스트를 도입할 계획이다.

카카오는 AI 윤리 원칙 ‘SPIRIT’과 이행 체계 ‘NORMA’, 윤리 이행 체크리스트를 경기도 용인 카카오 AI 캠퍼스에서 열린 개발자 행사 ‘이프 카카오(if(kakao)26)’에서 공개했다고 15일 밝혔다.

새 윤리 원칙인 SPIRIT은 안전, 프라이버시, 포용, 책임, 이용자 주체성, 투명성과 신뢰성 등 6개 항목으로 구성됐다. 대한민국 AI 윤리원칙의 3대 가치와 7대 원칙을 주요 기준으로 삼고 카카오 서비스의 특성을 반영했다. 이행 체계인 NORMA는 AI 윤리 문제를 조직 공동의 책임 아래 관리하고 실제 서비스에 적용할 수 있도록 구체화한 실행 방식이다.

카카오는 자율 에이전트의 위험 요인을 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 구분했다. 각 영역에 인간의 감독과 비상 제어, 권한 통제, 데이터 보호 등의 관리 방안을 적용한다. 이를 위한 윤리 이행 체크리스트는 서비스 속성 파악, 사전 위험 검토, 통제 항목 점검·판정 등 3단계로 운영되며 연내 도입할 예정이다.

아동·청소년 보호를 위한 점검도 강화한다. 카카오는 2025년부터 적용한 디지털 아동·청소년 보호 체크리스트에 더해 경제협력개발기구(OECD)와 유니세프의 아동 온라인 위험 분류 체계인 ‘5Cs’를 참고해 AI 특유의 위험 요소를 새 점검 항목에 반영할 계획이다.

이번 윤리 원칙과 이행 지침은 7월 발족한 AI&기술윤리소위원회 외부 자문단 7명과 카카오 내부 AI 안전·개인정보·정보보안·서비스 담당 부서가 공동으로 마련했다. 카카오는 2018년 알고리즘 윤리헌장을 발표하고 2022년 AI&기술윤리소위원회를 설립하는 등 AI 윤리 관리 체계를 운영해 왔다.

김세웅 카카오 AI&기술윤리소위원회 위원장은 “외부 자문단과 내부 조직의 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다”며 “AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다”고 말했다.