소비자보호 임원 만난 금감원 “AI 편향·딥페이크 피해 막아라”

▲(사진=AI 생성)

금융감독원이 금융권 소비자보호 담당 임원(CCO)들을 긴급 소집해 AI·디지털 금융 확산 과정에서 발생할 수 있는 소비자 피해 대응 방안을 점검했다. AI 알고리즘 편향에 따른 차별 가능성부터 챗봇 상담 과정의 선택권 제한, 딥페이크 기반 보이스피싱 위험까지 디지털 금융 전반의 새로운 리스크가 커지고 있다는 판단에서다.

금감원은 21일 이종오 디지털·IT부문 부원장보 주재로 은행연합회·금융투자협회·생명보험협회·손해보험협회·여신금융협회 및 주요 금융회사 소비자보호 담당 임원들과 ‘디지털금융 이용자 보호를 위한 간담회’를 개최했다.

이번 간담회는 금융서비스 대부분이 IT 기반으로 제공되는 환경에서 정보기술 부문 임원뿐 아니라 소비자보호 담당 임원의 역할 확대가 필요하다는 판단 아래 마련됐다. 금감원은 디지털 금융 환경 변화 과정에서 새롭게 등장하는 소비자 권익 침해 요인을 점검하고 금융사의 대응 체계 강화를 주문했다.

금감원은 주요 위험 요인으로 △AI 편향·오류 위험 △알고리즘 기반 선택권 제약 △디지털 디바이드에 따른 금융소외 △IT 사고 발생 시 책임 불명확 및 피해구제 지연 등을 제시했다.

특히 AI 모델이 성별·직업 등에 편향된 데이터를 학습해 차별적 결과를 낼 가능성과 챗봇 상담 과정에서 소비자 선택권이 제한될 수 있는 문제 등을 사례로 언급했다. 또 고령층·장애인 등의 디지털 접근성 문제와 딥페이크·음성변조 기반 보이스피싱 위험 확대 가능성도 지적했다.

금감원은 금융사들에 IT 사고 발생 시 기술적 복구뿐 아니라 이용자 통지 절차, 대체 서비스 제공, 피해보상 기준 마련 등 이용자 중심의 사고 대응 체계를 전면 재점검할 것을 요청했다. 아울러 AI 알고리즘 도입 과정에서 소비자 영향 평가를 실시하고, AI로 인한 피해 발생 시 취소·보상 근거도 마련해야 한다고 강조했다.

이종오 부원장보는 “디지털·AI 혁신으로 금융의 생산성과 편익이 높아졌지만 이전에는 없던 새로운 이용자 불편 요인도 등장하고 있다”며 “금융 혁신이 효율과 포용을 함께 추구하는 소비자 중심의 디지털 경영으로 자리잡을 수 있도록 소비자보호 담당 임원이 적극적인 조정자 역할을 해야 한다”고 말했다.