[진단과 제언] ‘AI금융’ 윤리·투명·책임성 갖춰야

박이락 송현경제연구소 디지털금융본부장

전 세계 금융산업은 인공지능(AI)의 급속한 확산 속에서 새로운 전환기를 맞이하고 있다. AI는 더 이상 단순한 업무 효율화 도구가 아니라 신용평가, 리스크 예측, 투자 자문 등에서 기존의 인간 중심 판단 영역을 데이터와 알고리즘 중심으로 재편하는 인프라로 자리매김하고 있다. 또한 AI가 향후 토큰화 자산이나 디지털화폐가 활용하는 블록체인 기술과 결합할 경우 금융시스템의 구조적 변화는 더욱 가속될 것으로 예상된다.

이러한 변화는 금융의 효율성 제고를 넘어 시스템의 안정성, 공정성, 신뢰성 전반에 걸쳐 심대한 영향을 미친다. AI는 금융산업에 혁신을 가져오지만, 금융시스템 내에서 복잡성, 상호연결성 및 자율성을 높여 새로운 체계적 위험을 초래할 수 있다. AI의 급속한 확산이 금융안정을 위협할 수 있는 새로운 리스크 요인을 만들어냄에 따라 주요국은 기존의 ‘기술혁신 촉진’ 중심에서 ‘신뢰기반 거버넌스 구축’으로 정책 방향을 전환하고 있다.

2024년 제정된 유럽연합(EU)의 ‘AI법률’은 금융 관련 AI를 ‘고위험(high-risk)’ 분야로 지정하고 금융기관에 XAI(설명가능한 AI), 투명성, 인간 감독을 법적으로 보장할 것을 의무화했다. 이는 AI 규제가 단순한 기술 검증을 넘어 법적 책임과 윤리적 준법감시를 포괄하는 규범으로 발전했음을 보여준다.

미국의 금융감독청(OCC), 증권거래위원회(SEC), 연방준비제도(Fed) 등 주요 감독기관들이 AI의 알고리즘 편향, 데이터 오남용, 내부 통제 미비 등을 핵심 위험 요인으로 지목하고 가이드라인을 마련하고 있다.

한국은 AI 금융 거버넌스 체계의 제도화를 단계적으로 추진하고 있다. 2023년에는 ‘AI 기반 신용평가모형 검증체계’와 ‘금융분야 AI 보안 가이드라인’을 마련하여 AI의 신뢰성과 보안성을 확보하는 1단계 기반 조성을 완료했다. 그리고 2024년 말에는 2단계로 ‘금융권 생성형 AI 활용 지원방안’을 발표하여 △금융권 AI 플랫폼 구축, △금융 특화 데이터 지원, △AI 가이드라인 개정 등을 추진하고 있다.

AI 활용의 확산은 거시적 금융 불안으로 전이될 가능성이 있다. 따라서 기존의 개별 모델 검증 중심에서 데이터·알고리즘·운용 단계 전체를 포괄하는 시스템 차원의 위험관리 체계를 구축해야 한다. 전략적 목표는 규제 패러다임을 ‘기술 검증형(1세대)’에서 금융기관 간 상호연결성과 집단적 오류를 관리하는 ‘시스템 리스크 거버넌스형(2세대)’으로 전환하는 것이다. 이를 위해 책임 주체 명확화, 실시간 감독체계 고도화, 데이터 품질관리 및 허브 구축, 국제공조 강화 등이 필요하다.

AI 도입으로 금융은 자율적으로 운영·판단·검증하는 ‘지능형 금융(Intelligent Finance)’으로 전환하고 있다. AI 시대의 금융은 윤리성, 투명성, 책임성을 제도적으로 보장하는 금융체계 확립을 요구한다. 결국 AI 금융의 경쟁력은 △데이터 품질, △컴퓨팅 역량, △AI 인재, △거버넌스의 4개 축에서 결정될 것이다.

따라서 한국의 금융당국과 금융권은 이러한 요소들을 모두 균형있게 갖추어야 한다. 그래야 국내 금융산업이 국제 경쟁력을 갖추면서도 ‘지능적이고 책임성 있는 금융시스템(intelligent and responsible finance)’으로 발전할 수 있을 것이다.