금융업무에 AI 활용 '위험도' 점수화⋯ 당국, 보조수단 규정

상담 넘어 지급·사기 탐지까지…확대되는 보험사 AI 활용에 기준선 제시
FDS도 가이드라인 적용 범위 포함…‘보조수단’ 한계도 명시

▲인공지능 위험평가 항목 및 배점 예시. (금융분야 AI 가이드라인(안))

금융당국이 마련 중인 ‘금융분야 인공지능(AI) 가이드라인(안)’은 금융권에서 활용되는 AI의 적용 범위와 관리 원칙을 정리한 문서다. 챗봇과 금융상품 비교·추천은 물론 대출 심사, 신용평가와 함께 AI를 활용한 보험사기탐지시스템(Fraud Detection System·FDS)도 적용 대상에 포함된다.

8일 금융권에 따르면 금융당국은 올해 1분기 시행을 목표로 해당 가이드라인을 준비 중이다. 금융권 의견 수렴을 위해 가이드라인(안)은 지난해 말 협회 등을 통해 각 업권에 전달된 것으로 알려졌다.

가이드라인은 금융권 AI 활용 과정에서 발생할 수 있는 위험을 점검하기 위해 ‘7대 원칙’을 제시하고, 각 원칙별 점검 항목과 준수 사례(예시)를 함께 담았다. 이 가운데 합법성 원칙과 신뢰성 원칙을 설명하는 부분에는 보험사의 보험사기 탐지 시스템(FDS) 사례가 포함됐다. 보험업권에서 AI 활용이 단순 분석을 넘어 보험금 지급 여부나 조사 착수 등 실제 업무 판단에 영향을 미치는 단계로 확대되고 있음을 전제로 한 것이다.

실제 현장에서도 보험사기 탐지 분야를 중심으로 AI 활용 범위는 빠르게 넓어지고 있다. 보험업계 한 관계자는 “초기에는 고객 상담 중심이던 AI 활용이 최근에는 상품 설계, 지급 심사, 보험사기 예측 시스템 등으로 확대되고 있다”며 “특히 보험사기조사(SIU) 부서에서 실무 지원 수단으로 활용하는 사례가 늘고 있다”고 말했다.

가이드라인은 합법성(20%), 신뢰성(30%), 신의성실성(20%), 보안성(30%)을 기준으로 위험 점수를 산정해 AI 서비스의 위험 수준을 평가하도록 했다. 신뢰성 원칙의 세부 항목에는 ‘편향성’과 ‘공정성’이, 신의성실성 원칙에는 ‘계약상 권리 침해 여부’와 ‘소비자 보호 방안’이 포함됐다.

위험 점수가 50점을 넘을 경우 해당 AI는 ‘고위험 서비스’로 분류된다. 이 경우 인공지능 의사결정기구 심의, 추가 검증, 운영 단계 모니터링 강화 등 관리 절차가 요구된다. 보험사기 탐지 시스템 역시 이러한 위험평가 체계의 적용 대상이다.

아울러 가이드라인은 AI의 역할을 ‘보조 수단’으로 명확히 규정했다. AI는 사기 의심 여부를 분류하거나 판단을 지원하는 단계까지만 수행할 수 있으며, 최종 판단과 그에 따른 책임은 임직원이 부담하도록 했다. 자동화된 판단을 그대로 적용하는 방식은 허용되지 않는다. AI 판단을 따르지 않고 정상 거래로 판단한 경우, 그 사유를 시스템에 기록하도록 한 준수 사례도 포함됐다.

보험업계에서는 이번 가이드라인을 기술 규제라기보다 AI 활용의 기준선을 제시한 신호로 받아들이는 분위기다. 한 보험사 관계자는 “금융권에서는 AI 가이드라인이 조속히 나오기를 기대해왔다”며 “기준이 있어야 활용 범위와 고도화 과정에서 고려할 점을 판단할 수 있기 때문”이라고 말했다.

법적 구속력은 없지만, 금융당국이 보험사기 탐지 AI를 소비자 보호와 관리 관점에서 공식 문서에 담았다는 점에서 향후 감독·검사 과정의 참고 기준으로 활용될 가능성도 제기된다. 금융당국 관계자는 “개별 법령이 마련되지 않는 이상 가이드라인 자체에 구속력은 없다”면서도 “금융회사에 대한 협조 요청이나 행정지도로 이어질 가능성은 있다”고 말했다.