금융분야 인공지능 신뢰 높인다…‘금융분야 AI 보안 가이드라인’ 마련

금융위원회는 신뢰받는 인공지능(AI) 활용 환경을 구축하고자 'AI 기반 신용평가모형 검증체계'와 '금융분야 AI 보안 가이드라인'을 마련했다고 17일 밝혔다.

'AI 기반 신용평가모형 검증체계'는 AI 특성을 고려해 신용정보회사가 데이터를 적절히 관리하는지, 신용평가모형에 사용되는 알고리즘과 변수를 합리적으로 선정했는지 점검하는 것이다. 또한, 신용정보회사가 개발한 신용평가모형이 통계적으로 유의한지, 금융소비자에게 신용평가모형과 신용평가 결과에 대해 충분히 설명할 수 있는지 검증한다.

개인신용평가체계 검증위원회는 'AI 기반 신용평가모형 검증체계'를 활용해 연내 이를 활용하는 개인사업자신용평가회사에 대한 검증을 수행할 예정이다. 향후 개인신용평가회사 등의 AI 신용평가모형에 대해서도 검증을 실시할 계획이다.

'금융분야 AI 보안 가이드라인'은 AI 모델을 개발할 때 고려해야 할 보안사항을 개발단계별로 제시하고, AI 챗봇 서비스에 대한 보안성 체크리스트를 추가로 제공한다. 신뢰성 높은 출처로부터 학습 데이터를 수집하고, 데이터 출처 및 수집 시점 등을 파악할 수 있는 데이터 관리체계를 구축할 방침이다. 아울러 잠재적 공격자가 AI 모델에 대한 정보를 쉽게 유추할 수 없도록 지나치게 단순한 설계를 지양하고 AI 모델을 세부 변형하는 보안 기법 등을 적용할 예정이다.

'금융분야 AI 보안 가이드라인'은 금융보안 레그테크 포탈에 게시돼 있으며, 앞으로 새로 등장하는 보안위협·대응기법 등을 고려해 지속해서 개선·보완해 나갈 예정이다.

금융위 관계자는 "금융분야는 고품질 데이터가 풍부해 AI 활용의 잠재력이 매우 큰 분야"라며 "앞으로 '금융분야 AI 활용 활성화 및 신뢰확보 방안'의 다른 세부 추진과제에 대해서도 차질없이 추진해 나갈 것"이라고 말했다.