고려대 AI보안연구소 개소…이상근 소장 “‘AI 신뢰 1등’ 달성해야”

AI 활용 사이버 공격 급증
"신뢰할 수 있는 AI 구현이 핵심"

▲3일 고려대에서 열린 AI보안연구소 개소식에서 이상근 초대 소장이 비전 발표를 하고 있다. 김연진 기자 yeonjin@

인공지능(AI) 에이전트가 확산하면서 보안이 새로운 경쟁력으로 부상했다. 이에 고려대학교에서 새롭게 출범한 AI보안연구소는 ‘AI 3대 강국’을 목표로 하는 우리나라가 ‘신뢰할 수 있는 AI’로 1등을 노려야 한다고 제언했다. 연구소는 보안연구 거점으로 AI 신뢰 선도국가 도약에 기여할 계획이다.

3일 고려대 미래융합기술관에서 열린 AI보안연구소 개소식에서 이상근 초대 AI보안연구소장은 “연구소의 첫 번째 미션은 신뢰할 수 있는 AI 구현”이라며 “대한민국이 AI가 빠르게 확산되는 시대에 글로벌 경쟁력을 가지려면 AI 신뢰 1등을 달성해야 한다”고 밝혔다.

구체적으로 연구소는 △어떻게 AI로 더 안전한 사회를 만들 것인지 △어떻게 공격에 강한 AI를 만들 것인지 △AI를 어떻게 통제하고 검증할지 △어떻게 신뢰할 수 있는 AI 산업 생태계를 구축할지라는 4가지 질문에 답하는 역할을 할 계획이다.

최근 AI를 활용한 사이버 공격은 급증하고 있다. 이 소장은 “중국의 사이버 공격 작전 수는 전년 대비 150% 증가했으며 랜섬웨어도 8% 증가하는 등 역대 최대의 보안 위협 시대”라며 “섀도우 AI로 인한 피해는 건당 67만달러가 될 것으로 전망된다”고 말했다.

AI가 공격자들에 의해 오남용되는 상황에서 사이버 위협 대응 체계 구축이 필수적이다. 이 소장은 “연구소가 AI 보안 싱크탱크 역할을 하겠다”며 “독일 ‘프라운호퍼’의 연구 결과를 기반으로 표준화협회(DIN)를 거쳐 인증기관 ‘TUV’로 이어지는 것처럼 ‘인증 시스템’을 만드는 데 기여하겠다”고 강조했다.

이 소장은 특히 AI 에이전트 시대를 대비한 검증 체계 구축을 강조했다. 그는 “대리자에게 업무를 맡기려면 목적·과정·성능이 검증돼야 하듯이 AI 역시 동일한 기준이 필요하다”며 “신뢰할 수 있는 AI를 만들기 위해선 안전하고 공정하며 검증·설명·추적 가능하고 개인정보 보호와 공격에 강한 AI를 구현해야 한다”고 설명했다.

연구소는 AI 기술 보안 연구센터, AI 기반 보안 연구센터, 산업특화 AI 보안 연구단, AI 보안 시험평가센터 등으로 구성된다. 운영 방안이나 전략을 듣기 위한 ‘자문위원회’와 기관·대학이 모여 AI 보안 발전 방향을 논의하는 ‘AI 보안 얼라이언스’도 구축할 예정이다. 연구소 설립에는 정보보호대학원 소속 교수 8명이 참여했으며, 향후 타 학과 교수들도 참여하는 개방형 구조로 확장할 계획이다.

이날 개소식에는 정익래 고려대 정보보호대학원장을 비롯해 임종인 고려대 정보보호대학원 초대 원장, 박상원 금융보안원 원장, 홍진배 정보통신기획평가원장이 참석했다. 김명주 AI안전연구소장과 김창오 과학기술정보통신부 정보보안 PM이 AI 안전과 관련한 발표를 진행했으며 이후 권태경 연세대 정보대학원 교수, 이원태 국가AI전략위 보안특별위원장, 전병욱 한국자동차연구원 AI·자율주행기술연구소장, 정현철 한국인터넷진흥원 연구위원 등이 참여해 ‘어떻게 AI 신뢰 1위 국가가 될 것인가’를 논의했다.