숭실대 AI 안전성 연구센터, (주)엔키화이트햇과 MOU 체결

(숭실대)

숭실대 AI 안전성 연구센터는 지난 9일 'AI 안전성 연구센터 세미나'를 개최하고 ㈜엔키화이트햇과의 연구협력(MOU)을 체결했다고 13일 밝혔다.

이번 세미나는 온라인과 오프라인으로 진행됐으며 총 60여 명이 참석했다. 세미나에서는 한국인공지능 법학회 최경진 회장과 숭실대 AI 안전성 연구센터 최대선 센터장의 발표가 진행됐다.

최경진 회장은 '글로벌 AI규제 동향'을 주제로 한 발표에서 “AI 규제 입법을 위해서는 국내 AI 기술 경쟁력 확보와 AI 리더 그룹과의 협업, 그리고 국제 거버넌스 참여 등 적극적인 노력이 필요하다”고 말했다.

최대선 센터장은 ‘AI 안전성 이슈와 전망’에 대한 발표에서 AI 안전성 문제를 △AI에 대한 적대적 공격 △AI 악용 △통제력 상실 △국가 안보 위협(CIB)등으로 분류하고, 이로 인한 문제 발생을 최소화할 수 있는 방안으로 △AI 사용제한 △통제 가능한 설계 원칙 적용 △지속적인 모니터링 및 업데이트 등을 제시했다.

이와 관련해 최 센터장은 “AI 위협에 대한 기술적 대응은 결국 '창과 방패의 대결'과 같으며 공격을 완전히 차단하는 것은 불가능하지만 최소화하는 것이 목표“라고 밝혔다.

세미나 이후에는 숭실대 AI 안전성 연구센터와 전문 화이트해커 그룹 ㈜엔키화이트햇의 MOU 체결식이 진행됐다. 양 기관은 AI 안전성 점검을 위한 레드티밍 연구 분야에서 긴밀한 협력을 약속하며 향후 AI 안전성 강화를 위한 공동 연구를 이어갈 예정이다.

숭실대 AI 안전성 연구센터는 지난 10월 개소 이후 ‘대한민국 AI 안전컨소시엄’에 주요 참여 기관으로 합류해 △AI 안전 프레임워크(위험 식별·평가·완화) 연구 및 실증 △AI 안전 관련 정책 연구 △국제 규범 대응 등의 활동을 수행하고 있다.