SKT·업스테이지, ‘독자 AI 사이버보안 협의체’ 출범…상호 레드티밍 적용

▲7일 오후 SKT타워에서 열린 '독자 AI 사이버보안 협의체' 출범식에서 참석자들이 기념 촬영을 하고 있다. (왼쪽부터) 최용진 SK텔레콤 AI Tech센터장, 최동희 SK텔레콤 AI전략기획실장, 최대선 숭실대 AI대학 학장, 허신욱 부산대 교수, 김태윤 SK텔레콤 Foundation Model 담당, 이재용 업스테이지 공공부문대표, 유경상 SK텔레콤 AI CIC장, 정익래 고려대 정보보호대학원장, 권헌영 고려대 교수, 강석균 안랩 대표, 정삼용 시큐아이 대표, 조영철 파이오링크 대표, 이동범 지니언스 대표, 이정아 라온시큐어 대표, 김병무 SK쉴더스 부사장. (사진제공=SK텔레콤)

정부의 ‘독자 AI 파운데이션 모델 프로젝트(독파모)’ 3단계에 진출한 SK텔레콤과 업스테이지가 힘을 합쳐 사이버 보안 역량을 강화한다. SKT는 ‘사이버보안 특화 AI 파운데이션 모델(특파모)’ 사업 공모 당시 함께 컨소시엄을 꾸렸던 업스테이지를 비롯해 주요 정보보호 기업 6개사와 ‘독자 AI 사이버보안 협의체’를 출범했다.

SKT는 업스테이지와 국내 주요 정보보호 기업, 대학이 함께하는 독자 AI 사이버보안 협의체를 출범하고 AI 정보보호 기술 협력을 위한 업무협약을 체결했다고 8일 밝혔다.

7일 오후 SKT타워에서 열린 협약식에는 SKT와 업스테이지를 비롯해 SK쉴더스, 시큐아이, 안랩, 라온시큐어, 지니언스, 파이오링크 등 정보보호 기업 6개사와 고려대학교, 숭실대학교, 부산대학교 등 대학 3개교를 포함해 총 11개 기관이 참여했다. 부산대학교를 제외하면 모두 특파모 SKT 컨소시엄에 참여했던 기관들이다.

이번 협약은 정부의 독파모 3단계에 진출한 SKT의 A.X K 시리즈와 업스테이지의 솔라(Solar)를 사이버보안 영역으로 확장하기 위해 마련됐다. 협의체는 보안기업의 현장 데이터로 두 모델을 학습시키고 대학이 안전성을 검증하며 참여사의 보안 제품·서비스에 적용해 성과를 확인한다.

SKT와 업스테이지는 참여 기관들이 제공하는 악성코드 분석, 취약점 분석, 보안관제 등 실제 보안 현장에서 생성된 보안 업무 데이터를 SKT와 업스테이지의 AI 모델에 학습시키며 사이버보안 역량을 높일 계획이다. 학습은 사전학습과 사후학습 두 단계로 진행한다.

사전학습 단계에서는 보안 데이터를 바탕으로 모델의 기초 지식을 강화한다. SKT의 차기 모델 ‘A.X K3’는 보안 분야 데이터를 체계적으로 학습하고, 전 국민 대상 ‘모두의 AI’ 서비스를 안전하게 운영하기 위한 데이터도 보강한다. 업스테이지는 대용량 코드와 장기간 로그를 한 번에 분석할 수 있는 솔라 차기 모델에 취약점 탐지·분석용 보안 데이터를 집중 학습시킨다.

사후학습 단계에서는 보안 현장의 업무 데이터를 활용해 실제 업무 수행 역량을 높인다. 주요 대상은 △소프트웨어 취약점 분석·패치 △보안관제센터의 사고 대응 △보안 도구의 안전한 활용 등이다.

AI 보안 역량의 수준은 실제 위협과 대응 경험이 축적된 현장 데이터에 기반한다. 참여 정보보호 기업들은 위협정보, 악성코드 분석 데이터, 보안 솔루션 운영 경험 등 분야별 전문성을 모델 개발과 검증에 연계한다.

SK쉴더스는 통합 보안관제 플랫폼 ‘시큐디움’을 통해 하루 170억 건 규모의 위협 이벤트를 실시간 분석하고 있다. 안랩은 2.5PB(페타바이트) 이상의 보안 데이터와 악성코드·엔드포인트 위협 탐지 기술을 보유하고 있다. 시큐아이는 고성능 방화벽 솔루션, 라온시큐어는 영역별 보안 데이터와 자율 모의침투 기술, 지니언스는 실전 보안 솔루션 운영 데이터와 사후학습 데이터셋, 파이오링크는 자율 공격 검증 및 탐지룰 생성 기술을 갖췄다.

참여 기업들은 아직 보안 패치가 나오지 않은 취약점(제로데이) 분석과 실시간 보안관제 등 각 사의 보안 제품·서비스에 A.X K와 솔라를 적용하고 실제 운영 환경에서 공동 실증을 추진한다. 실증 과정에서는 모델의 성능과 안전성을 확인하고, 현장에서 얻은 분석·대응 경험을 다시 학습에 반영한다. 데이터 확보, 모델 학습, 성능 검증으로 이어지는 선순환 구조다.

특히 협의체는 A.X K와 솔라가 서로를 공격·평가해 취약점을 찾는 ‘상호 레드티밍’을 적용한다. 이 과정에서 발견된 취약 사례는 학습 데이터로 활용해 양쪽 모델의 방어 역량을 강화한다.

SKT는 A.X K2 개발 과정에서 자체 레드티밍 자동화 체계 SERT를 구축·운영해 약 1만 5000건의 공격 대응 데이터를 생성·학습한 바 있다. 업스테이지는 고난도·안전성 데이터 21만 건과 모델이 위험한 요청에 응하지 않도록 학습시키는 정렬 체계를 보유하고 있다.

레드티밍 설계와 평가는 참여 대학이 제3자 입장에서 맡는다. 고려대학교는 AI의 실행 파일 분석 능력과 공격에 대한 방어력을, 숭실대학교는 AI 보안 성능 평가 기준과 안전장치(가드레일) 우회 공격 대응력을, 부산대학교는 차기 모델과 경량 모델의 성능·안전성을 검증한다.

참여 기관들은 정기적인 기술 교류를 통해 AI 정보보호 공동 연구과제를 발굴하고 AI·정보보호 분야 사업의 참여 등에 대해서도 검토할 예정이다. SKT는 국내에서 축적한 보안 데이터로 독자 AI 모델을 고도화하고 국내 보안 제품·서비스에 적용해 ‘AI 사이버보안 주권’ 확보에 기여하겠다는 방침이다.

유경상 SKT AI CIC장은 "보안 AI의 수준은 결국 모델이 얼마나 넓고 깊게 추론하느냐에 달려있다"며 "독자 AI 파운데이션 모델 프로젝트에서 검증된 모델들이 국내 대표 정보보호 기업·대학과 함께 실제 보안 현장에서 효과를 입증해, 국가대표 AI 모델의 활용 성과를 사이버보안 영역에서도 보여주겠다"고 말했다.