김태수 삼성리서치 상무 “인생에서 가장 짧은 2년, 가장 긴 1시간”… ‘AI 사이버 챌린지’ 우승 주역들

글로벌 보안계의 ‘꿈의 무대’, 삼성리서치와 세계 연구진이 해냈다
“취약점 탐지·패치 모두 월등”… 기술력으로 입증한 AI 보안 경쟁력
“AI는 조건이 동일… 어떻게 활용하느냐가 진짜 기술력”

지난 8일(현지시간) 미국 라스베이거스 컨벤션센터. 세계 최대 보안 경진대회 ‘AI 사이버 챌린지(AIxCC, AI Cyber Challenge)’의 결승전 결과 발표 순간은 숨조차 고르기 힘든 긴장감으로 가득했다. 발표 화면에 ‘Team Atlanta(팀 애틀란타)’의 로고가 떠오르자, 2년간의 노력이 결실을 맺는 환호성이 터져 나왔다.

삼성리서치와 조지아텍, 카이스트, 포스텍 등 한국·미국 보안 연구원 40여 명이 함께한 팀 애틀란타는 쟁쟁한 글로벌 강호들을 제치고 1위를 차지했다. 상금 400만 달러(약 55억 원). 그러나 돈보다 값진 것은 ‘AI 보안 기술’의 글로벌 리더십을 증명했다는 성과였다.

팀 애틀란타의 시작은 김태수 삼성리서치 상무였다. 그는 삼성리서치에서 보안 연구를 이끄는 동시에 조지아텍 교수로 활동하며 수많은 연구자를 배출했다. 대회 개최 소식을 듣고 그는 과거 제자들에게 직접 연락했다.

“DARPA(미국 국방고등연구계획국)가 주최하고 구글, MS, 오픈AI가 후원한다는 소식을 듣자 ‘이건 반드시 도전해야 한다’는 생각이 들었습니다. 제가 지도했던 박사 과정 제자들에게 연락했고, 그들이 자연스럽게 팀 애틀란타의 핵심 멤버가 됐죠.”

연합팀은 한국과 미국, 동서부를 가로지르는 다양한 연구자들로 구성됐다. 김 상무는 “서로 다른 지역에 있는 만큼 협력 구조를 새롭게 짜야 했다”며 “한국 팀원 중 일부는 바쁜 일정 속에서도 직접 미국 조지아텍으로 건너와 현장에서 함께 작업하기도 했다”고 말했다.

AI 사이버 챌린지의 과제는 단순했다. 주어진 대규모 소프트웨어에서 취약점을 최대한 많이, 빠르게 찾아내고 스스로 패치하는 AI 보안 시스템을 구축하는 것. 점수는 ‘취약점 발견’과 ‘프로그램 복구’ 두 항목의 합산으로 결정된다.

▲▲ 삼성리서치 김태수 상무가 대회 준비의 계기를 설명하고 있다. (삼성전자 뉴스룸)

삼성리서치 장준언 프로는 자바(Java) 프로그램 취약점을 탐지하는 대규모언어모델(LLM) 기반 에이전트 개발을 맡았다. 그는 “팀 애틀란타 시스템이 다른 팀보다 더 많은 취약점을 잡아낸 것은 팀원 각자가 개발한 에이전트가 서로의 빈틈을 보완했기 때문”이라고 설명했다.

최윤재 프로는 취약점을 자동으로 패치하는 AI 에이전트를 개발했다. 그는 “AI 모델은 대회 참가팀 모두에게 동일하게 주어진 조건”이라며 “결국 차이는 그것을 어떻게 활용하느냐, 새로운 취약점에 얼마나 유연하게 대응하느냐에 달려 있었다”고 말했다.

라스베이거스 결승전 현장. 7개 팀이 모인 결과 발표식은 말 그대로 ‘피 말리는 시간’이었다. 3위와 2위 팀이 연이어 발표됐지만 팀 애틀란타는 불려 나오지 않았다.

“솔직히 3위만 해도 만족하겠다고 생각했어요. 그런데 끝까지 이름이 안 나오니 ‘혹시 우리가 1위일까?’라는 기대와 ‘설마 우리가 탈락했을까?’ 하는 걱정이 동시에 몰려왔습니다.” (장준언 프로)

최윤재 프로는 그 순간을 “혹시나 했는데 정말 1위로 발표되자, 팀 전체가 폭발하듯 환호했다”고 회상했다. 김 상무 역시 “2년 준비가 인생에서 가장 짧은 시간이었고, 결과 발표를 기다린 1시간은 가장 긴 시간이었다”고 말했다.

대회 준비 과정에서 가장 긴박했던 순간은 제출 직전의 ‘버그 사건’이었다. 김 상무는 "우리가 미리 제출한 시스템에서 치명적 버그가 발견됐다"며 "팀원 모두를 새벽 5시부터 깨워 문제를 해결했는데, 그때만 생각하면 아직도 아찔하다"고 털어놨다.

삼성전자는 이번 성과를 통해 ‘AI 보안’ 경쟁력에서 글로벌 기술 우위를 입증했다.

김 상무는 “삼성의 AI 보안 기술은 이미 갤럭시 스마트폰, AI TV 등 다양한 제품에 적용돼 있다”며 “앞으로는 오픈소스와 커뮤니티 활동을 확대해 글로벌 보안 생태계 강화에 기여할 것”이라고 밝혔다.