SK쉴더스 화이트해커 그룹, 데프콘 34 AI CTF서 글로벌 5위 기록

▲SK쉴더스 EQST, 데프콘 34 참가 성료. (사진제공=SK쉴더스)

SK쉴더스의 화이트해커 그룹 EQST(이큐스트)가 미국 라스베이거스에서 진행된 세계 최대 해킹·보안 컨퍼런스 ‘데프콘(DEF CON) 34’의 AI 빌리지에서 열린 CTF(Capture The Flag)에서 글로벌 200여 팀 가운데 최종 5위를 기록했다.

SK쉴더스는 이큐스트가 AI CTF에서 국내 참가팀 중 유일하게 톱5에 이름을 올리며 AI 에이전트를 활용한 보안 문제 해결 능력과 글로벌 수준의 AI 보안 역량을 입증했다고 10일 밝혔다. 이큐스트는 데프콘 34 CTF 본선에도 참가해 세계 최정상급 보안 전문가들과 실전 공격·방어 기술을 겨뤘다.

데프콘은 전 세계 해커와 보안연구자들이 모여 최신 해킹 기술과 보안 위협을 공유하는 세계 최대 규모의 해킹·보안 컨퍼런스다. 매년 미국 라스베이거스에서 개최되며 보안 전문가들의 강연과 기술 시연, 분야별 빌리지 해킹대회 등 다양한 프로그램이 진행된다. 올해는 AI, 자동차, 암호화폐 등을 주제로 38개 빌리지가 운영되는 등 사이버보안 전 분야의 최신 기술과 연구 성과가 공유됐다.

올해 데프콘에서는 대규모언어모델(LLM)과 AI 에이전트를 비롯해 스스로 판단하고 행동하는 AI 기술이 사이버보안 환경에 가져올 변화가 주요 화두로 다뤄졌다. AI 빌리지에서는 빠르게 확산되는 AI 기술을 둘러싼 새로운 공격 방식과 보안 취약점, 이에 대응하기 위한 기술과 연구 사례가 집중적으로 소개됐다.

이큐스트가 참가한 AI CTF는 주어진 AI 모델을 기반으로 침투테스트를 수행하는 AI 에이전트를 구성하고, 이를 활용해 보안 문제를 해결하는 방식으로 진행됐다. 사람이 공격 과정을 일일이 수행하는 기존 CTF와 달리 AI 에이전트가 문제를 분석하고 공격 방법을 선택해 플래그(Flag) 획득을 시도하도록 만드는 것이 특징이다.

참가팀들은 AI 모델을 기반으로 에이전트의 구조와 프롬프트를 제작하고, 문제 해결 과정과 공격 전략을 설계하는 역량을 겨뤘다. 이큐스트는 문제 유형별 AI 모델을 최적화하고 에이전트의 행동방식을 조정하며 배점과 난이도를 분석해 공략 순서를 결정하는 등 다양한 전략을 적용했다.

특히 AI 에이전트가 스스로 취약점을 탐색하고 공격을 수행할 수 있도록 설계하는 과정에서 AI 모델에 대한 이해와 침투테스트 경험, 보안 문제 분석 능력을 종합적으로 발휘했다. 그 결과 전 세계 200여 개 참가팀 가운데 최종 5위에 오르며 AI 기술을 활용한 공격 및 보안 문제 해결 역량을 확인했다.

이번 대회를 통해 이큐스트는 에이전틱 AI를 활용한 새로운 공격 방식과 향후 발생할 수 있는 보안 위협을 실전 환경에서 경험했다. 대회에서 확인한 AI 에이전트의 공격 전략과 문제 해결 사례는 향후 AI 서비스와 모델의 취약점 연구, AI 레드팀 및 보안 대응 기술 고도화에 활용할 계획이다.

이큐스트는 AI CTF와 함께 데프콘의 대표 프로그램인 데프콘 34 CTF 본선에도 참가했다. 데프콘 CTF는 전 세계 최정상급 보안 전문가들이 참가해 실력을 겨루는 국제 해킹대회로 올해 예선에는 686개 팀이 참가했으며 이 가운데 12개 팀만이 본선에 진출했다.

김태형 SK쉴더스 EQST사업그룹장은 “전 세계 200여 팀이 참가한 AI CTF에서 국내 참가팀 중 유일하게 톱5를 기록한 것은 이큐스트가 축적해 온 AI 보안 기술과 실전 문제 해결 역량을 보여주는 성과”라며 “앞으로도 AI 취약점과 레드팀 연구를 확대하고 글로벌 수준의 AI 보안 경쟁력을 지속적으로 강화해 나가겠다”고 말했다.

한편, 이큐스트는 약 200명 규모의 국내 최대 화이트해커 그룹으로 취약점 연구와 침투테스트, 악성코드 분석, AI 보안 연구 등 다양한 활동을 수행하고 있다. 최근에는 AI 레드팀 해킹대회 ‘저지먼트 데이’와 ‘드림핵 해킹방어대회 2026’ 우승을 비롯해 R3CTF 2026 2위, 국제 해킹방어대회 ‘미드나이트 선 CTF 2026’ 3위 등을 기록했다.