해킹·방어 모두 'AI 대 AI' 싸움 [2026 보안이 ‘영업권’]

AI가 취약점 자동분석하고 공격
정상 업무인지 공격인지 헷갈려
"방어형 AI 에이전트 도입해야"

인공지능(AI)의 발전이 가속화되면서 보안 환경이 근본적으로 바뀌고 있다. 기업의 인공지능 전환(AX)은 해킹의 문턱을 낮췄으며 AI로 해킹 수법이 고도화됐다. 사이버 보안 현장은 인간 중심의 방어를 넘어, AI가 공격하고 AI가 대응하는 ‘AI 대 AI’ 경쟁 구도로 빠르게 재편되고 있다.

쿠팡과 신한카드의 개인정보 유출은 외부로부터의 침입이 아닌 전∙현직 내부 직원의 일탈이 원인이었다. 내부 통제의 허점이 대규모 보안 사고로 이어졌다는 점에서 기업 내부 시스템에 폭넓은 접근 권한을 부여받는 AI 에이전트 도입이 또 다른 보안 위협이 될 수 있다는 경고가 나온다.

업무 상황을 스스로 판단하고 행동을 자동으로 수행하는 AI 에이전트는 서버와 클라우드, 인증·결제·업무 관리 시스템에 광범위한 실행 권한을 위임받는다. AI 에이전트가 해킹되면 정보 유출을 넘어 자동화된 내부 공격자가 될 수 있기 때문에 기존 해킹에 비해 구조적 위험성이 커진다. 인간보다 빠른 속도로 24시간 명령을 실행할 수 있어 이상 징후가 감지되기 전에 피해가 연쇄적으로 확산될 가능성이 높다. AI 에이전트의 행동이 정상 업무인지 공격 행위인지 사후 탐지도 어렵다.

AI는 해킹의 문턱을 낮췄을 뿐만 아니라 해킹 수법 자체도 고도화시켰다. 과거에는 해커가 직접 시스템을 공격했다면 이제는 AI가 자동으로 취약점을 탐색하고 침투한다. 황석진 동국대 국제정보보호대학원 교수는 “아직 수면 위로 드러나지 않았을 뿐, 전 세계적으로 AI 기반 랜섬웨어와 자동화 공격이 일상화됐다”며 “이 속도와 정교함은 기존의 인력 중심 보안 체계로는 따라갈 수 없다”고 말했다.

보안업체 시큐아이는 2026년을 사이버 보안이 ‘AI 대 AI’ 경쟁 구도로 전환하는 해로 내다봤다. 앞으로는 AI가 자율적으로 판단하고 실행하는 ‘공격 에이전트’로 진화해 정보 수집부터 침투, 확산, 회피까지 공격 전 과정이 정교해지고 자동화된다는 것이다. 이에 대응해 보안 업계도 AI가 스스로 대응 전략을 수립하는 ‘AI 기반 보안 플랫폼’ 도입을 가속화하고 있다.

보안 전문가들은 해킹 대응 역시 AI 기반의 ‘방어형 AI 에이전트’를 기반으로 이뤄져야 한다고 강조한다. 수많은 로그와 이상 징후를 실시간으로 분석해 스스로 판단하고 차단하는 체계 없이는 해킹 사고를 사전에 막기 어렵다는 것이다. 최병호 고려대 AI연구소 교수는 “해킹 대응을 위한 AI 시스템을 구축해야 장기적으로 보안 비용을 줄이면서 방어 효율을 높일 수 있다”고 지적했다.

앞으로 보안 현장은 ‘AI 에이전트 간의 전쟁’이 될 가능성이 높다. 김도승 전북대 로스쿨 교수(개인정보보호법학회장)는 “공격형 AI와 방어형 AI가 실시간으로 격돌하는 시기에 인간 보안 전문가의 역할은 'AI 군단'을 어떻게 배치하고 감독하느냐의 문제로 전이될 것”이라고 설명했다.

이어 김 교수는 “AI로 보안위협은 더욱 일상화될 것”이라며 “해커는 AI를 이용해 인간이 인지하기 힘든 속도로 취약점을 파고들기 때문에 기업은 이를 막기 위해 자율적으로 판단하고 방어하는 AI 에이전트를 빠르게 배치해야 한다”고 덧붙였다.

황석진 교수는 “AI는 경험을 통해 학습하는데, 우리는 해킹에 대한 경험과 데이터 축적이 절대적으로 부족하다”며 “모든 해킹 사례와 수법을 체계적으로 축적한 ‘화이트박스’를 기반으로 방어 AI를 고도화해야 한다”고 말했다. AI로 공격받는 환경에서, AI를 활용한 방어 경험과 데이터를 얼마나 축적했는지가 기업의 새로운 보안 경쟁력이 될 것이란 의미다.