인공지능으로 무장한 사이버 위협 [韓 보안 불감증]

AI 시대, 인공지능으로 무장한 사이버 위협
딥페이크 생성부터 사회공학적 공격까지
'AI+다크웹' 때문에 손쉬워진 해킹, 급증
보안 방어 기술 역시 AI로 무장…칼과 방패의 싸움

#지난해 1월, 홍콩 금융회사에서 딥페이크 피싱으로 약 342억 원의 피해를 보았다. 영국 본사의 최고재무담당자(CFO)가 홍콩 지부 직원에 거액 송금을 지시한 것이다. 그 직원은 동료들과 수차례 회의를 거쳤음에도 해당 지시가 인공지능(AI) 기술을 활용한 딥페이크라는 점을 알아차리지 못했다. 이른바 공격자가 임직원을 사칭해 송금을 유도하는 공격이다.

인공지능(AI)을 악용한 사이버 위협이 고도화되고 있다. AI를 사용하여 피싱 이메일을 자동으로 생성하거나 사용자들의 개인 정보를 수집한다. 악성 코드 작성하고 웹사이트 제작하기도 한다. AI를 이용해 딥페이크를 생성해 사회공학적 공격에 활용하는 방식도 기승을 부리고 있다. 특히 공격자가 기업 임직원을 사칭해 송금을 유도하는 BEC(Business Email Compromise·비즈니스 이메일 침해) 공격을 용이하게 한다. 삼성SDS를 비롯해 과학기술정보통신부, SK쉴더스 등 많은 IT·보안 전문 조직이 올해의 보안 위협 중 하나로 AI를 꼽았다.

AI는 사이버 공격의 속도와 정교함을 높이고, 공격 규모를 확대하는 데 사용된다. 과거에 수많은 인력이 필요했던 동시다발적 공격 역시 AI를 통해 손쉬워졌다. 다크웹에서는 'FraudGPT'와 'WormGPT'같이 사이버 공격에 사용되는 악성 거대언어모델(LLM)이 활발히 거래되고 있다. 이러한 LLM은 악성 코드 작성부터 피싱 페이지 생성까지 지원하며 해킹을 돕는다. 챗GPT 같은 공개된 LLM의 제한을 풀어 악용하려는 시도도 이어지고 있다. 인공지능과 다크웹의 등장으로 해킹 시도 자체가 용이해지면서, 실제 사이버 공격이 급증하고 있다. 한국인터넷진흥원(KISA) 조사에 의하면 사이버 침해 사고는 2020년 630건에서 지난해 1887건으로 5년 만에 약 3배 증가했다.

기업의 AI 활용이 늘어나면서, AI를 노린 사이버 위협 역시 고도화되고 있다. 시스코가 올해 전세계 30개국 8000명의 기업 내 사이버 보안 리더를 대상으로 조사한 결과, 응답자의 86%가 지난 12개월 동안 조직에서 AI와 관련된 보안사고를 경험했다고 답했다. 국내 기업 중 지난 1년간 AI 관련 보안 사고를 경험한 비율은 83%로 조사됐다. 다만 기업들의 사이버 보안준비 수준은 여전히 낮은 것으로 나타났다. 시스코에 따르면 국내 기업 중 3%만이 사이버보안 위협에 효과적으로 방어하는 데 필요한 ‘성숙(Mature)’ 단계의 준비 상태를 달성한 것으로 조사됐다.

AI로 무장한 칼…방패도 AI로 무장

해킹 기술이 AI로 고도화되는 만큼, 사이버 보안 기술 역시 AI로 무장하고 있다. 보안 전문가들도 AI 기술을 활용한 보안 모델을 설계하고 적용하는 역량을 갖추고 있다. 이른바 AI로 무장한 칼과 방패의 싸움이다. AI는 다양한 사이버 공격 패턴을 학습하고, 새로운 위협을 탐지한다. 비정상적인 트래픽을 감지하고 분석하고, 해커의 흔적이 남긴 로그를 분석하는 등 다양한 사이버 보안 분야에서 AI가 활용된다. 또 이렇게 탐지한 위협에 AI가 즉각적으로 조치를 취한다.

마이크로소프트나 구글 등 글로벌 빅테크 기업은 앞장서서 AI 기반 실시간 악성 코드 탐지, 위협 대응 자동화 기술을 도입하고 있다. 국내에서도 수많은 보안 기업이 자사 보안 솔루션을 AI를 통해 고도화하고 있다. AI로 보안 위협 대응력을 높여, 늘어나는 사이버 위협을 우려하는 B2B 고객을 공략하겠다는 전략이다. AI 전문인력을 채용하거나 아예 AI연구센터를 만들어 AI 기술 개발 및 연구에 나선 곳도 있다.

박현우 라온시큐어 AI연구센터장은 "AI를 활용한 보안 기술 고도화와 함께 AI의 부작용에 대응하는 보안 서비스 개발이라는 두 축을 중심으로 AI 연구를 지속하고 있다"면서 "딥페이크 탐지 기술을 비롯해 AI가 생성한 텍스트, 이미지, 음성 등 다양한 콘텐츠의 진위를 판별하는 기술을 개발해 창의성 있는 원천 데이터를 보존해 AI 생태계 발전에도 기여하고 있다"고 말했다.