北 해커도 ‘AI 무장’…피싱 넘어 공격 자동화 노린다

북한 첩보 활동 연계 김수키, AI 공격 역량 축적
“북한 AI 에이전트 활용 공격, 올해 말 가시화”

▲지니언스 시큐리티 센터 위협분석보고서에 정리된 AI 활용 공격 흐름도. (사진제공=지니언스)

북한 해킹조직 ‘김수키’가 AI를 활용해 피싱용 문서를 작성하는 것을 넘어 로컬 대형언어모델(LLM)과 AI 에이전트 등을 구축한 것으로 나타났다. AI가 국가 배후 해킹조직의 공격 생산성을 끌어올리는 새로운 사이버 무기로 떠오른 것이다.

사이버 보안 전문기업 지니언스는 김수키의 최신 공격 활동을 분석한 결과 생성형 AI 기반 도구를 공격 체계 전반에 활용하기 위한 연구를 진행하고 관련 기술 역량을 축적해 온 정황을 확인했다고 10일 밝혔다. 김수키는 북한의 정보 수집 및 첩보 활동과 연계된 것으로 알려진 해킹조직이다.

기존에 북한 해킹조직은 이미지와 음성 위조, 피싱용 미끼 제작 등 공격 준비 단계에서 AI를 활용해왔다. 그러나 이번 분석에선 위협 행위자가 직접 로컬 LLM 실행 환경과 검색증강생성(RAG) 환경을 구축하고 AI 기반 개발 환경을 운영한 흔적이 드러났다.

올라마(Ollama), GPT4All, 엠스티(Msty) 등 로컬 LLM 실행·관리 도구와 RAG 구성 환경, AI 에이전트 개발 프레임워크, 음성인식(STT) 도구 등을 구축하거나 활용한 정황이 확인됐다. 외부 서비스로 데이터를 전송하지 않고 운용할 수 있는 로컬 LLM을 활용해 탈취 문서를 분석하거나, 정보 추출과 공격 업무를 자동화하려는 시도로 해석된다.

로컬 LLM 프로그램을 활용하면 메타의 라마, 구글의 젬마, 알리바바 클라우드의 큐원, 딥시크의 딥시크 등 다양한 LLM을 내려받아 로컬 환경에서 실행할 수 있다. 해킹한 자료를 외부 노출 없이 분석할 수 있어 해킹 조직에 유리하다. AI 에이전트 및 자동화 개발을 위한 라이브러리 수집 정황도 드러났다.

AI 코딩 도구인 커서(Cursor)의 설치·사용 흔적도 다수 식별됐다. 커서를 이용해 공격에 활용된 문서를 편집하고, 생성 결과물을 검토한 것으로 분석된다. 지니언스는 악성코드 개발과 공격 자동화에 AI를 활용하기 위한 연구와 기술 검증이 진행되고 있음을 시사하는 중요한 사례라고 설명했다.

공격 기법 또한 AI를 활용해 한층 정교해졌다. 기존에는 탈취한 정상 문서를 재활용하는 사례가 많았지만 최근에는 AI를 활용해 제작한 가상자산과 금융 분야 문서를 스피어피싱 미끼로 활용하고 있다. 가상자산 지갑 정보와 지메일 계정 정보, 웹사이트 가입 이력 등 개인정보의 노출 여부를 확인하려는 정황도 식별됐다.

문종현 지니언스 시큐리티센터장(이사)은 “이번 분석은 국가 배후 해킹조직이 AI를 실제 공격 체계에 접목하기 위해 로컬 LLM과 AI 개발 환경까지 구축하며 공격 역량을 고도화하고 있음을 보여준다”며 “향후 정찰, 악성 스크립트 고도화, 취약점 개발 등 일부 공격 단계에서 AI 에이전트의 활용 범위가 확대될 가능성이 있다”고 말했다.

최근 AI 모델의 보안 취약점 탐색과 사이버 공격 능력이 빠르게 향상되면서 북한 등 해킹조직이 이를 활용할 가능성이 새로운 사이버 위협으로 급부상하는 모양새다. AI가 공격자의 생산성을 끌어올리면 한정된 인력으로도 다수를 겨냥한 공격을 빠르게 수행할 수 있다. 업계에선 이미 북한이 AI 에이전트를 활용한 공격을 시도하고 있을 것이라는 전망도 나온다.

김명주 AI안전연구소장은 “북한, 중국 등 국가 배후 해킹 조직의 AI 에이전트 활용 공격이 올해 말에는 가시화될 것”이라며 “취약점을 찾아내는 데 토큰이 어마어마하게 쓰이기 때문에 변수는 컴퓨팅 파워가 충분히 뒷받침될지 여부”라고 밝혔다. 김 소장은 프런티어 AI 모델이 고도화되면서 사이버 보안 테스트에 드는 토큰 사용료가 10배 이상으로 늘어났다고 지적했다.