‘범죄 3.0’ 시대...AI 개발에 금융사기 더 정교해져

딥페이크 기술로 이미지·음성 변조
챗GPT로 사기 대본 작성할 수도
“금융·정부 기관 보호 툴 무력화”
미국 온라인 사기 피해액 19% 급증

▲인간 모형 뒤로 인공지능(AI) 단어가 써 있다. 로이터연합뉴스

범죄자들이 금융사기에 고도로 발달한 인공지능(AI)을 활용하기 시작하면서 ‘범죄 3.0’ 시대가 열리고 있다는 경고가 나왔다.

10일(현지시간) 야후 파이낸스에 따르면 전문가들은 AI가 사기 행각에 악용돼 범죄 수법이 한층 더 정교해지고, 피해자는 사전에 이를 알아차리기 더욱 어려워질 것이라고 진단했다.

데이터 분석회사 렉시스넥시스리스크솔루션의 헤이우드 탈코브 최고경영자(CEO)는 “생성형 AI, 딥페이크 기술을 사용하면 금융기관과 정부 기관을 보호하기 위해 설치한 대부분 도구를 무력화할 수 있다”며 “우리는 이것을 범죄 3.0이라 부른다”고 말했다.

일례로 딥페이크 기술을 사용하면 범죄자들은 이미지와 음성을 변조할 수 있다. 이를 통해 가족과 연인, 친구, 또는 정부 관계자로 위장해 돈을 뜯어낼 수 있다. 탈코브 CEO는 딥페이크 기술로 얼굴과 목소리를 바꿔 피해자를 속여 돈을 뜯어내는 로맨스 사기 위험을 경고했다.

또는 챗GPT를 이용해 설득력 있는 메시지를 한층 더 쉽게 작성할 수 있게 됐다. 세무 전문 변호사인 애덤 브루어는 “챗GPT를 사용해 대본이나 편지를 작성하면 더 세련된 방식으로 돈을 요구할 수 있으며 일반인들이 이상한 점을 발견하기 훨씬 더 어려워질 것”이라고 설명했다.

이러한 기술 발달은 최근 급증하는 사기 피해를 더욱 키울 것으로 우려된다. 미국 연방거래위원회(FTC)에 따르면 지난해 미국에서 온라인 사기 피해로 인한 손실은 전년 대비 19% 급증한 약 88억 달러(약 11조3828억 원)에 달했다.

캐시 스톡스 미국은퇴자협회(AARP) 사기 방지 책임자는 “대부분의 온라인 사기가 보고되지 않는다는 점을 감안했을 때 피해 금액은 우리가 상상할 수 있는 것보다 훨씬 더 클 것”이라고 지적했다. 그러면서 “생성형 AI의 발달은 사람을 상대로 한 사기 수법을 훨씬 더 정교하게 만든다”며 “AI 사기 행각으로 인한 피해는 노인들에게만 국한된 문제가 아닐 것”이라고 강조했다.

전문가들은 이런 사기에 적절히 대응하기 위해 범죄자가 알지 못하는 가족 암호를 만들거나 접근하는 낯선 이성에게 섣불리 돈을 보내지 않을 것을 조언했다. 또한 즉각적인 조치를 요구하는 정부 요청을 극도로 의심하라고 권고했다.