사이버 전문가 “AI 위협 과장…가짜 뉴스가 더 영향력 커”

“잘못된 정보 찾을 수 있는 검증된 방법 있어”

▲사람 피겨 뒤로 인공지능(AI) 글자가 보인다. 로이터연합뉴스

생성형 인공지능(AI)의 허위 정보 위협이 과장됐을 수 있다는 전문가 의견이 나왔다.

8일(현지시간) CNBC방송에 따르면 마틴 리 시스코 탈로스인텔리전스그룹 기술 책임자는 이날 생성형 AI나 딥페이크가 민주주의에 미치는 위협이 우려만큼 크지 않을 수 있다고 주장했다. AI가 사람들의 정치적 견해와 투표 형태에 미치는 영향이 기존 가짜뉴스 만큼 효과적이지 않다는 이유에서다.

그는 “생성형 AI 도구는 가짜 콘텐츠 생성을 더 쉽게 만들 수 있고, 딥페이크 역시 그 자체로 강력한 기술”이라면서도 “가짜 뉴스 만큼 영향력이 크지 않다고 생각한다”고 말했다. 이는 각국 주요 선거가 몰린 올해 AI가 생성한 콘텐츠가 인간의 인식을 왜곡해 민주주의에 주요 위협이 될 수 있다는 기존 사이버 보안 전문가들의 의견과 대비된다.

AI가 생성한 자료에는 실제 사람이 제작하지 않았음을 암시하는 일반적인 식별 지표가 포함되어 있는 경우가 많다. 특히 시각물의 경우 결함에 취약한 것으로 나타났다. 일례로 AI가 생성한 이미지에는 손이 두 개 이상인 사람이나 배경에 합쳐진 팔다리 등 오류가 포함될 수 있다.

시스코 책임자는 “아무리 AI가 발전하더라도 기계가 만들었든 사람이 만들었든 잘못된 정보를 찾을 수 있는 몇 가지 검증된 방법이 있다”고 강조했다.

그는 “사람들은 이러한 공격이 발생하고 있다는 사실을 알고 어떤 기법이 사용되는지를 염두에 둬야 한다”며 “감정을 자극하는 콘텐츠를 접할 때는 잠시 멈춰서 그 정보 자체가 그럴듯한 것인지 스스로에게 물어볼 필요가 있다”고 조언했다.

이어 “평판이 좋은 미디어에서 게시했는지, 다른 공신력 있는 매체에서도 같은 내용을 보도 하고 있는지 등을 확인한 뒤 그렇지 않다면 사기 또는 허위 정보일 가능성이 크므로 무시하거나 신고해야 한다”고 언급했다.