재난 때마다 등장하는 AI의 두 얼굴

적절한 활용과 악용 동시 드러나
동물원 탈출한 ‘늑구’ 사태도 사례
쓰임새 따라 또 다른 형태의 재난

▲지난달 28일 일본 규슈 서부 구마모토에서 발생한 규모 7.1 강진 이후 대형 쇼핑몰에서 난 폭발사고로 건물 일부가 붕괴돼 있다. (연합뉴스)

재난 현장에서 인공지능(AI)이 두 얼굴을 드러내고 있다. 한쪽에서는 대피소에 몸을 피한 주민이 스마트폰과 생성형 AI만으로 수십만 명이 이용하는 재난 정보망을 만들어냈다. 다른 한쪽에서는 진짜와 구별하기 어려운 가짜 영상과 허위정보가 구조와 복구 현장의 혼란을 키웠다. 쓰임새에 따라 구호의 손길이 되기도, 또 다른 재난이 되기도 한다.

16일 일본 영문매체 재팬타임스 보도에 따르면 최근 강진으로 피해를 본 일본 역시 유사한 사건을 겪으며 대안 마련에 나섰다. 최근 일본 구마모토현에서 발생한 강진이 대표적이다.

지난달 28일 구마모토를 덮친 7.1 강진 이후 생성형 AI가 피해 주민의 생활정보 공유부터 지방정부의 행정업무까지 폭넓게 활용되고 있다. 대표적인 사례가 피해 주민 가운데 한 명인 가에쓰 미사토(38)가 만든 온라인 정보공유 사이트다. 가족과 함께 대피소로 피신했던 그는 생성형 AI를 활용해 피해지역 주민들이 필요한 정보를 직접 올리고 확인할 수 있는 온라인 게시판을 만들었다. 전문 개발자가 아니었으나 AI에 필요한 기능을 설명하고 코드를 생성하는 방식으로 불과 몇 시간 만에 서비스를 완성했다.

사이트에는 △영업 재개 슈퍼마켓 △상점 △급수 및 무료급식 장소 △대피소 상황 △주유소 △목욕시설 △정전과 단수 현황 △복구 현황 등이 실시간으로 올라왔다. 행정기관이 일일이 파악하기 어려운 생활밀착형 정보까지 주민들이 직접 공유했다. 등록된 장소가 4000곳을 웃돌고 게시물도 5만 건 이상 쌓인 것으로 전해졌다. 이용자는 빠르게 16만 명을 넘어섰다.

같은 AI는 재난 현장의 혼란도 증폭시켰다. 지진 직후 SNS에는 AI로 제작된 것으로 보이는 영상과 허위정보가 빠르게 퍼졌다. 실제 지진 후 폭발사고가 발생한 이온몰 구마모토를 배경으로 건물이 폭발하거나 무너지는 모습을 담은 가짜 영상이 확산됐다. 폭발사고 자체가 가짜였던 것은 아니다. 실제 사고를 소재로 사실과 다른 AI 영상을 만들어 유포하는 사례다.

과거 지진 영상을 이번 지진 장면처럼 재활용하거나 존재하지 않는 장소에서 “매몰됐다”며 구조를 요청하는 허위 게시물까지 등장했다. 재난 직후에는 정보가 부족하고 시민들의 불안감이 높은 만큼 자극적인 영상 하나가 순식간에 사실처럼 받아들여질 위험이 크다.

▲지난 4월 대전 오월드에서 수컷 늑대 ‘늑구’가 탈출하자 거리를 활보하는 늑구 사진이 온라인에서 관심을 모았. 그러나 이는 생성형 AI를 악용한 가짜 사진이었다. 경찰과 소방의 구조작업은 한때 혼선을 빚기도 했다. (출처 인스타그램)

비단 일본의 사례만은 아니다. 우리나라에서도 비슷한 일이 벌어졌다.

4월 대전 오월드에서 수컷 늑대 ‘늑구’가 탈출하자 온라인에는 늑구가 특정 지역을 활보하고 있는 것처럼 만든 AI 합성사진이 확산했다. 대전시와 일부 언론까지 이를 실제 목격사진으로 받아들였다. 이 때문에 경찰과 소방 당국의 늑구 수색에도 차질이 빚어졌다. 경찰은 이후 AI로 허위 사진을 만들어 유포한 40대를 ‘위계에 의한 공무집행방해 혐의’로 입건했다.

AI 기술의 발전은 재난 대응의 속도를 끌어올리고 있다. 과거에는 전문 개발자와 상당한 시간이 필요했던 정보망을 이제는 피해 주민 한 사람이 대피소에서 스마트폰 하나로 만들 수 있는 시대가 됐다.

그러나 같은 기술은 누구라도 몇 분 만에 현실과 구별하기 어려운 가짜 재난현장을 만들어낼 수 있게 했다. 재팬타임스는 “최근 1~2년 사이 생성형 AI의 정밀도가 급격히 높아졌다”며 “AI 이미지인지 여부를 육안으로 판별하기가 갈수록 어려워지고 있다”고 악용을 우려했다. 이어 “특히 재난 현장에서 필요한 것은 AI를 멀리하는 것이 아니라 출처를 확인하는 습관”이라며 “기술이 재난을 줄일지, 혼란을 키울지는 화면 속 영상보다 그것을 받아들이는 사람의 판단에 달려 있다”고 지적했다.