[곽재원의 4차 산업혁명] AI의 두 얼굴을 직시하자

가천대 교수, 전 경기과학기술진흥원장

사우디아라비아의 석유시설이 공격받아 공급능력의 절반이 상실되면서 원유가격이 급등해 세계 경제에 새로운 불안정 요인으로 작용하고 있다. 사우디의 원유 생산량은 미국에 이어 세계 2위로 약 13%를 점유한다. 이번 공격으로 세계 전체 생산량 중 5% 넘게 일시적으로 상실되었다는 계산이다. 사우디와 마찰을 빚고 있는 예멘 무장세력의 공격이라고 알려졌지만 사우디와 미국은 이란이 배후에 있다고 여긴다.

세인의 관심은 이보다는 석유시설 공격이 드론(소형무인기)에 의한 것이라는 데 쏠리고 있다. 언제 어디서나 이러한 테러 사건이 일어날 수 있다는 우려가 깔려 있다. 게다가 드론은 인공지능(AI)을 기본으로 안고 있기에 더욱 그렇다. 드론은 AI 병기가 된다.

우리는 지금 드론이 지닌 두 개의 얼굴을 동시에 목격하고 있다. 하나는 천사의 얼굴이다. 드론은 무엇보다 농업에서 큰 기대를 모으고 있다. 농약을 살포하거나 작물의 생육 상황을 확인하는 데 널리 사용되고 있다. 농업 종사자의 고령화와 일손 부족이라는 심각한 과제를 안고 있는 분야인 만큼 규제를 완화해 보급을 촉진하려는 움직임이 일고 있다. 이 분야에서 앞선 일본의 경우 농업용 드론이 지난해 농약을 살포한 면적은 약 2.7만 헥타르(한반도 0.3% 규모)에 이른다. 현재 병충해와 조수(鳥獸) 대책 기술개발도 추진 중이라고 한다

종래의 취미와 항공촬영 수준을 넘어 농림업과 인프라 설비 점검, 방재 대응, 토목공사의 측량, 산간부와 낙도에서의 물류 등 드론의 용도가 급속히 확대되고 있다. 일본은 5년 뒤 드론 서비스 시장이 5000억 엔(약 5조 원)에 달할 것으로 예상한다.

드론의 악마 얼굴도 최근 들어 많이 전파되고 있다. ‘LAWS(자율형 치사병기 시스템)’의 금지를 호소하는 국제비정부기구(NGO)가 작성한 짧은 동영상에는 이런 장면이 나온다. 사람 손바닥에 올려진 수cm의 초소형 드론. 장난감처럼 보이는 작은 물체에는 AI와 폭약이 장착되어 있다. 벌처럼 날아다니는 이 드론은 자기 제어로 비행, 사람을 식별하는 센서가 타깃으로 세운 인형을 발견하면 급격히 하강해 그 머리 부분에 충돌해 폭약을 터뜨린다.

LAWS는 ‘Lathal Autonomous Weapons System’의 약자로 인간을 개입시키지 않고 AI 스스로의 판단으로 사람의 목숨을 빼앗는 병기를 말한다. ‘완전자율형 AI 병기’로도 불린다. 미군이 아프가니스탄 등에서 실전에 다수 투입하고 있는 무인공격기는 인간이 원격조정으로 공격을 판단하는 것으로 LAWS와는 근본적으로 다르다.

일본 월간지 세카이는 최신호 특집에서 “AI 병기로 인류는 차원이 다른 위험 영역으로 들어섰다”고 설파했다. 유엔은 이에 대해 ‘공격의 판단에는 인간이 관여한다’는 규제지침만 결정했을 뿐 LAWS가 벌써 전장에 나올 태세여서 늦은 감이 있다. 일본 정부도 인터넷 정부 홍보 온라인에 미래 사회 모습을 그리며 드론 공격 위협을 담고 있다. LAWS는 현재 미국과 중국, 러시아, 이스라엘 등이 경쟁적으로 개발하고 있다.

드론에서 보듯이 AI와 로봇의 조합은 군민양용(Dual Use) 기술이다. 기술이 어떻게 이용될 것인가는 개발한 기업이 누구보다 잘 알고 있을 것이다. 하이테크 기업은 기업으로서 무엇을 할 것인가, 무엇을 하지 말아야 할 것인가를 제시하는 윤리지침을 정하는 게 바람직하다. 병기로 전용되는 것을 막기 위한 제도를 미리 정비해두는 대책도 검토해 봐야 할 것이다. ‘인간에 위해를 가해서는 안 된다’는 윤리적 가르침을 심은 AI만을 출하해야 한다는 의견도 나오고 있다. 이 같은 드론 기술은 테러 활동과 독재국가에서의 반체제 탄압에 이용될 우려도 있다. 첨단기술의 미래를 위해서도 평화 이용에 철저하도록 방침을 확실히 정해놔야 한다.

우리 정부는 10월에 AI 투자와 윤리 가이드라인 등을 포함한 ‘AI 국가전략’을 발표할 예정이다. 이낙연 국무총리는 최근 국내 한 미디어그룹이 개최한 AI 글로벌 포럼에서 “AI는 모든 것을 편리하고 효율적으로 만들겠지만 동시에 인간의 소외와 불평등의 심화 같은 역기능도 수반할 것으로 지적되고 있다”며 “AI의 빛은 키우고 그림자는 줄이는 지혜가 인류에게 요구된다”고 강조했다. 정부가 내놓을 AI 국가전략에 관심이 쏠린다.