[AI시대 ‘사람 없는 세상’] AI로 발생한 사고 책임은 누가… 법제화 논의 초기 단계

美, 자율주행차(무인차) 사고책임 제조사도 갖는다

인공지능(AI) 기술이 빠르게 발전하면서 우려의 목소리도 커지고 있다. 책임 문제 때문이다. AI는 인간이 만들지만 막대한 데이터를 계산해 스스로 의사 결정을 내린다. 논쟁은 여기서 시작된다. AI 기술을 탑재한 자율주행차나 AI 의료기기가 사고가 난다면? AI 작가가 쓴 기사나 소설의 저작권 문제는 어떻게 해야 할까? AI 보험설계사나 로보어드바이저의 실수는 어디까지 인정해야 하는걸까. 이미 AI 기술이 앞다퉈 상용화되고 있는 시점에서 책임소재를 놓고 학계와 산업계에서 논의가 시작됐다.

논의가 가장 빨라지고 있는 부분은 자율주행차다. 사고발생 시 인명피해가 발생하기 쉬운데다 이미 글로벌 자동차, IT·통신 기업들이 시범운행에 들어가는 등 상용화가 가까워졌기 때문이다. 자율주행차가 사고를 냈을 때 누가 해당 사고에 대한 책임을 질 것인가? 미국 자동차기술학회(SAE)는 자율주행의 단계를 레벨 0~5로 나눈다. 최근 긴급상황 시 운전자가 개입할 수 있는 조건부 자율주행 기술 레벨 3단계가 상용화됐다. 조만간 운전자의 개입이 전혀 없는 레벨 4단계, 5단계까지 개발되면 사고 발생 시 책임소재가 더욱 복잡해진다. 사고 발생 시 운전자가 탑승자인지, 자율주행차를 만든 제조사인지 판단하기 쉽지 않기 때문. 자율주행기술 탑승자는 운전에 관여하지 않았더라도 해당 자율주행차의 소유자이기 때문에 책임소재에서 벗어날 수 없다. 그렇다고 제조사에 책임을 떠넘기기도 애매한 상황이다. 자율주행에 필요한 시스템을 만들었지만 운행에 직접 관여했다고 보기도 어렵다.

현행 법 체계는 자연인과 법인만을 법적 권리와 의무의 주체로 인정하기 때문에 AI를 둘러싼 혼란은 예견된 미래다. 정부도 이런 문제를 인식하고 장기적인 대비책 마련에 착수했다.

지난해 하반기 법무부는 최근 ‘AI 사회를 대비한 민사법적 과제’를 주제로 연구용역 모집 공고를 냈다. 법무부는 △AI가 어느 정도까지 인간의 의사 형성 및 의사 판단의 범위를 담당할 수 있는지 △AI의 역할을 법적으로 어떻게 판단할 것인지 △AI에 책임을 지우기 위해 AI 자체에 권리 능력을 인정할 것인지 등에 대해 연구를 진행할 계획이다.

법조계에서는 AI가 잘못을 저지르면 제조사에 제조물책임법상 책임을 묻는 게 가장 현실적인 대안이라고 보고 있다. 하지만 어디까지 책임을 물어야 할지는 법적 논쟁거리다. 또 선제적으로 규제를 하다 보면 AI산업 발전에 걸림돌이 될 것이라는 반론도 만만찮다.

미국에선 자율주행차의 책임소재를 제조사도 갖도록 하는 법안을 만들었다. 미국 캘리포니아주 자동차국은 지난해 12월 충돌사고에 대한 자율주행 차량의 책임을 제한하는 법을 없앴다. 그동안 캘리포니아 주에서는 자동차 제조업체인 제너럴모터스(GM)가 제안한 규칙에 따라 제조업체는 자율주행 시 발생한 차량 충돌사고에 대한 책임을 지지 않고 있었다. 차량이 제대로 유지 및 보수된 상태가 아니더라도 제조업체가 사고 책임을 피하는 것이다. 즉, 제조상의 오류 또는 코딩 불량 등으로 발생한 충돌사고의 모든 책임도 운전자가 고스란히 져야 했다.

하지만 이와 같은 법안에 반대하는 사람들이 많아지자 이들의 의견을 고려해 캘리포니아 주 자동차국은 자율주행 차량의 사고 책임 제한법을 없애기로 했다. 캘리포니아주의 판단에 따라 앞으로 미국 내 다른 도시들도 비슷한 법안을 내놓을 예정이다.

이처럼 자율주행차 뿐만이 아니라 AI로 인한 논란과 책임 공방은 갈수록 확산될 것으로 보여 이에 대한 해결 방안 마련이 전세계적으로 시급한 과제가 될 것으로 전망된다.