구글 출신 AI 전문가의 경고…“AI 에이전트가 프라이버시 위협”

구글 출신 인공지능(AI) 전문가가 AI 에이전트 확산을 “프라이버시 보호 체계를 흔드는 새로운 위협”이라고 지적하며 “프라이버시 없는 세상은 모두가 패배하는 세상”이라고 경고했다.

메러디스 휘태커(Meredith Whittaker) 시그널 테크놀로지 재단 회장은 16일 서울 그랜드하얏트 호텔에서 진행된 글로벌 프라이버시 총회(GPA) 기조연설에서 "운영체제(OS)가 AI 에이전트를 전면적으로 통합하면서 앱 수준의 프라이버시 보호가 사실상 불가능해지고 있다"고 말했다.

휘태커 회장은 2006년부터 구글에서 13년간 근무하며 ‘오픈 리서치그룹’을 설립한 AI 전문가로 AI의 사회적 의미를 연구하는 미국 뉴욕대 ‘AI 나우 인스티튜트’의 공동 창립자다. 미국의 비영리단체인 시그널재단은 종단간 암호화 메시징 플랫폼인 ‘시그널’을 운영하고 있다.

이날 휘태커 회장은 AI 에이전트로 인한 대표적인 위협 사례로 마이크로소프트(MS)가 최근 선보인 '리콜’ 기능을 꼽았다. 그는 “리콜 기능은 몇 초마다 사용자의 화면을 캡처하고 텍스트를 추출해 저장한다”며 “이는 악의적인 공격자에게 고가치의 표적이 된다”고 지적했다.

이어서 “보안 연구 회사인 ‘루니아 랩스’는 최근 애플 인텔리전스 업데이트의 일환으로 왓츠앱 메시지가 시리 서버로 전송되는 정황을 확인했다”며 “사용자가 모르게 종단간 암호화를 근본적으로 무력화시키는 것인데 애플이 연구자들에게 ‘문제가 되지 않는다’고 답변한 것이 충격적”이라고 말했다.

휘태커 회장은 “AI 에이전트가 모든 곳에서 일을 해야 한다는 명분 아래 운영체제가 더 이상 중립적 기반으로 남지 않는 급격한 전환이 일어나고 있다”며 “사용자의 명시적 동의 없는 데이터 수집은 심각한 프라이버시·보안 취약점을 가져온다는 것이 이미 드러났다”고 경고했다.

그러면서 이러한 흐름이 1990년대 ‘암호 전쟁’ 때부터 이어진 구조적 문제라고 설명했다. 과거 미국에선 암호화를 군수품으로 분류해 수출과 사용을 엄격히 제한할지 여부를 두고 10년 가까이 논쟁이 이어졌다. 당시 클린턴 정부는 인터넷 산업을 성장시켜 세계 시장을 주도하길 원하면서도 암호화를 약화해 감시 권한을 유지하려 했다.

휘태커 회장은 “1999년 강력한 암호화가 합법화되면서 프라이버시의 승리로 포장됐지만 정부는 기업이 축적한 데이터로 감시를 강화했고 기업은 광고 기반 비즈니스 모델을 키웠다”며 “암호화 자체의 승리는 프라이버시의 승리로 이어지지 않았다”고 말했다.

그렇다면 AI가 급속하게 발전하는 시대에 개인정보를 보호할 수 있는 근본적인 해결책은 없을까. 휘태커 회장은 △AI 침입에 대한 개발자 수준의 거부권(opt-out) 보장 △앱별 세밀한 통제권 △운영체제 기업의 데이터 접근·활용에 대한 급진적 투명성 등의 3가지 방안을 제시했다.

그는 “AI가 어떤 방식으로 접근·처리·전송할 수 있는지 앱 단위로 구체적이고 세밀한 제어 장치가 필요하다”며 “AI 에이전트가 앱과 클라우드, 기기 사이를 오가며 작동한다는 명목으로 보안을 훼손하지 않도록 공개적이고 명확한 약속이 마련돼야 한다”고 촉구했다.

한편 이날 막을 올린 GPA 총회는 개인정보 보호 분야에서 가장 권위 있는 국제 행사로 아시아에서 열리는 건 2017년 홍콩에 이어 두 번째다. 19일까지 이어지는 이번 총회에는 한국과 미국, 유럽연합(EU), 영국, 프랑스, 독일, 일본 등 95개국·148개 개인정보 감독기구에서 약 1000명이 참석할 것으로 예상된다.