"AI와 나눈 대화 싹 다 지워진다"…'자동 삭제' 기능 내놓은 메타

▲AI와 나눈 대화가 점차 희미해지며 사라지는 모습. (AI 기반 편집 이미지)

인공지능(AI)이 연애 상담, 재테크, 정신 건강 등 인간의 사적인 영역까지 파고들면서 "내 대화 기록이 서버에 남는다"는 이용자들의 불안도 함께 커져왔다. 이처럼 생성형 AI에게 털어놓은 사생활이나 민감한 고민이 부메랑이 되어 돌아올 수 있다는 우려가 확산되는 가운데 메타(Meta)가 이러한 불안을 정조준한 승부수를 꺼내들었다.

13일 메타는 자사의 글로벌 메신저 왓츠앱(WhatsApp) 내 AI 챗봇에 대화 기록이 전혀 저장되지 않는 이른바 '인코그니토(Incognitoㆍ방문기록을 남기지 않는 서핑) 모드'를 도입한다고 밝혔다. 사용자가 이 기능을 켜면 대화 내용이 즉시 사라지며 서비스를 제공하는 메타 측조차 내용을 열람할 수 없다. 윌 캐스카트 왓츠앱 대표는 "많은 이용자가 건강, 관계, 재정 등 민감한 주제에 대해 AI와 대화하고 싶어 하면서도, 기업에 정보가 공유되는 것에 불쾌감을 느껴왔다"며 도입 배경을 밝혔다.

'흔적 없는 대화'… 프라이버시가 AI 시장의 새 격전지 된다

▲13일(현지시간) 메타는 자사 메신저 앱 와츠앱과 메타AI에 '인코그니토 챗(Incognito Chat)' 기능을 추가한다고 밝혔다. (사진제공=메타)

그동안 오픈AI, 구글을 비롯한 대부분의 AI 기업들은 이용자의 대화 데이터를 서버에 저장하고 이를 향후 AI 모델 고도화를 위한 학습 데이터로 활용해 왔다. 기업용 유료 계정을 제외하면 개인정보 노출에 대한 완벽한 방어책이 없었던 셈이다.

이런 상황에서 마크 저커버그 메타 최고경영자(CEO)는 이번 기능을 두고 "서버에 대화 로그를 전혀 남기지 않는 최초의 메이저 AI 제품"이라고 강조했다. 기술적으로 일반 메시지에 적용되는 '종단간 암호화(End-to-End Encryption)'와는 다르지만 사실상 그와 동등한 수준의 보안력을 갖췄다는 설명이다. 업계에서는 메타의 이번 행보로 인해 생성형 AI 시장의 경쟁 축이 단순한 성능 싸움에서 '철저한 프라이버시 보장'으로 이동할 것으로 보고 있다.

사라진 증거...책임은 누가?

▲생성형 AI 대화 기록 삭제 기능의 부작용과 책임 추적 문제를 설명한 인포그래픽. (AI 기반 편집 이미지)

'기록의 소멸'이 가져올 부작용을 우려하는 목소리도 만만치 않다. 전문가들은 대화 기록이 완벽하게 사라질 경우 AI 오작동이나 유해 콘텐츠 유포 시 책임 소재를 가리기 어려워질 수 있다고 지적한다.

실제로 최근 글로벌 AI 업계에서는 AI의 잘못된 답변으로 인해 발생한 사건ㆍ사고와 관련해 소송이 잇따르고 있다. 영국 서리 대학교의 사이버 보안 전문가 앨런 우드워드 교수는 "AI에게 사적인 질문을 하는 만큼 프라이버시는 중요하지만, 이는 AI가 사용자를 잘못된 길로 인도하지 않을 것이라는 엄청난 신뢰가 전제되어야 한다"고 꼬집었다. AI가 범죄나 자해, 극단적 선택에 관한 위험한 조언을 제공했더라도, 기록이 남지 않는다면 추후 책임 추적이 불가능해진다는 뜻이다.

이에 대해 메타 측은 초기에는 텍스트 대화에만 이 기능을 적용하고, 유해하거나 불법적인 요청에는 AI가 답변을 아예 거부하도록 안전장치를 보수적으로 운영하겠다고 해명했다.

'1450억달러' 쏟아붓는 메타의 전략

▲메타. (로이터/연합뉴스)

이번 조치에는 프라이버시 보호라는 명분 뒤에 메타의 치밀한 비즈니스 계산이 깔려 있다는 분석도 나온다. 현재 왓츠앱은 외부의 다른 AI 챗봇 진입을 철저히 차단하고 오직 메타의 자체 AI만 사용할 수 있도록 제한하고 있다. 이미 10억 명 이상의 메타 AI 이용자를 확보한 상황에서, '인코그니토 모드'라는 강력한 무기로 수십억 명의 왓츠앱 유저들을 자사 생태계 안에 완전히 묶어두겠다는 '락인(Lock-in)' 전략인 것이다.

투자 플랫폼 웰스클럽(Wealth Club)의 수잔나 스트리터는 "메타는 AI 인프라 구축을 위해 막대한 비용을 쏟아붓고 있으며, 투자자들은 이에 상응하는 확실한 성과를 원한다"고 분석했다. 결국 메타는 프라이버시를 앞세워 플랫폼 지배력을 더욱 공고히 하고, 이를 바탕으로 자사의 광고 및 커머스 제국을 확장하려는 거대한 그림을 그리고 있는 셈이다.