부모 관리 기능 도입된 챗GPT…얼마나 효과 있을까

▲청소년의 AI 사용에 부모 통제 기능이 도입된 모습을 형상화했다. (오픈AI 달리)

오픈AI가 최근 10대를 대상으로 챗GPT 사용에 부모 통제 기능을 출시했다. AI 챗봇을 둘러싼 청소년 유해성 논란으로 기업들이 미성년자 전용 모델을 도입하는 등 대책 마련에 나섰지만 실효성에 대한 의문이 제기된다.

지난달 29일부터 챗GPT에 적용된 부모 관리 기능은 부모가 자녀의 챗봇 사용 방식을 제한하고 10대가 심리적 위기에 처했을 가능성을 챗GPT가 감지하면 부모에게 알림을 보내는 방식이다. 부모는 자녀가 특정 시간대에는 서비스를 사용하지 못하도록 차단할 수도 있다.

부모 통제 기능은 부모(또는 성인)가 자녀에게 이메일로 요청을 보내 설정된다. 요청이 수락되면 부모는 자녀가 음성 모드나 이미지 생성 기능 사용 여부 등을 결정할 수 있다. 부모는 자녀가 다이어트, 성, 증오 발언과 같은 주제와 관련된 콘텐츠 노출을 줄인 제한 버전의 챗봇을 사용하도록 설정할 수도 있다.

10대 이용자가 정신적 고통에 빠져있을 가능성을 챗GPT가 감지하면 이메일이나 문자 메시지 또는 챗GPT 앱 알림을 통해 부모에게 긴급 경보가 전달된다. 다만 오픈AI는 부모 관리 기능이 도입돼도 10대 사용자의 챗GPT 대화 내용을 부모와 공유하지는 않을 것이라고 밝혔다.

이같은 조치는 미 캘리포니아주 한 10대 부모가 아들이 죽는 방법을 탐색하도록 챗GPT가 적극 도왔다며 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기한 지 한 달 만에 이뤄졌다. 지난해 11월부터 챗GPT를 사용해온 16살 아담 레인은 올해 초 자살 충동을 느껴 챗GPT에 구체적인 방법을 요청했고 지난 4월 세상을 떠났다.

지난해 10월에는 미 플로리다주에 사는 한 10대가 챗봇에게 “사랑한다”는 메시지를 보내는 등 챗봇에 빠져 스스로 목숨을 끊는 사건이 있었다. 이 부모는 캐릭터.AI를 상대로 소송을 제기했다. 최근에는 메타(Meta)의 AI 챗봇이 어린이들과 대화에서 선정적이고 로맨틱한 대화를 나눌 수 있도록 허용됐다는 의혹이 나와 미국 연방 상원이 공식 조사에 나서기도 했다.

메타는 지난 1일 규정을 재정비, 챗봇이 미성년자와 자해나 자살, 식이 장애 등 위험한 주제의 대화를 피하고 성적 대화를 차단하도록 임시 조치를 마련했다. 캐릭터AI 역시 미성년자 전용 모델을 도입, 1시간 이상 사용 시 경고 알림을 띄우는 기능을 추가했으며 구글과 앤트로픽은 유해 콘텐츠 탐지 정확도를 개선하겠다고 밝혔다.

하지만 전문가들은 이 같은 조치에 우회 가능성 등의 한계가 있다고 지적한다. 최병호 고려대 AI연구소 교수는 “그동안 오픈AI가 보안이나 안전 문제를 등한시하고 성능을 높이는 데만 모든 역량을 썼다”며 “파운데이션 모델은 강력하게 통제하는 순간 성능이 떨어진다”고 말했다. 최 교수는 “알고리즘상 우회할 방법이 많은데 관련 서비스를 너무 일찍 냈다”며 “준비가 안 된 상태로 상황을 무마하기 위해 발표한 것으로 보인다”고 덧붙였다.