극단적 선택 언급시 부모에 연락⋯오픈AI, ‘청소년용 챗GPT’ 출시

▲오픈AI 로고와 일러스트. 로이터연합뉴스

청소년의 AI 챗봇 이용을 둘러싼 정신 건강 논란과 소송이 이어지자 오픈AI가 청소년을 위한 기능을 선보이고 나섰다.

오픈AI(OpenAI)는 청소년들이 학습에 도움이 되도록 AI를 활용하도록 유도하고 정서적 의존 위험을 줄일 수 있는 기능이 담긴 ‘청소년을 위한 챗GPT(ChatGPT for Teens)’를 출시한다고 19일 밝혔다. 청소년을 위한 챗GPT는 시스템이 이용자를 18세 미만으로 추정하거나 이용자가 자신의 나이를 13~17세라고 밝히면 자동으로 적용된다.

청소년 이용자에게는 연령에 맞춘 안전장치가 기본으로 적용된다. 자해와 폭력, 섭식장애, 위험한 행동, 노골적인 성적·폭력적 콘텐츠 등 위험도가 높은 영역에서 유해하거나 발달 단계에 부적절한 콘텐츠에 노출될 가능성을 줄이도록 모델과 제품 차원의 보호 조치를 강화했다. 이 기준은 발달과학 연구와 전문가 의견을 반영한 오픈AI의 ‘18세 미만 이용자 원칙’에 기반한다. 부모와 연결된 청소년 계정에서는 부모가 이용 제한 시간을 정하고 일부 설정을 관리할 수 있다. 제한적인 고위험 상황에서는 부모에게 알림이 전달된다.

건강하고 균형 잡힌 이용을 돕는 기능도 포함했다. 일정 시간 사용하면 휴식을 권하는 알림을 제공하고, 이용자가 챗GPT를 사람으로 오인하지 않도록 AI라는 사실을 지속적으로 알린다. 18세 미만 이용자용 모델 지침에 따라 챗GPT는 청소년에게 연애 감정을 표현하거나 정서적 의존을 부추기지 않으며, 자신에게 감정이나 의식이 있는 것처럼 말하지 않도록 설계됐다.

민감한 이미지를 올리기 전에 개인정보가 담긴 사진을 공유하지 않도록 주의를 환기하고, 청소년용 초기 안내에서 학습·안전 기능을 소개한다. 강조 색상과 음성 등 간단한 맞춤 설정은 제공하되, 유용한 도구와 인간관계의 경계가 흐려지지 않도록 구성했다.

또 청소년을 위한 챗GPT는 청소년이 AI를 이용하면서 손쉽게 답만 얻기보다 문제를 스스로 이해하고 해결할 수 있도록 돕는 데 초점을 맞췄다. 시험을 준비하는 청소년은 낯선 개념에 대한 설명을 요청하고 연습 문제를 단계별로 풀며 자신이 제대로 이해했는지 확인할 수 있다.

이용자가 과제의 답을 바로 구하려는 것으로 보이면 챗GPT는 학습 모드로 유도해 풀이 과정에 참여하도록 안내한다. 또 과제를 건너뛰려는 이용자를 위해 문제 풀이 과정으로 유도하는 ‘책임 있는 과제 알림’, 퀴즈와 학습 시각화 기능 등이 학습을 위해 제공된다. 새로 도입되는 ‘학습 시간’ 기능을 이용하면 청소년이나 부모가 지정한 시간에 학습 모드가 기본으로 켜지도록 설정할 수 있다.

학습 모드는 교사와 과학자, 교육학 전문가들과 함께 설계됐다. 안내 질문과 단계별 학습 지원, 스스로 사고 과정을 점검하도록 돕는 질문, 이해도 확인 기능을 활용해 학생이 답을 바로 받기보다 문제를 직접 풀도록 돕는다. 오픈AI는 AI가 교실 밖에서 학습을 보조하되, 교육 현장에서 AI를 어떻게 활용할지는 교사가 주도해야 한다는 원칙을 제품 설계에 반영했다.

이번 조치는 오픈AI가 직면한 법적, 규제 압박 속에서 마련된 것으로 풀이된다. 오픈AI는 현재 여러 건의 불법 사망 소송에 휘말려 있으며 그중에는 16세 청소년 애덤 레인의 부모가 제기한 소송도 포함돼 있다. 레인은 챗GPT가 조언한 방법을 사용해 극단적인 선택을 한 것으로 알려졌다.