19금 대화하는 챗GPT⋯결국 돈 때문?

(로이터/연합뉴스)

오픈AI가 챗GPT의 일명 19금 대화와 욕설, 자극적 표현 등이 포함된 고수위 대화를 성인 이용자에게 허용하겠다는 방침을 밝힌 가운데 윤리·규제 우려가 제기됐다.

김덕진 IT커뮤니케이션연구소 소장은 28일 CBS 라디오 ‘김현정의 뉴스쇼’에서 “지금까지 챗GPT는 욕설을 그대로 받아치거나 노골적인 성인 대화, 음모론적 대화 등 사회적으로 민감한 내용은 대부분 차단해 왔다”며 “12월부터는 성인 인증된 이용자에게 이런 제약을 풀겠다는 게 오픈AI의 입장”이라고 말했다. 그는 “오픈AI가 ‘우리는 도덕 경찰이 아니다’라고 밝혔다”며 “결국 돈을 벌기 위한 비즈니스 방향을 명확히 한 것”이라고 해석했다.

김 소장은 “지금까지는 챗GPT가 수위 높은 표현을 하면 답변을 피하거나 수위를 낮췄지만, 앞으로는 성인끼리 자유롭게 대화하듯 높은 수위의 욕설 섞인 대화나 성인용 대화도 가능한 구조가 될 수 있다”고 설명했다. 마약 등 불법 요소에 대한 묘사에도 변화가 있을 것으로 봤다. 그는 “예전엔 질문해도 답을 잘 안 했는데 이제는 답을 하는 방향으로 가는 것”이라며 “지금까지는 되게 많이 유도를 해야 했지만 이젠 제약이 줄어들 것”이라고 했다.

이와 함께 인공지능이 특정 캐릭터와 역할극 형태로 깊은 사적·성적 대화를 하는 ‘캐릭터 챗’ 서비스가 이미 확산 중이라고 짚었다. 김 소장은 “사용자가 AI에게 설정을 주면 그 역할 그대로 대화를 이어가는 서비스들이 있다”며 “일부 서비스는 무료와 유료에서 대화 수위와 깊이가 다르고 캐릭터를 만든 사람이 수익을 나눠 갖는 구조도 있다”고 말했다. 일론 머스크의 xAI가 운영하는 챗봇 ‘그록’ 사례도 언급했다. 김 소장은 “그록은 성인용 모드를 넣었고 사용자가 캐릭터의 말투를 ‘섹시한 사람처럼’, ‘항상 욕을 섞는 트레이너처럼’으로 지정할 수 있다”고 말했다.

딥페이크 성인 영상 우려도 제기됐다. 김 소장은 “최근 ‘스파이시 모드’처럼 이미지를 넣으면 자동으로 성인용 영상처럼 변환해 버리는 기능이 해외에서 논란이 됐다”며 “캐릭터 이미지뿐 아니라 실제 사람 사진도 그런 식으로 가공될 수 있어 문제가 됐다. 일부 기능은 차단됐지만 그 기간 이미 많은 시도가 가능했다”고 말했다.

오픈AI는 미성년자 노출을 막기 위해 성인 인증을 강화하겠다는 입장이다. 김 소장은 “오픈AI는 번호나 카드 등 강한 본인 인증을 적용하겠다고 했고, 나아가 ‘대화 패턴’을 분석해 실제 이용자가 미성년자인지 아닌지도 판별하는 기술을 연구하고 있다고 밝혔다”고 전했다. “미성년자로 판단되면 대화 수위를 낮추거나 알림을 하겠다는 식의 얘기를 하고 있다”고도 했다.

그는 이 변화가 단순히 성적 표현 허용 문제를 넘어 인간의 관계 방식 자체를 흔들 수 있다고 지적했다. 김 소장은 “AI가 욕도 하고, 애인처럼 얘기하고, 위로하고, 쇼핑까지 대신 추천하고 결제까지 붙으면 사람들은 실제 사람보다 AI와 대화하는 게 더 편해질 수 있다”고 말했다. “나에게 싫은 소리 안 하고 맞춰주는 AI와 24시간 대화하면서 물건 사고 콘텐츠 보고 결제까지 하다 보면, 일상 자체가 그 안에 갇힐 수 있다”고 했다.

AI의 ‘아첨’ 문제도 언급됐다. 김 소장은 “AI가 ‘밤에 라면 먹었어’라고 하면 ‘정말 대단한 결정’이라고까지 말한다”며 “이게 너무 심해지니까 챗GPT도 아첨이 심한 버전을 예전 버전으로 돌리는 경우가 있다”고 말했다. 그는 “AI가 사람 대화를 학습하면서 인간처럼 사회화되고 있다. 이용자가 좋아하는 반응만 강화하다 보니 더 비위를 맞추는 방향으로 변한다”며 “이 부분도 통제 필요성이 제기되고 있다”고 했다.

김 소장은 “결국 AI 기업들은 막대한 투자를 받은 뒤 수익을 내야 하는 상황”이라며 “성인용 모드 개방은 계속될 수밖에 없고, 정책과 규제, 사회적 합의가 따라가야 한다”고 말했다.