“AI가 예상 못한 질문을 받는다면?”…‘아기상어’ 전시에 적용된 AI 신뢰성 평가

4개 언어·1만개 시나리오로 안전성 평가
예측 불가 질문에 흔들리지 않는 캐릭터 AI
누적 대화 세션 27만9000건⋯실제 전시서 운영

▲전시 관람객이 AI 인터랙티브 스태츄와 대화하고 있는 모습 (사진제공=셀렉트스타)

셀렉트스타가 생성형 AI로 구현된 ‘아기상어’의 세계관과 대화 안전성을 검증하며 관람객과 캐릭터가 실시간으로 소통하는 새로운 전시 경험을 기술적으로 뒷받침하고 있다.

22일 AI 업계에 따르면 셀렉트스타는 6월 18일 서울 동대문 디자인플라자(DDP)에서 개막한 더핑크퐁컴퍼니의 AI 인터랙티브 전시 ‘아기상어 비밀 초대장: 비커밍 샤크’에 AI 신뢰성 평가 플랫폼 ‘다투모 플랫폼(Datumo Platform)’을 적용해 캐릭터 세계관과 대화 안전성, 다국어 대화 품질을 평가했다.

이번 전시는 관람객의 말과 행동에 AI 캐릭터가 실시간으로 반응하는 방식으로 운영된다. 자유로운 대화가 이뤄지는 만큼 예상하기 어려운 질문에도 캐릭터의 성격과 세계관을 유지하고, 관람객에게 부적절한 답변을 하지 않도록 안전성을 확보하는 것이 필요했다.

캐릭터 지식재산권(IP)를 활용한 생성형 AI 서비스에서는 캐릭터성을 일관되게 유지하는 것이 중요하다. AI가 기존과 다른 말투나 성격, 행동 방식을 보일 경우 이용자의 몰입이나 브랜드 경험에 영향을 줄 수 있어서다. 셀렉트스타는 더핑크퐁컴퍼니의 ‘아기상어’ 캐릭터와 세계관을 일관되게 구현할 수 있도록 페르소나와 세부 대화 지침을 설계하고 이를 바탕으로 AI 신뢰성을 평가했다. 특히 어린이를 대상으로 하는 콘텐츠인 만큼 ‘다투모 플랫폼’의 안전성 벤치마크를 활용해 부적절한 답변이 생성되지 않는지도 검증했다.

한국어, 영어, 일본어, 중국어 등 4개 언어에서 동일한 수준의 캐릭터 경험을 제공하는 것도 주요 과제였다. 단순히 한국어 대화를 번역하는 것이 아니라 각 언어권의 문화적 맥락과 표현 방식을 고려해 캐릭터성과 대화 의미가 자연스럽게 전달되도록 검증했다.

평가 과정에는 ‘다투모 플랫폼’의 에이전트 시뮬레이션 기능이 활용됐다. 가상의 AI 사용자가 실제 관람객처럼 AI 캐릭터와 여러 차례 대화를 이어가며 응답의 안전성과 적절성을 자동으로 평가하는 기술이다. 이를 통해 AI가 사전에 설정한 안전성 기준을 지켰는지, 상황에 맞는 답변을 제공했는지를 정량적으로 검증했다.

실제 관람객의 이용 환경을 최대한 재현하기 위해 연령과 발화 성향 등을 반영한 AI 사용자 페르소나를 설계했다. 서로 다른 성향의 AI 사용자가 상황에 따라 자유롭게 대화를 이어가도록 해 전시 현장에서 발생할 수 있는 예상 밖의 대화 흐름까지 사전에 점검했다. 여기에 서비스에서 발생할 수 있는 다양한 안전성 이슈를 반영해 한국어·영어·일본어·중국어 4개 언어별로 각각 2500개씩, 총 1만 개의 안전성 평가 시나리오를 생성했다. 이를 기반으로 AI 캐릭터와의 다회차 대화를 시뮬레이션하고, 평가 과정에는 아기상어 IP를 보유한 더핑크퐁컴퍼니와 AI 엔지니어, 서비스 기획자, QA 담당자가 함께 참여해 문제 응답과 평가 결과를 공유했다.

최종 평가에서 안전성과 품질 모두 사전에 설정한 임계 기준을 충족했다. 셀렉트스타 자체 평가 데이터셋 기준 부적절 콘텐츠 차단율은 약 99%, 전체 AI 대화 응답 정확도는 97.38%를 기록했다. 이렇게 사전 검증을 거친 AI 캐릭터는 현재 실제 전시 현장에서 관람객과 실시간으로 상호작용하고 있으며, 전시 개막 이후 8월 17일까지 누적 대화 세션은 약 27만 9000건에 달한다.

김세엽 셀렉트스타 대표는 “생성형 AI가 실제 고객과 만나는 순간부터 AI의 안전성은 곧 브랜드 리스크와 연결된다”며 “다투모 플랫폼은 각 기업이 원하는 AI 신뢰성의 기준을 정의하고, 실제 서비스 환경에서 그 기준을 충족하는지를 반복적으로 평가할 수 있도록 지원한다. AI 도입이 실제 서비스로 확산될수록 신뢰성 평가는 기업 AX 과정에서 반드시 거쳐야 하는 단계로 자리 잡을 것”이라고 말했다.