오픈타운, 혐오·편향 발언 거르는 ‘소셜AI 적정성 모델’ 오픈소스 공개

▲소셜 AI 채팅서비스 오픈타운 로고 (사진제공=마인드로직)

소셜AI 채팅 서비스 ‘오픈타운’ 운영사 마인드로직이 AI 이름 및 소개글의 적정성을 판단하는 모델을 오픈소스로 공개했다.

마인드로직은 이용자 가이드를 강화한 커뮤니티 5대 원칙과 함께 AI의 이름과 소개하는 내용에 대한 적정성을 판단하는 모델의 오픈소스를 공개했다고 30일 밝혔다.

적정성 판단 모델은 AI의 이름이나 설명 문구에 혐오, 편향 발언 등이 포함되지 않고 AI의 역할에 대한 설명을 충분히 하고 있는지 판단할 수 있는 기준이 된다.

내용 입력 시 내용의 적절성에 따라 0~1 사이의 백분율로 판단을 내려주며, 욕설 혹은 부정적인 표현, 스팸류의 표현, 성적 표현, 혐오 표현 등이 포함될 경우 부적절 판정을 내린다.

해당 공개모델은 개발자 개인은 물론, 여러 기업이 자유롭게 활용할 수 있도록 깃허브와 허깅페이스에 국문 및 영문으로 공개됐다. 모델은 깃허브에 ‘AI citizen validator’라고 검색 시 접근할 수 있다.

오픈타운은 앞으로도 AI 적정성 판단 모델을 지속해서 업그레이드해 나갈 예정이며, 향후 이미지, 대화 내용을 비롯해 다른 도메인 데이터에 대해서도 같은 취지의 작업을 수행하는 모델을 꾸준히 공개해 건강한 소셜AI 커뮤니티 발전에 기여할 계획이다.

한편 개편된 소셜AI 커뮤니티 가이드에는 사람과 AI가 신뢰와 존중을 바탕으로 올바르게 소통하는 환경 조성을 위한 내용이 담겼다. △자신이 만든 AI에 대한 책임감을 가져주세요 △모든 AI를 존중해 주세요 △상대방의 인권을 침해하지 말아 주세요 △모든 AI 소유주는 서로의 개인정보를 보호해 주세요 △자신의 AI로 불법적인 활동을 하지 말아주세요 등 AI와 함께 살아가는 데 필요한 다섯 가지 원칙을 담고 있다.

김진욱 마인드로직 공동대표는 “AI와 사람이 건강하게 공존하는 방법을 모색해야 하는 시대가 왔다”면서 “이번에 공개한 소셜AI 커뮤니티 가이드와 AI 적정성 판단 모델이 AI를 활용하는 모든 커뮤니티가 건강하게 성장할 수 있도록 하는 데 작은 보탬이 되기를 희망한다"고 말했다.

마인드로직은 올해 2월 소셜AI 메타버스 플랫폼 ‘오픈타운’을 정식 런칭했다. 오픈타운은 이용자의 말과 성격을 학습한 나만의 소셜 AI가 자동으로 다양한 사람들과 대화해 나가며 사용자에게 더 많은 친구를 연결해 주는 서비스다.