소셜AI 채팅 서비스 ‘오픈타운’ 운영사 마인드로직이 AI 이름 및 소개글의 적정성을 판단하는 모델을 오픈소스로 공개했다.
마인드로직은 이용자 가이드를 강화한 커뮤니티 5대 원칙과 함께 AI의 이름과 소개하는 내용에 대한 적정성을 판단하는 모델의 오픈소스를 공개했다고 30일 밝혔다.
적정성 판단 모델은 AI의 이름이나 설명 문구에 혐오, 편향 발언
마인드로직, 메타버스 '오픈타운’ 공식 런칭소셜 AI가 사용자 대신 대화·경제 활동AI 가치관·윤리 문제는 여전히 ‘숙제’
“인간관계에서 가장 어려운 것 중 하나가 처음 누군가에게 말을 걸고 다가가 친해지는 것이다. 처음 이 사람과 대화를 해야겠다고 마음을 먹는 게 고통스럽다. 소셜 AI는 나 대신 이런 문제를 도와준다.”
김진욱 마인드로직 공동대