스캐터랩은 내년 1월 11일부터 인공지능 기반 챗봇 서비스 ‘이루다2.0’의 비공개 시범 테스트를 진행한다고 21일 밝혔다.
이번 시범 테스트는 서비스 공식 출시에 앞서 AI 윤리를 점검하고 실제 사용자 의견을 받기 위해 진행된다. 이루다는 지난해 12월 출시했지만 이루다를 대상으로 한 성희롱 논란이 퍼지면서 서비스를 잠정 중단한 바 있다.
스캐터랩의 AI 챗봇...
#올 초 국내 IT 업체 스캐터랩이 출시한 인공지능(AI) 챗봇 ‘이루다’는 스무 살 여대학생으로 설정됐다. 94억 건에 달하는 실제 연인 간 대화 데이터를 토대로 자연스럽고 친근한 말투를 구사했다. 하지만 흑인과 레즈비언이 싫다는 등 소수자를 혐오하거나 인종 차별하는 듯한 발언으로 사회적 논란이 됐다. 결국, 출시 20일 만에 서비스는 중단됐다.#아이작...
이루다도(개발사 스캐터랩도) 과기정통부에서 과제를 받을 만큼 기술력이 있는 회사입니다. 그런 회사도 이런 문제에 봉착한다면 어느 누가 사실 이런 엄격한 기준을 지키면서 편안하게 (개발을) 할 수 있을지 모르겠습니다.” (김경만 과기정통부 인공지능기반정책과장)
이루다 사태가 남긴 숙제가 고스란히 정부에게 넘어왔다. 인공지능(AI) 개발사에 쏟아지는...
첫 번째 발표자인 최은광은 스캐터랩 김종윤 대표 및 핑퐁팀 최예지 PM과 직접 나눈 대담을 기초로 이루다가 탄생한 과정과 출시 이후 제기된 여러 의문들에 대한 해명을 소개하면서 주요한 논의 지점들을 짚어낸다.
두 번째 발표자인 오요한은 2016년 10월부터 2021년 1월 사이 챗봇 개발 과정에 관한 스캐터랩의 설명이 어떻게 바뀌어왔는지, 그리고 그 과정에서...
◇ 개인정보위, 1억330만 원 과징금ㆍ과태료…추가 위반사항 밝혀내기도
개인정보보호위원회는 28일 제7차 전체회의를 개최하고 챗봇 ‘이루다’ 개발사 ㈜스캐터랩에 1억330만 원의 과징금ㆍ과태료를 부과했다.
㈜스캐터랩은 자사의 챗봇 ‘이루다’ AI 모델 개발을 위한 알고리즘 학습 과정에서 개인정보 보호법을 위반했다. 자사의 앱 서비스인 ‘텍스트앳’과...
챗봇 ‘이루다’ 개발사 ㈜스캐터랩이 1억330만 원의 철퇴를 맞았다.
개인정보보호위원회는 제7회 전체회의를 열고 스캐터랩에 대하여 총 1억 330만원의 과징금과 과태료 등을 부과했다고 28일 밝혔다.
AI 기술 기업의 무분별한 개인정보 처리를 제재한 첫 사례다.
개인정보위는 기업이 특정 서비스를 목적으로 수집한 개인정보를 이용자의 명시적 동의 없이 다른...
‘챗봇 이루다’의 개발사 ㈜스캐터랩이 자사의 또다른 서비스 ‘연애의 과학’ 앱 이용자의 개인정보를 수년간 무단으로 수집ㆍ활용한 사실이 밝혀졌고, 이후 ㈜스캐터랩이 관련 데이터를 삭제하는 등 증거인멸을 시도할 수 있어서다.
개인정보보호법 제64조 제1항 제2호에 따라 이용자들의 개인정보 처리 행위 중 폐기를 일시 정지하도록 하고, 제3호에 따라...
18일 연합뉴스 보도에 따르면 이루다 개발사인 스캐터랩 김종윤 대표는 전날 오전 벤처 투자자들이 모인 자리에서 이루다에 관한 강연을 개최했다. 개인정보보호위원회가 스캐터랩의 개인정보 침해 사실에 대한 조사를 진행하고 있는 만큼 부적절한 행보였다는 지적이 나왔다.
벤처캐피탈협회 관계자는 이투데이와의 통화에서 “해당 조찬은 투자자들의 사모임”이라며...
연합뉴스 보도에 따르면 김종윤 스캐터랩 대표는 17일 오전 벤처 투자자들이 모인 자리에서 이루다로 얻은 성과를 발표했다. 한국벤처캐피탈협회가 주최한 조찬 모임에서 ‘이루다의 성과와 숙제’를 주제로 강연을 연 것. 서비스 종료 두 달 만에 공식석상에 모습을 드러낸 것에 대해 투자·스타트업 업계에서 부적절하다는 지적이 나온다.
김 대표는 강연에서...
이루다 사태를 촉발한 스캐터랩에 대한 고민도 전했다. 개인정보보호 법률이나 제도에 대해 인지하거나 대응하지 못하는 중소기업이나 스타트업에 대한 지원책이 필요하다는 것.
윤 위원장은 “단순한 조사 후 처벌에 그치기보다, AI와 관련된 이슈에 대해 제도적·기술적·운영 측면에서 지원할 방안을 함께 모색하려고 한다”라고 전했다.
급하게 출범한 만큼 전문가와...
피해자 측은 전날 서울동부지법에 스캐터랩을 상대로 한 증거 보전 신청서를 제출했다. 스캐터랩이 이용자들의 카카오톡 대화로 구축한 데이터베이스(DB)를 이번 사건의 증거로 보전해야 한다며 법원에 판단을 구했다.
스캐터랩은 연애 분석 앱 ‘연애의 과학’과 ‘텍스트앳’으로 이용자들의 카톡 대화를 수집, 이루다를 제작했다. 수집한 100억 건의 카톡 대화 중...
법무법인 태림 하정림, 신상민 변호사는 소개 페이지에서 “스캐터랩은 ‘연애의 과학’, ‘텍스트앳’ 등 기존 서비스에서 수집한 카카오톡 대화를 대화 당사자 모두의 동의 없이 수집해 인공지능(AI)에 딥러닝시켰다”며 “이 과정에서 개인정보 유출이 발생했다”고 설명했다.
변호인에 따르면 ‘연애의 과학’이나 ‘텍스트앳’을 이용했다가 이루다를 통해...
인공지능 챗봇 ‘이루다’의 개발사 스캐터랩이 데이터베이스(DB)와 대화 학습에 사용된 딥러닝 대화 모델을 폐기하기로 했다.
15일 스캐터랩은 “인공지능 ‘이루다’의 DB 전량 및 딥러닝 대화 모델을 폐기하기로 했다”고 밝혔다.
이루다 DB는 비식별화 절차를 거쳐 개별적이고 독립적인 문장 단위로 이루어져 개인 식별이 가능한 데이터는 포함돼 있지 않다. 또...
인공지능(AI) 챗봇 ‘이루다’의 개발사인 스캐터랩이 개인정보 유출 의혹 조사에 성실히 임하겠다며 고개를 숙였다.
스캐터랩은 13일 오후 11시 언론에 사과문을 내고 개인정보처리와 관련해 개인정보보호위원회 및 한국인터넷진흥원(KISA)의 조사를 성실히 받겠다고 밝혔다.
회사측은 “논란이 되는 모든 사항에 대해 진상조사위원회를 구성해 사내에서도 철저히...
각종 혐오 발언 논란과 개인정보 침해 의혹으로 서비스를 중단한 인공지능(AI) 챗봇 '이루다'의 개발사 '스캐터랩'에 대해 시민단체들이 정부의 철저한 조사·처벌과 법적 대안 마련을 요구했다.
민주사회를 위한 변호사모임·참여연대·진보네트워크센터·정보인권연구소는 13일 성명을 내고 "개인정보보호위원회의 철저한 조사와 엄정한 처벌을 촉구한다...
개인정보보호위원회가 개인정보 유출 논란에 휩싸인 스타트업 ‘스캐터랩’에 대한 본격적인 조사에 13일 착수했다.
개인정보위는 스캐터랩이 인공지능(AI) 챗봇 ‘이루다’를 개발하는 과정에서 개인정보보호법을 어겼는지 들여다볼 예정이다. 스캐터랩은 연애 분석 앱 ‘연애의 과학’으로 이용자들의 카카오톡 데이터를 수집해 이루다 개발에 활용했다....
‘이루다’는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다. 자연스러운 대화 능력으로 이용자가 40만 명을 넘어 크게 주목받았다. 하지만 악성 이용자로부터 성적 도구 취급에 시달리다 동성애·장애인·여성 혐오 발언을 내놓았다.
문제가 커지자 결국 개발사인 스타트업 스캐터랩은 중단을 선언했다. 스캐터랩은 “부족한 점을...
인공지능(AI) 챗봇 ‘이루다’ 관련 논란이 지속하자 개발사인 스캐터랩 측이 보도자료를 내고, 서비스 개선을 약속했다.
챗봇 이루다를 성적 대상화한 문제가 불거진 뒤 이루다가 소수자 차별을 한다는 문제가 제기됐다. 이후 개인정보 유출 문제, 직원들 간 이용자들의 데이터를 공유한 문제 등까지 불거졌다. 개발사인 스캐터랩 측은 11일 서비스를 중단하겠다고...
이루다 개발사인 스타트업 스캐터랩은 11일 오후 보도자료를 통해 "부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다"고 밝혔다.
스캐터랩 측은 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다"면서 "그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별·혐오 발언이...
이어 “AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것”이라고 덧붙였다.
한편, 이루다는 스타트업 스캐터랩이 지난달 출시한 AI 챗봇이다. 챗봇을 대상으로 성희롱 문제가 수면 위로 불거졌고, 이후 이 챗봇이 장애인, 성 소수자 등을 대상으로 혐오 발언을 한 것도 드러났다.