마이크로소프트, 일부 감정 분석 프로그램 판매 중단

AI 책임 규정도 2번째 개정

▲마이크로소프트(MS) 로고. 이시레물리노/AP뉴시스

마이크로소프트(MS)가 인공지능(AI) 기술을 기반으로 감정을 분석하는 소프트웨어 툴 일부를 판매 중지한다고 밝혔다.

22일(현지시간) 블룸버그통신에 따르면 전날 나타샤 크램프턴 MS AI 최고책임자는 블로그를 통해 사람의 얼굴을 스캔해 감정을 추론하는 기술에 대한 개방형 API 접근 권한을 제공하지 않는다고 알렸다.

회사 내‧외부의 전문가들은 감정에 대한 정의에 과학적 합의가 결여돼있다는 점을 강조하며 더 주의 깊은 연구가 필요하다고 지적한 것으로 알려졌다.

대상자의 감정 상태, 성별, 나이, 기분, 개인적 속성 등을 추론하는 해당 툴은 2년 전 한 연구에서 편향성과 부정확성을 보이기도 했다. AI 프로그램의 오류 발생률이 피부색이 어두운 피실험자들에게서 더 높게 나타난 것이다.

당시 미 경찰 당국이 MS와 경쟁사인 아마존의 얼굴 인식 AI 기술 판매를 중지시키기도 했다.

크램프턴은 이날 블로그에 MS의 AI 책임 규정이 두 번째로 개정된 사실도 전했다.

MS는 자사의 AI 관련 윤리 지침을 충족하는지 확인하기 위해 다른 얼굴 인식 프로그램 사용도 제한하고 있다.

블룸버그는 거대 기술 회사들은 논란이 많은 해당 기술에서 손을 떼는 분위기라고 설명했다. 그러나 NEC와 클리어뷰AI 등 더 작은 기업들은 여전히 법 집행을 포함한 개인정보 보호와 보안 문제를 제기하는 방법으로 쓰기 위해 얼굴 인식 툴 사업을 유지하고 있다.

MS는 사람의 반응을 읽는 AI 기술의 사용을 완전히 없애지는 않고 있다. 계속해서 사람의 감정 등을 추측하는 기술들을 개발하고 있다.

마이크로소프트는 지난주 영업직 종사자를 위해 데이터와 AI를 기반으로 설계된 솔루션 ‘비바 세일즈’를 공개하기도 했다.

비바 세일즈는 고객과의 통화 내용을 문자로 기록하고, 통화 후에는 영업 직원이 말하고 들은 비율, 대화 속도 등을 요약해 제공한다.