오픈AI, 새로운 안전·보안위원회 구성…차기 AI모델 훈련 착수도

올트먼 CEO·테일러 이사회 의장 등 주도
“AGI로 향하는 차기 단계 역량 이끌 것”

▲오픈AI 로고가 보인다. 로이터연합뉴스

챗GPT 개발사 오픈AI가 차기 인공지능(AI) 모델 훈련을 시작하고, 샘 올트먼 최고경영자(CEO)를 비롯한 이사회 멤버들이 주도하는 새로운 안전 및 보안 위원회를 구성했다고 밝혔다.

28일(현지시간) 블룸버그통신에 따르면 새로운 위원회는 오픈AI의 프로젝트와 운영에 대한 안전 및 보안 결정에 대해 이사회에 권고하는 역할을 담당하게 된다. 샘 올트먼 CEO와 브렛 테일러 이사회 의장, 아담 디안젤로 이사 등이 위원회를 이끌게 될 예정이다.

오픈AI는 블로그에서 “오픈AI의 프로세스 및 안전장치를 평가하고 더욱 발전시키는 것이 첫 번째 과제”라며 “전체 이사회의 검토가 끝난 뒤 안전과 보안에 부합하는 방식으로 채택된 권고사항에 대한 최신 정보를 공개할 것”이라고 밝혔다.

이러한 발표는 생성형AI의 급격한 발전으로 잠재적 위험성 관리에 대한 우려가 제기되는 가운데 나왔다. 특히 이달 들어 공수석과학자인 일리야 수츠케버와 또 다른 임원인 얀 레이케가 퇴사하면서 이러한 우려는 더욱 커졌다. 두 사람은 오픈AI에서 슈퍼얼라이먼트팀을 이끌고 고성능 AI의 장기적 위협 등을 연구해왔다.

오픈AI는 이날 또 새로운 AI 모델에 대한 훈련에 착수했다고 밝혔다. 오픈AI는 “다음 프런티어 모델을 훈련하기 시작했다”며 “이 결과물은 범용인공지능(AGI)으로 향하는 차기 단계의 역량을 이끌 것으루 기대한다”고 언급했다.