1조 개 처리하는 네모트론 4도 개발 중

11일(현지시간) CNBC방송에 따르면 엔비디아는 PC 단일 그래픽처리장치(GPU)로도 구동할 수 있는 새로운 개방형 경량 AI 모델 ‘네모트론 3.5 라이트닝’을 출시했다. 새로 나온 상품은 매개변수 300억 개 규모의 경량 혼합전문가(Moe) 모델로, 오픈소스로 공개돼 이용자가 별도의 비용이나 사전 승인 없이 자유롭게 사용하고 가중치도 수정할 수 있다.
신제품은 기존 네모트론과 달리 자율적으로 업무를 수행하는 AI 에이전트의 속도와 비용 효율성에 초점을 맞춰 설계됐다. 또 증류 기술(크고 성능 좋은 모델이 작고 저렴한 모델을 학습시키는 기술)을 활용해 동급 모델보다 토큰 생성 속도를 최대 4배 높이고 작업 시간은 30% 단축했다는 것이 특징이다.
이와 함께 엔비디아는 작업별 최적 모델을 자동으로 골라 비용을 최대 3분의 1로 줄이는 ‘네모 스위치야드’도 공개했다.
아울러 IT 전문매체 디인포메이션은 프로젝트 관계자를 인용해 엔비디아가 매개변수 1조 개를 처리하는 대규모 개방형 AI 모델인 네모트론 4도 개발 중이라고 보도했다. 관계자에 따르면 모델의 최종 학습은 아직 완료되지 않았지만, 이르면 늦가을에 공개될 것으로 보인다.
일련의 공개는 엔비디아가 자사 고객사인 오픈AI나 앤스로픽과 경쟁하려 한다기보다 개방형 AI 선택지를 늘려 전체 GPU 수요를 확대하려는 전략적 결정이라는 평가가 나온다.
카리 브리스키 엔비디아 생성형AI 부문 부사장은 성명에서 “엔비디아는 모든 기업과 국가가 안전과 보안을 강화하고 혁신을 가속하며 다음 세대로 이어질 수 있는 기반을 마련하고자 접근 가능한 최첨단 개방형 모델이 필요하다고 믿는다”며 “이에 네모트론에 투자하고 있는 것”이라고 밝혔다.



