‘삼성 생산’ 엔비디아 그록3, 양산 돌입...고객사 네비우스

그록3 LPX 랩 양산 시작, 연내 투입 목표

▲컴퓨터 보드 위에 엔비디아 로고가 보인다. (로이터연합뉴스)

삼성전자가 생산하는 엔비디아 추론 전용 칩 그록3가 양산에 들어간다.

24일(현지시간) CNBC방송에 따르면 엔비디아는 그록3 LPX 랙이 본격적인 양산에 들어갔다고 발표했다.

디온 해리스 엔비디아 수석 디렉터는 기자들과 만난 자리에서 “그록 랙은 네오클라우드 업체 네비우스에서 베라 중앙처리장치(CPU), 루빈 그래픽처리장치(GPU)와 함께 배치되며 올해 안에 가동될 예정”이라고 말했다.

그록3 LPX 랙은 추론 전용 칩 256개가 들어간 캐비닛 크기의 AI 서버 시스템이다. 엔비디아는 아티피셜 애널리시스의 벤치마크 결과를 인용해 그록3 LPX 랙이 초당 3400개의 토큰을 처리할 수 있다고 밝힌 적 있다.

앞서 엔비디아는 지난해 12월 AI 반도체 스타트업 그록을 200억달러(약 27조6400억원)에 인수했다. 이는 엔비디아 역사상 최대 규모의 인수 거래였다. 이후 그록3 LPX 생산 전량을 삼성전자 파운드리(반도체 위탁생산) 사업부에 맡긴 상태다.

엔비디아가 그록 칩을 빠르게 생산해 고객에 공급하려는 것은 저지연 추론(Low-latency inference)의 중요성이 커지고 있음을 보여준다고 CNBC는 설명했다. 저지연 추론은 코딩 작업에서 AI 에이전트가 사용자의 요청에 긴 지연 없이 신속하게 반응하도록 하는 데 필요하다. 이는 클라우드 고객사들로부터 빠르게 생성되는 토큰에 대해 더 비싼 요금을 받을 수 있는 장점이 된다.

해리스 디렉터는 “토큰 서비스를 제공하는 업체 입장에선 지연 시간에 가장 민감한 사용자와 고객을 대상으로 프리미엄 등급의 서비스를 제공할 수 있게 되는 것”이라고 설명했다.