엔비디아, 메모리 3.5배 늘린 AI 슈퍼칩 공개...“미친듯이 추론할 것”

입력 2023-08-09 16:20

  • 가장작게

  • 작게

  • 기본

  • 크게

  • 가장크게

차세대 AI칩 ‘GH200 그레이스 호퍼 슈퍼칩’ 공개
최고 사양 GPU와 CPU 결합...메모리 용량 기존의 3.5배
생성형 AI 개발 플랫폼도 출시 예정

▲2015년 2월 11일 미국 캘리포니아주 산타클라라 본사에 엔비디아 로고가 보인다. 산타클라라(미국)/로이터연합뉴스
▲2015년 2월 11일 미국 캘리포니아주 산타클라라 본사에 엔비디아 로고가 보인다. 산타클라라(미국)/로이터연합뉴스
인공지능(AI)용 반도체 시장을 주도하고 있는 엔비디아가 AI 언어모델을 추론할 수 있는 대규모 용량의 차세대 AI 칩을 공개했다.

8일(현지시간) 블룸버그통신에 따르면 엔비디아는 미국 로스앤젤레스에서 열린 컴퓨터 그래픽스 콘퍼런스 시그래프에서 차세대 AI 칩 ‘GH200 그레이스 호퍼 슈퍼칩’을 발표했다. 이번에 공개된 AI 칩은 현재 엔비디아에서 최고 사양인 H100과 동일한 그래픽처리장치(GPU)와 141기가바이트(GB)의 최첨단 메모리 및 72코어 암(ARM) 기반의 컴퓨터프로세서(CPU)가 결합됐다.

초당 5테라바이트(TB)의 속도로 정보에 접근할 수 있는 고대역폭 메모리 HBM3e도 탑재됐다. 기존 엔비디아의 제품보다 최대 3.5배 큰 메모리 용량과 3배 높은 대역폭을 갖춰 AI가 회답을 도출하는 처리를 고속화했다는 게 회사 측의 설명이다.

젠슨 황 엔비디아 최고경영자(CEO)는 “새로운 GH200 그레이스 호퍼 슈퍼칩은 탁월한 메모리 기술과 고대역폭을 통해 처리량을 향상하고 성능 저하 없이 GPU를 연결해 성능을 통합할 수 있다”며 “전체 데이터센터에 쉽게 배포할 수 있는 서버 설계를 갖추고 있다”고 말했다. 그는 이어 “원하는 거의 모든 대규모 언어 모델을 여기에 넣으면 미친 듯이 추론할 수 있을 것”이라며 “(이렇게 되면) 대규모 언어 모델을 추론하는 데 드는 비용이 크게 떨어질 것”이라고 덧붙였다.

엔비디아는 GH200 슈퍼칩이 내년 2분기에 생산될 예정이라고 밝혔다. 다만 정확한 가격은 공개하지 않았다.

엔비디아는 슈퍼칩 발표와 함께 생성형 AI를 개발할 수 있는 플랫폼 ‘AI 워크벤치(NVIDIA AI Workbench)’를 출시할 예정이라고 밝혔다. 황 CEO는 “급증하는 생성형 AI 수요를 충족하기 위해 데이터센터에는 특수한 요구 사항을 갖춘 컴퓨팅 플랫폼이 필요하다”며 플랫폼 출시 배경을 밝혔다.

현재 엔비디아는 AI용 반도체 시장의 80% 이상을 점유하고 있다. 미국 AMD와 인텔 등이 그 뒤를 따르고 있다.

엔비디아 주가는 올해 3배 이상 뛰면서 필라델피아 반도체지수에 포함된 기업 중 가장 큰 폭의 상승률을 기록했다. 현재 기업가치는 1조1000억 달러에 달한다.

한편, 엔비디아 주가는 이날 장중 약 2% 하락했지만 새로운 AI 칩 발표 후 낙폭을 줄여 1.66% 하락 마감했다.

  • 좋아요0
  • 화나요0
  • 슬퍼요0
  • 추가취재 원해요0

주요 뉴스

  • 앤스로픽, 상장 첫날 17% 상승⋯시총 2조달러 찍고 후퇴
  • FT “삼성전자·TSMC, 中 반도체 공급 일부 중단”…美 수출통제 여파
  • 오늘부터 서울 지하철 노조 준법투쟁 돌입…출근길 불편 예상
  • 분담금에 이주비 부담⋯서울 정비사업 곳곳서 제동
  • 한한령 완화 기대감에 엔터주 이틀째 들썩…추세 반등할까
  • 외국인 10월 韓주식 26조 팔았다⋯두달 연속 순매도
  • 정전, 정전, 연 9분대 세계 최고인데…반도체 공장 위협하는 ‘순간 전압강하
  • 키움증권, 퇴직연금 5개월 만에 2000억 돌파…영웅문 고객이 이끈 IRP 성장
  • 오늘의 상승종목

  • 11.20 12:19 실시간

실시간 암호화폐 시세

  • 종목
  • 현재가(원)
  • 변동률
    • 비트코인
    • 84,472,000
    • -0.52%
    • 이더리움
    • 2,376,000
    • -1.04%
    • 비트코인 캐시
    • 278,900
    • +0.47%
    • 리플
    • 1,304
    • +0.15%
    • 솔라나
    • 99,100
    • -0.05%
    • 에이다
    • 203
    • -0.98%
    • 트론
    • 421
    • +0.24%
    • 스텔라루멘
    • 181
    • -1.09%
    • 비트코인에스브이
    • 19,630
    • -3.63%
    • 체인링크
    • 12,140
    • -0.65%
    • 샌드박스
    • 48.29
    • -1.81%
* 24시간 변동률 기준

Web3 레이더

  • 주목 펀딩
    • 1 Variational Series A $50M
    • 2 Venice Series A $65M
    • 3 Kalshi $1B
    • 4 Alta Series A $47.5M
  • 인기 프로젝트
    • 1 LayerAI Infra 인기지수 302
    • 2 Evaa Protocol 인기지수 265
    • 3 Variational DeFi 인기지수 256
    • 4 Robinhood CeFi 인기지수 253
  • 토큰 언락 임박
    • HumidiFi 유통량 113% D-19
    • DAOBase 유통량 43% D-28
    • FLock 유통량 41% D-10
    • RateX 유통량 37% D-29
Source from