텐서RT-LLM은 데이터센터, 클라우드 혹은 엔비디아 RTX GPU가 탑재된 PC에서 대규모 언어 모델(LLM) 추론을 최적화하는 오픈 소스 라이브러리이다.
이를 통해 개발자는 전 세계 고성능 AI PC에 탑재된 1억 개 이상의 엔비디아 RTX GPU를 활용할 수 있다.
개발자들은 클라우드 상의 엔비디아 GPU에서도 젬마를 실행할 수 있다. 여기에는 H100 텐서 코어(H100...
또 그는 ‘향후 기업의 성장세가 둔화하는 게 아니냐’는 투자자들의 우려에 “내년 이후에도 지속적인 성장을 위한 조건은 훌륭하다”며 “엔비디아 그래픽처리장치(GPU)에 대한 수요는 견실할 것”이라고 강조했다.
메타와 아마존, IBM, 마이크로소프트(MS) 등 기술기업들이 자체 AI 칩 생산을 추구하기 시작했지만, 엔비디아는 여전히 ‘AI 반도체 강자’...
핵심분야 선정 시에는 반도체 파운드리와 반도체 장비, GPU, 커뮤니케이션, 모빌리티&자율주행 등 산업 전반을 커버할 수 있도록 설계하며, 투자 대상 기업을 평가할 때는 일반적인 정량 지표와 더불어 해당 기업의 특허 경쟁력과 독점적 플랫폼 보유 여부, 데이터 보유 수준 등 테마 요소도 함께 감안한다.
이 상품은 기본적으로 대형 기술주 위주의 투자를...
인식율은 높이고 그래픽처리장치(GPU) 사용량을 획기적으로 감소시키면서 효용성을 검증했으며, 데이터 확보와 복합 AI 엣지 분석을 통한 교통 디지털트윈 구현 기술을 개발하는 등 스마트도시 완성에 최적화된 제품과 소프트웨어로 ‘우수’ 평가를 받은 것으로 해석된다.
정부는 이번 사업에 따라 고성능 저전력 국산 AI 반도체 활용은 물론 실제 레퍼런스를 통한...
SK텔레콤은 AI DC 사업 본격 추진을 위한 첫 번째 글로벌 행보로 그래픽 처리장치(GPU)의 안정적 확보를 위해 글로벌 GPU 클라우드 회사인 람다(Lambda)에 투자를 진행했다고 21일 밝혔다.
AI 엔지니어가 설립한 람다는 엔비디아로부터 최신 GPU를 공급 받아 클라우드 서비스를 제공 중이다. 현재 전세계 데이터센터 서버용 GPU 시장은 엔비디아가 독점하고 있어 AI...
새 공장은 엔비디아의 그래픽처리장치(GPU)에 들어갈 고대역폭메모리(HBM) 제조를 위한 D램 적층에 특화한 시설로 지어질 전망이다.
그는 또 일본 낸드플래시 생산업체 키옥시아(옛 도시바메모리)와 미국 웨스턴디지털(WD) 간 합병 논의가 재개될 조짐이 있다는 외신 보도와 관련해서는 여전히 양사 합병에 동의하지 않는다면서도 협력 가능성에 대해 여지를...
게임용 PC에 들어가는 그래픽처리장치(GPU)를 만들었는데요. 평소 게임을 즐기던 젠슨 황은 PC 기술 발전과 함께 3차원(3D) 그래픽을 빠른 속도로 처리하는 반도체가 중요해질 것으로 내다봤습니다.
1997년 ‘NV3’라는 GPU를 출시하면서 입지를 다지기 시작한 엔비디아는 1999년에는 ‘지포스’ 시리즈를 선보이기 시작했습니다. 지포스 시리즈의 인기에 힘입어 같은...
CXL은 AI, 머신러닝, 빅데이터 등 고성능 연산이 필요한 애플리케이션에서 중앙처리장치(CPU), 그래픽처리장치(GPU) 등 서로 다른 제품을 효율적으로 연결하는 차세대 기술 규격이다. 메인 D램과 공존하면서 시스템의 메모리 용량과 대역폭을 거의 무한대로 확장할 수 있다.
SK하이닉스는 더블데이터레이트(DDR)5 기반 96GB, 128GB CXL 2.0 메모리 솔루션 제품을...
그래픽처리 반도체(GPU) 시장에서 압도적인 점유율을 가진 엔비디아는 생성형 AI 열풍의 대표 수혜주. 작년 4분기 실적 발표를 앞둔 상황에서 호실적에 대한 기대도 크다. 월가 분석가들은 연간 매출이 전년 대비 무려 118% 증가했을 것으로 분석했다.
같은 이유로 UBS는 이날 엔비디아 목표가를 종전 580달러에서 850달러로 상향 재조정했다. 현재가보다 17.6...
엔비디아는 그래픽처리반도체(GPU) 시장에서 압도적인 점유율을 갖고 있는데, 오픈AI의 챗GPT가 촉발한 생성형 AI 붐으로 GPU 수요가 빠르게 늘어나면서 엔비디아 주가도 치솟고 있다.
세계 최대 반도체 설계업체 ARM 주가도 지난해 9월 기업공개(IPO) 이후 3배 가까이 뛰었다. 특히 12일 하루에만 29% 넘게 폭등해 최근 3거래일 동안 상승 폭이 100%에 육박했다. 일일...
내장 그래픽 성능은 울트라 기준 기존 제품의 2배 정도 향상됐다. 엔비디아의 지포스 RTX 3050 랩탑 GPU 외장 그래픽 카드를 탑재한 모델은 더 뛰어난 온 디바이스 AI 성능을 구현한다. 고사양 게임을 부드럽게 구현하고, AI 이미지 생성 프로그램을 활용하면 1초에 5장의 이미지를 제작할 수 있다. 이는 내장 그래픽 모델보다 약 3배 빠른 속도다.
김 대표에 따르면 시뮬레이션 데이터양이 많은 만큼, 이를 효율적으로 연산할 수 있는 그래픽 처리장치(GPU) 병렬 처리 기술 관련 국제 특허와 국내 특허를 보유 중이다.
이에이트는 기술력을 바탕으로 국가 시범도시사업인 세종 5-1, 부산 에코델타 스마트시티 디지털 트윈 구축과 국토부 레벨4 자율주행 차량시뮬레이션 사업에 메인 디지털 플랫폼 기업으로 참여...
삼성전자는 지난해 3분기부터 4세대 HBM(HBM3) 양산을 시작했으며, 4분기에는 주요 글로벌 그래픽처리장치(GPU) 기업 거래선을 확보했다.
김재준 삼성전자 메모리사업부 전략마케팅실장 부사장은 “HBM 판매량은 매 분기 기록을 경신하고 있다”며 “지난해 4분기에는 판매량이 전분기 대비 40% 이상, 전년 동기 대비 3.5배 규모로 늘었다”고 설명했다....
엔비디아의 최신 그래픽 처리장치(GPU) H100을 도입했다. 기존 AI 개발에 쓰이던 A100 GPU 대비 AI 모델 개발을 위한 학습 속도가 7배 이상 빠른 것으로 알려졌다.
카카오뱅크는 앞서 지난해 10월 금융사 최초로 AI 경영시스템(ISO/IEC 42001) 인증을 획득하기도 했다. AI 윤리와 관련된 투명성과 안정성에 대한 체계를 마련했다는 의미다. 카카오뱅크는 AI 연구·개발...
삼성전자는 작년 3분기 HBM3의 첫 양산을 시작했고, 4분기에는 주요 그래픽처리장치(GPU) 업체를 고객군에 추가하며 판매를 확대했다고 전했다.
김 부사장은 "HBM 판매량이 매 분기 기록을 경신 중"이라며 "작년 4분기에는 직전 분기 대비 40% 이상 성장했고 전년 동기 배디 약 3.5배 규모로 성장했다"고 설명했다. 이어 "선단 제품 비중은...
AI 서버용 GPU 시장에서는 엔비디아가 90% 이상을 독점하고 있으며, AI 서버용 대표 GPU인 ‘H100’은 지난해에만 150만 대가 팔렸다. 대당 2만5000달러(약 3343만 원)를 호가하는 가격임에도 없어서 못 파는 상황이다. 사실상 시장을 쥐고 흔들고 있다는 평가다.
반면 이날 기준 코스피 전체 시가총액은 2040조 원이다. 엔비디아와는 불과 20조 원 차이로, 언제든지...
메사리는 AI 확산에 다른 GPU(그래픽처리장치) 수요 불균형을 해결하는 데 가상자산 내 AI 프로젝트가 도움이 될 것이라 분석했다. 탈중앙화 수퍼컴퓨터를 통한 AI 모델 훈련이 활발해질 거란 전망이다.
생성형 AI 등을 블록체인 및 가상자산 플랫폼에서 활용하는 사례도 늘고 있다. 블록체인 핀테크 기업 두나무는 사내 머신러닝 팀을 두고, 주식과 디지털 자산...
엔비디아는 전 세계 AI 반도체의 그래픽처리장치(GPU) 시장의 90% 이상을 점유하는 독점회사로 AI 반도체 가격을 사실상 쥐락펴락 중이다.
오픈AI와 함께 인공지능 시장을 선점한 마이크로소프트(MS)는 같은날 전 거래일 대비 0.92% 상승한 402.56달러에 마감했다. 장중엔 405.62달러까지 상승하며 시가총액 3조 달러(약 4008조6000억 원) 벽을 깼다. 지난해 1월 24일...
워보이는 AI 반도체 기술력 검증 대회인 ‘엠엘퍼프(MLPerf)’에서 엔비디아의 텐서 코어 GPU ‘T4’ 및 ‘A2‘보다 빠른 속도를 기록하며 이미지 분류 분야 처리 장치 중 가장 우수한 성능을 가진 제품 중 하나로 인정받은 바 있다.
포바이포 픽셀 사업을 총괄하는 임정현 부대표는 “이번 퓨리오사AI와의 협력을 계기로 클라우드(온라인) 환경에서 서비스...