AI 데이터센터란 AI 학습·추론에 필요한 AI 반도체(GPU 포함) 서버와 안정적 운영을 위한 전력 공급, 열효율 관리를 위한 냉각시스템 등을 통합 제공하는 차세대 데이터센터를 말한다.
이를 위해 SKT는 스페인 바르셀로나에서 열린 MWC 2024 현장에서 글로벌 서버·스토리지 공급사인 슈퍼마이크로와 관련 업무협약을 체결했다.
슈퍼마이크로는 주요 AI 반도체...
SK하이닉스는 엔비디아, AMD 등 범용 그래픽처리장치(GPU)를 만드는 기업에 고부가 HBM을 공급하고 있다.
삼성전자 비메모리 반도체 사업의 더딘 실적 회복도 두 회사 영업이익 격차의 주요 원인이다. 삼성전자는 지난해 4분기 전체 반도체 사업 중 D램 사업에선 흑자에 성공했다. 반면 파운드리가 포함된 비메모리 사업은 되레 적자 폭이 확대됐다.
글로벌 경기...
시장조사기관 ‘트렌드포스’에 따르면, AI 서비스와 GPU 등 AI 연산 인프라의 확대로 인해 글로벌 AI 서버 수요는 2023년 120만 유닛에서 2027년 347만 유닛으로 3배 가까이 폭증하게 된다. 그만큼 AI 서버의 전력·발열 관리가 중요해지는 셈이다.
액체냉각은 전기가 통하지 않는 특수 냉각유를 활용, 데이터센터 내 서버를 식히는 방식이다. 공기로 열을 식히는...
현재는 SK하이닉스가 인공지능(AI)의 핵심인 그래픽처리장치(GPU) 시장의 80% 이상을 장악한 엔비디아에 HBM3를 사실상 독점 공급하며 HBM 시장 주도권을 쥐고 있다.
삼성전자는 이같은 SK하이닉스 독점 구도에 초격차 기술력을 앞세워 반전을 꾀하겠다는 전략이다.
삼성전자가 이날 발표한 제품은 현존 최고 용량인 36기가바이트(GB)를 구현해 기존 HBM3...
KT와 kt 클라우드는 생성형 AI 플랫폼과 생성형 AI에 필요한 GPU 인프라를 지원한다. 케이뱅크에 생성형 AI의 도입 및 학습이 원활하게 이뤄질 수 있도록 제반 기술을 확보하고 플랫폼 및 학습 환경을 마련한다.
업스테이지의 기업용 Private LLM(거대언어모델∙Large Language Model)을 금융 특화로 개발해 활용한다. 업스테이지는 기업용 Private LLM이 케이뱅크 앱에서...
특히 성능과 용량이 증가한 이번 제품을 사용할 경우 GPU 사용량이 줄어 기업들이 총 소유 비용(TCO)을 절감할 수 있는 등 리소스 관리를 유연하게 할 수 있는 것도 큰 장점이다
예를 들어 서버 시스템에 HBM3E 12단을 적용하면 HBM3 8단을 탑재할 때보다 평균 34% AI 학습 훈련 속도 향상이 가능하다. 추론의 경우에는 최대 11.5배 많은 AI 사용자 서비스가...
인공지능 그래픽저장장치(GPU) 핵심 요소인 고대역폭메모리(HBM)와 온디바이스 칩 등을 생산하기 위한 후공정의 중요성도 부각할 것으로 전망된다.
HANARO 반도체핵심공정주도주 ETF는 ’FnGuide 반도체핵심공정주도주 지수‘를 기초지수로 한다. 구성 종목은 피에스케이홀딩스, 두산테스나, 하나마이크론, 한미반도체, HPSP 등이다. HBM 생산 핵심 공정으로...
이어 이 연구원은 “AI 학습용 GPU 수요가 폭발적으로 늘어나고, 여기에 채택되는 고대역폭메모리(HBM)의 용량도 확장됨에 따라, HBM 총 공급물량은 지난해 약 3.5~4억GB에서 올해는 12억GB 또는 그 이상으로 대폭 증가할 것으로 전망된다”면서 “하지만, 후발 경쟁사들의 HBM3 성과는 3개월 전의 기대치와 비교할 때, 아직은 기대에 다소 못 미치는 수준”이라고...
12개월 선행 주가수익비율(P/E)은 5%밖에 오르지 않았다”며 “아마존, 메타, 알파벳 등 엔비디아의 주 고객들이 AI 그래픽처리장치(GPU)투자를 대거 늘리고 있으나 여전히 수요가 공급을 초과하는 등 엔비디아의 독점력이 약해지지 않았다. 주가가 급등했지만 비싸지 않다”고 진단했다.
문준호 삼성증권 연구원은 “엔비디아의 이익 전망이 주가보다 더...
텐서RT-LLM은 데이터센터, 클라우드 혹은 엔비디아 RTX GPU가 탑재된 PC에서 대규모 언어 모델(LLM) 추론을 최적화하는 오픈 소스 라이브러리이다.
이를 통해 개발자는 전 세계 고성능 AI PC에 탑재된 1억 개 이상의 엔비디아 RTX GPU를 활용할 수 있다.
개발자들은 클라우드 상의 엔비디아 GPU에서도 젬마를 실행할 수 있다. 여기에는 H100 텐서 코어(H100...
또 그는 ‘향후 기업의 성장세가 둔화하는 게 아니냐’는 투자자들의 우려에 “내년 이후에도 지속적인 성장을 위한 조건은 훌륭하다”며 “엔비디아 그래픽처리장치(GPU)에 대한 수요는 견실할 것”이라고 강조했다.
메타와 아마존, IBM, 마이크로소프트(MS) 등 기술기업들이 자체 AI 칩 생산을 추구하기 시작했지만, 엔비디아는 여전히 ‘AI 반도체 강자’...
핵심분야 선정 시에는 반도체 파운드리와 반도체 장비, GPU, 커뮤니케이션, 모빌리티&자율주행 등 산업 전반을 커버할 수 있도록 설계하며, 투자 대상 기업을 평가할 때는 일반적인 정량 지표와 더불어 해당 기업의 특허 경쟁력과 독점적 플랫폼 보유 여부, 데이터 보유 수준 등 테마 요소도 함께 감안한다.
이 상품은 기본적으로 대형 기술주 위주의 투자를...
인식율은 높이고 그래픽처리장치(GPU) 사용량을 획기적으로 감소시키면서 효용성을 검증했으며, 데이터 확보와 복합 AI 엣지 분석을 통한 교통 디지털트윈 구현 기술을 개발하는 등 스마트도시 완성에 최적화된 제품과 소프트웨어로 ‘우수’ 평가를 받은 것으로 해석된다.
정부는 이번 사업에 따라 고성능 저전력 국산 AI 반도체 활용은 물론 실제 레퍼런스를 통한...
SK텔레콤은 AI DC 사업 본격 추진을 위한 첫 번째 글로벌 행보로 그래픽 처리장치(GPU)의 안정적 확보를 위해 글로벌 GPU 클라우드 회사인 람다(Lambda)에 투자를 진행했다고 21일 밝혔다.
AI 엔지니어가 설립한 람다는 엔비디아로부터 최신 GPU를 공급 받아 클라우드 서비스를 제공 중이다. 현재 전세계 데이터센터 서버용 GPU 시장은 엔비디아가 독점하고 있어 AI...
새 공장은 엔비디아의 그래픽처리장치(GPU)에 들어갈 고대역폭메모리(HBM) 제조를 위한 D램 적층에 특화한 시설로 지어질 전망이다.
그는 또 일본 낸드플래시 생산업체 키옥시아(옛 도시바메모리)와 미국 웨스턴디지털(WD) 간 합병 논의가 재개될 조짐이 있다는 외신 보도와 관련해서는 여전히 양사 합병에 동의하지 않는다면서도 협력 가능성에 대해 여지를...
게임용 PC에 들어가는 그래픽처리장치(GPU)를 만들었는데요. 평소 게임을 즐기던 젠슨 황은 PC 기술 발전과 함께 3차원(3D) 그래픽을 빠른 속도로 처리하는 반도체가 중요해질 것으로 내다봤습니다.
1997년 ‘NV3’라는 GPU를 출시하면서 입지를 다지기 시작한 엔비디아는 1999년에는 ‘지포스’ 시리즈를 선보이기 시작했습니다. 지포스 시리즈의 인기에 힘입어 같은...
CXL은 AI, 머신러닝, 빅데이터 등 고성능 연산이 필요한 애플리케이션에서 중앙처리장치(CPU), 그래픽처리장치(GPU) 등 서로 다른 제품을 효율적으로 연결하는 차세대 기술 규격이다. 메인 D램과 공존하면서 시스템의 메모리 용량과 대역폭을 거의 무한대로 확장할 수 있다.
SK하이닉스는 더블데이터레이트(DDR)5 기반 96GB, 128GB CXL 2.0 메모리 솔루션 제품을...
그래픽처리 반도체(GPU) 시장에서 압도적인 점유율을 가진 엔비디아는 생성형 AI 열풍의 대표 수혜주. 작년 4분기 실적 발표를 앞둔 상황에서 호실적에 대한 기대도 크다. 월가 분석가들은 연간 매출이 전년 대비 무려 118% 증가했을 것으로 분석했다.
같은 이유로 UBS는 이날 엔비디아 목표가를 종전 580달러에서 850달러로 상향 재조정했다. 현재가보다 17.6...
엔비디아는 그래픽처리반도체(GPU) 시장에서 압도적인 점유율을 갖고 있는데, 오픈AI의 챗GPT가 촉발한 생성형 AI 붐으로 GPU 수요가 빠르게 늘어나면서 엔비디아 주가도 치솟고 있다.
세계 최대 반도체 설계업체 ARM 주가도 지난해 9월 기업공개(IPO) 이후 3배 가까이 뛰었다. 특히 12일 하루에만 29% 넘게 폭등해 최근 3거래일 동안 상승 폭이 100%에 육박했다. 일일...