오픈AI·구글 등 내년 CSP의 승부수…AI 데이터센터 투자 전면전

데이터센터 구축 경쟁 격화
내년 투자 전략과 공급망 변화
가속기·HBM 수요 확대 조짐

내년 북미 클라우드서비스제공업체(CSP)들이 인공지능(AI) 추론 경쟁에 본격 돌입하면서 글로벌 데이터센터 투자 지형과 반도체 수요와 공급이 빠르게 재편될 전망이다. AI 서비스의 무게중심이 학습에서 추론으로 이동하는 가운데, CSP들은 데이터센터 고도화와 핵심 반도체 선점 경쟁에 속도를 내고 있다. 글로벌 반도체 시장은 물론, 메모리와 가속기 공급망에서 핵심 역할을 맡는 국내 반도체 산업에도 적지 않은 영향을 미칠 것으로 보인다.

28일 업계에 따르면 최근 모건스탠리는 주요 CSP들이 중장기 AI 수요에 대비해 연말까지 핵심 클라우드 반도체 부품의 생산능력(CAPA)을 선점하려는 움직임을 강화하고 있다고 분석했다. 단기 조달을 넘어 장기공급계약(LTA) 논의가 메모리뿐 아니라 로직 부품 영역까지 확대되고 있다는 점이 특징이다. 핵심 부품 전반에서 수급 불균형이 이어질 경우, 2026년에는 일부 클라우드 반도체 가격 인상률이 두 자릿수에 달할 가능성도 제기됐다.

증권가에서도 북미 CSP들의 투자 기조가 당분간 이어질 것으로 보고 있다. 현대차증권은 북미 4대 CSP의 올해 3분기 누적 설비투자가 전년 대비 87.6% 증가할 것으로 관측했다. 내년에도 AI 추론 서비스 수요 확대에 따라 데이터센터 증설과 고도화 투자가 지속하며, 관련 자본적지출(CAPEX) 규모는 더욱 커질 것이라는 전망이다.

이 같은 흐름 속에서 오픈AI가 주도하는 ‘스타게이트(Stargate)’ 프로젝트도 주목받고 있다. 소프트뱅크의 대규모 자금 지원을 바탕으로 추진되는 스타게이트는 초대형 AI 데이터센터 구축을 목표로 한다.

아마존웹서비스(AWS), 메타, 마이크로소프트, 구글 등 북미 주요 CSP들도 AI 데이터센터 확장을 염두에 두고 반도체 수급 안정화에 집중하고 있다. 안정적인 가속기와 메모리 확보 여부가 AI 서비스 경쟁력과 직결되는 만큼 조달 전략도 공격적이다.

이 같은 투자 확대는 엔비디아의 실적에서도 확인된다. 엔비디아의 데이터센터 부문 매출은 지난해 전년 대비 142.5% 증가한 1152억 달러를 기록했다. 올해 매출 역시 전년 대비 65.2% 늘어난 1903억 달러에 달할 것으로 전망된다. CSP들이 앞다퉈 AI 데이터센터 구축에 나서면서 그래픽처리장치(GPU)를 중심으로 한 AI 가속기 공급사들이 직접적인 수혜를 입고 있는 셈이다.

추론 단계에서 요구되는 메모리 수요 역시 급격히 커지고 있다. 구글의 제미나이, 아마존웹서비스(AWS)의 베드록, 오픈AI의 챗GPT 등 3대 클라우드 기반 AI 플랫폼을 기준으로 추산할 경우, 2026년 추론 단계에서 발생하는 ‘실시간’ 메모리 수요는 총 750페타바이트(PB)에 이를 것으로 전망된다. 페타바이트는 초대형 데이터센터 단위의 메모리 수요를 가늠하는 기준이다. 업계에서는 이 막대한 메모리 수요를 고대역폭메모리(HBM)와 차세대 그래픽 메모리인 GDDR7이 주로 감당하게 될 것으로 보고 있다.

동시에 북미 CSP들은 엔비디아 의존도를 낮추기 위한 움직임도 병행하고 있다. 자체 AI 가속기와 커스텀 중앙처리장치(CPU)를 통해 차별화를 시도하며 자체 설계 칩 비중을 늘리려는 전략이다. 엔비디아 GPU에 대응하는 신규 가속기 출시 준비도 속도를 내고 있다.

내년 상반기 출시 예정인 AWS의 자체 AI 가속기 ‘트레이니움(Trainium)3’에는 HBM3E(5세대)가 탑재될 예정이다. 구글이 내년 초 선보일 차세대 텐서처리장치(TPU)에도 HBM3E 적용이 유력하며, 메타 역시 MTIA v3부터 HBM3E를 채택할 것으로 전망된다. 추론 성능과 전력 효율을 동시에 끌어올리기 위해서다.

북미 CSP의 내년 전략에 따라 HBM3E를 생산하는 국내 메모리 반도체 업체들의 시장 환경도 빠르게 움직이고 있다. AI 데이터센터 투자 확대와 함께 반도체 수요가 공급을 크게 웃도는 구조가 형성되면서, 고부가 메모리 중심의 호황 국면이 이어질 것으로 관측된다. 북미 CSP들의 추론 경쟁이 삼성전자와 SK하이닉스 등 글로벌 반도체 산업 훈풍으로 이어진다는 평가다.