AI 개발 늦춰도 사용은 늘어난다⋯HBM 넘어 서버 D램·낸드로 번지는 수요 [AI 속도조절론]

프런티어 모델 감속론에도 AI 인프라 수요는 별개
장기 에이전트 확산에 토큰 사용량·컴퓨팅 수요 증가
삼성·SK하이닉스, HBM 이어 서버 D램·SSD 수혜 주목
효율 개선은 변수…CAPEX·발주·메모리 가격 확인해야

AI 개발 속도를 늦추자는 ‘속도 조절론’이 글로벌 AI 업계에서 확산하고 있지만 반도체 수요까지 함께 둔화할지는 미지수다. 새로운 AI 모델을 만드는 ‘학습’이 느려져도 기존 모델을 서비스에 활용하는 ‘추론’ 수요는 계속 늘어날 수 있어서다.

특히 AI 에이전트가 단순 질의응답을 넘어 장시간 복잡한 업무를 수행하면서 메모리 수요도 고대역폭메모리(HBM)에서 서버 D램과 기업용 솔리드스테이트드라이브(SSD) 등으로 넓어질 가능성이 제기된다.

15일 산업계에 따르면 반도체 업계는 ‘모델 개발 속도’와 ‘AI 사용량’을 별개의 변수로 보고 있다. AI 속도 조절론이 실제 반도체 수요 감소로 이어지려면 모델 출시 지연을 넘어 하이퍼스케일러의 설비투자(CAPEX) 축소와 그래픽처리장치(GPU) 주문 취소, HBM 계약 재협상 등이 나타나야 한다.

현재까지 이런 움직임은 뚜렷하지 않다. 2023년 이후 AI 안전 논쟁이 반복됐지만 산업 전체의 훈련 중단이나 반도체 발주 축소로 이어지지는 않았다. 클라우드와 가속기, 파운드리, 메모리로 이어지는 AI 공급망의 매출 흐름도 아직 견조하다.

오히려 추론 영역에서는 컴퓨팅 사용량이 늘어날 가능성이 있다. 장시간 자율적으로 작업하는 AI 에이전트 확산으로 토큰 수요가 급증하고 있다. 새로운 모델의 출시 간격이 길어지면 기존 모델을 더 오래 상용화하면서 가격 인하와 사용량 확대를 통해 투자비를 회수할 기간도 늘어난다.

이는 삼성전자와 SK하이닉스의 메모리 사업에도 영향을 미칠 전망이다. AI 학습에서는 GPU·AI 가속기에 탑재되는 HBM이 핵심이지만 추론 서비스가 확산하면 서버 D램과 데이터 저장을 담당하는 낸드까지 수요가 확대될 수 있다. AI 에이전트가 더 긴 문맥과 복잡한 작업을 처리할수록 처리·저장해야 할 데이터도 늘어난다.

이에 따라 AI 반도체 사이클의 관전 포인트도 HBM에서 서버 전체의 메모리 탑재량으로 넓어지고 있다. 업계는 AI 속도 조절 국면에서도 HBM과 서버 D램 비중이 높은 업체의 상대적인 방어력이 높다고 평가한다.

다만 추론 확대가 모든 메모리 제품의 수요 증가를 의미하는 것은 아니다. AI 모델의 효율이 높아지면 같은 작업에 필요한 연산량과 메모리 사용량이 감소할 수 있다. 반대로 AI 이용자와 서비스 사용량 증가가 효율 개선 속도를 웃돌면 전체 컴퓨팅 수요는 더 커진다.

제품별로도 차이가 있다. AI 가속기 투자가 유지되면 HBM 수요는 견조할 가능성이 크다. AI 이용량이 늘면 서버 D램과 기업용 SSD도 수혜가 예상된다. 반면 고금리와 경기 둔화로 IT 수요가 약해지면 PC·스마트폰용 범용 D램과 낸드가 먼저 영향을 받을 수 있다.

업계 관계자는 "프런티어 모델 개발이 느려져도 AI 사용량이 계속 증가한다면 메모리 시장의 성장축은 HBM에서 서버 D램과 낸드까지 넓어질 전망"이라고 말했다.