HBM4 이후 ‘메모리 월’ 넘는다…삼성·SK·마이크론, 서로 다른 해법

적층·대역폭 경쟁 넘어 구조·발열·시스템 혁신으로
삼성 zHBM·SK iHBM·마이크론 아키텍처 승부

▲8월4일(현지시간) 미국 실리콘밸리에서 열린 ‘FMS 2026’에서 김경륜 삼성전자 D램개발실 상무가 발표를 하고 있는 모습 (사진=삼성전자 뉴스룸)

AI 반도체의 ‘메모리 월(Memory Wall)’을 넘기 위한 메모리 3사의 기술 경쟁이 달아오르고 있다. 고대역폭메모리(HBM)를 더 높이 쌓고 대역폭을 키우는 것만으로는 AI 가속기의 성능 향상을 따라잡기 어려워지면서 삼성전자와 SK하이닉스, 마이크론이 각각 구조·발열·시스템 차원에서 돌파구를 찾고 있다.

17일 업계에 따르면 고성능컴퓨팅(HPC)과 AI 인프라 확산으로 고용량·고대역폭 메모리 요구 수준이 빠르게 높아지고 있다. 실제 마이크론은 AI 가속기의 연산 성능이 약 2년마다 3배씩 증가하는 데 비해 HBM 등 메모리 대역폭 증가 속도는 2배에 미치지 못한다고 분석했다. 연산 성능과 메모리 성능 사이의 간극이 갈수록 벌어지는 셈이다.

HBM 경쟁의 무대도 ‘얼마나 많이, 높이 쌓느냐’에서 ‘어떻게 연결하고 식히고 연산에 붙이느냐’로 넓어지고 있다. HBM4(6세대 HBM) 이후 메모리 3사의 승부처가 단순한 적층 기술을 넘어 AI 시스템 전체의 구조 경쟁으로 이동하는 모습이다.

삼성전자는 아예 HBM의 위치와 역할을 바꾸는 데 주목했다. 지난달 처음 목업(모형)을 공개한 ‘zHBM’은 AI 가속기(xPU) 옆에 HBM을 배치하는 기존 방식에서 벗어나 가속기 위에 HBM을 수직 적층하는 차세대 아키텍처다. 데이터 이동 거리를 줄여 대역폭과 전력효율을 끌어올리는 방식이다.

삼성전자는 zHBM 기반 차세대 인터페이스 시스템이 HBM5(8세대 HBM) 대비 최대 8배의 성능과 3배의 전성비를 제공하고 열저항도 절반 이상 낮출 수 있을 것으로 보고 있다.

SK하이닉스는 HBM을 높이 쌓을수록 골칫거리가 되는 ‘열’을 정조준했다. 차세대 기술인 ‘iHBM’은 발열이 집중되는 D2D PHY 영역에 열 제어 소자(ICE)를 넣고 별도의 열 배출 경로를 만드는 것이 핵심이다.

코어 다이를 거쳐 열을 내보내던 기존 방식보다 열저항을 30% 이상 낮춰 고온·고부하 환경에서도 안정적인 성능을 유지할 수 있다. iHBM은 HBM5 등 차세대 제품부터 적용될 것으로 예상된다.

▲마이크론은 에이전트형 AI는 기존 컴퓨팅보다 100배 더 많은 트래픽을 생성한다고 설명했다. (사진=마이크론 홈페이지 캡처)

마이크론은 시야를 HBM 바깥까지 넓혔다. HBM 자체의 대역폭과 용량을 높이는 것만으로는 한계가 있는 만큼 데이터가 오가는 길과 패키지 전체를 함께 바꿔야 한다는 접근이다.

반도체 콘퍼런스 ‘핫칩(Hot Chips) 2026’에서 메모리 전용 고속 전송회로(SerDes)와 칩 간 직접 연결(D2D PHY), 광 연결(CPO), 유리 기판과 액체 냉각 등을 차세대 기술로 제시했다. 고속 인터페이스와 첨단 패키징까지 하나의 시스템으로 묶어 데이터 이동 병목을 줄이겠다는 구상이다. 마이크론은 별도 공식 자료에서도 HBM뿐 아니라 D램과 낸드를 하나의 계층으로 최적화해야 AI 시대의 메모리 월을 돌파할 수 있다고 강조했다.