안현 SK하이닉스 사장 “AI 병목, 전체 메모리 계층 최적화로 풀어야”

SEDEX 2026 기조연설서 AI 추론 병목 진단
HBM 넘어 3D Stacked DRAM·HBF 로드맵 제시
AI 인프라 성능 2030년 2026년 대비 19배 전망

▲안현 SK하이닉스 개발총괄 사장이 14일 서울 코엑스에서 열린 ‘SEDEX 2026’ 기조연설에서 AI 시대 메모리 기술의 진화 방향을 발표하고 있다. 손희정 기자sonhj1220@

안현 SK하이닉스 개발총괄 사장(CDO)이 AI 추론 시장 확대로 새로운 메모리 병목이 발생하고 있다며 전체 메모리 계층 최적화가 필요하다고 강조했다.

SK하이닉스는 안 사장이 14일 서울 코엑스에서 열린 ‘SEDEX 2026’ 기조연설에서 ‘AI 시대, 메모리 기술의 진화 방향’을 주제로 차세대 메모리 기술 로드맵과 메모리 계층 최적화 전략을 제시했다고 밝혔다.

안 사장은 AI 추론 수요 확대에 따라 기존 메모리 계층에서 성능과 용량 측면의 병목이 나타나고 있다고 진단했다. 이에 고대역폭메모리(HBM) 기술 경쟁력을 지속 고도화하는 동시에 3D Stacked DRAM, HBF(High Bandwidth Flash), CXL, Storage-Next 등 새로운 메모리 계층을 구축해야 한다고 설명했다.

안 사장은 빅테크 기업들이 AI 수요가 공급보다 앞서갈 것이라는 전망 아래 투자를 확대하고 있다고 분석했다. 특히 AI 기술 효율화가 비용 절감에 그치지 않고 AI 활용 확대와 신규 수요 창출로 이어지고 있다고 봤다.

AI 추론 시장은 작업 복잡도, 컨텍스트 길이, 추론 요청량 등 세 방향에서 동시에 커지고 있다. 안 사장은 이들 요인이 서로 곱해지는 방식으로 작용하면서 AI 인프라 수요를 빠르게 키우고 있다고 설명했다. 그는 AI 인프라의 성능 규모가 2030년에는 2026년 대비 약 19배까지 커질 것으로 전망했다.

AI 연산량이 늘면서 모델 가중치와 중간 데이터의 저장·이동 수요도 함께 증가하고 있다. 특히 AI가 이전에 처리한 토큰 정보를 저장하고 재활용하는 KV 캐시는 컨텍스트 길이가 늘어날수록 더 많은 메모리 용량을 필요로 한다.

대규모 KV 캐시 데이터를 효율적으로 처리하기 위해서는 HBM부터 D램, SSD까지 여러 메모리 계층에 데이터를 분산 저장해야 한다. 이 과정에서 계층 간 데이터 이동이 늘어나면서 성능 저하와 전력 소모가 새로운 병목으로 떠오르고 있다는 설명이다.

안 사장은 과거 메모리 장벽이 주로 연산기와 메모리 사이에서 발생했다면, AI 시대에는 서로 다른 메모리 계층 간 성능 격차와 데이터 이동 자체가 병목이 되고 있다고 진단했다. 이에 개별 메모리 제품의 성능 향상을 넘어 전체 메모리 계층을 최적화하는 접근이 필요하다고 강조했다.

SK하이닉스는 HBM 기술 고도화와 함께 차세대 메모리 계층 개발을 추진한다. HBM1부터 HBM4E까지 용량과 대역폭, 에너지 효율을 높이고, 고객별 AI 시스템에 최적화한 ‘커스텀 HBM’으로 기술 방향을 넓히고 있다.

커스텀 HBM은 베이스 다이에 메모리 컨트롤러와 고객 맞춤형 로직을 직접 탑재하는 방식이다. 메모리가 단순 저장장치를 넘어 고객의 AI 아키텍처에 맞춰 기능과 성능을 최적화하는 방향으로 진화한다는 의미가 있다.

안 사장은 SRAM과 HBM 사이의 성능 병목을 해결할 차세대 기술로 3D Stacked DRAM을 제시했다. 3D Stacked DRAM은 GPU·NPU 등 로직 반도체 위에 D램을 적층해 연산기와 데이터 간 물리적 거리를 줄이는 구조다. 대규모 AI 모델 추론에 필요한 데이터를 연산기에 더 가까운 곳에서 빠르게 공급해 성능을 높이고 에너지 소모를 줄이는 것이 핵심이다.

AI 추론 과정에서 늘어나는 메모리 용량 수요에 대응할 기술로는 HBF를 소개했다. HBF는 SK하이닉스가 HBM을 통해 확보한 TSV 적층 및 고속 입출력 기술을 낸드플래시에 적용한 차세대 메모리다. HBM과 D램 사이에 새로운 계층으로 배치해 고대역폭과 대용량을 동시에 구현하는 것을 목표로 한다.

SK하이닉스는 HBF가 동세대 HBM 대비 절반 수준의 대역폭과 약 10배의 용량을 제공하도록 개발하고 있다. 이를 통해 AI 연산에 필요한 대량의 데이터를 연산기에 가까운 곳에 저장하고, D램과 SSD 접근을 줄여 시스템 전반의 성능과 에너지 효율을 높일 수 있을 것으로 기대하고 있다.

SK하이닉스는 HBF의 선제적인 표준화도 추진한다. 글로벌 파트너와 협력을 강화해 차세대 메모리 생태계 기반을 마련한다는 방침이다.

한편, SK하이닉스는 SEDEX 2026 전시장에 올해 최대 규모 부스를 마련하고 AI 인프라부터 PC·모바일까지 아우르는 맞춤형 AI 메모리 솔루션을 선보였다. 부스는 ‘멈추지 않고 나아가는 AI 여정’을 주제로 육상 트랙 형태로 구성됐다.

주요 전시 제품은 AI 서버용 고성능 D램과 기업용 SSD, PC·모바일용 메모리 및 스토리지 솔루션이다. SK하이닉스는 HBM·HBF 구조 모형과 HBM 개발 역사 전시물을 배치하고, 엔비디아 베라 루빈 슈퍼칩과 젠슨 황 엔비디아 최고경영자(CEO)의 사인이 새겨진 HBM 웨이퍼도 전시했다.

서버용 D램으로는 256GB 3DS RDIMM, 128GB MRDIMM, 10나노급 6세대(1c) 공정을 적용한 64GB RDIMM 등을 선보였다. 기업용 SSD로는 액체냉각을 지원하는 PEB210 E1.S 9.5㎜와 PEB210 M.2 2280, SK하이닉스 최초 QLC 기반 PS1101 E3.S 7.5㎜ 등을 소개했다.

PC·모바일 분야에서는 DDR5 CSODIMM, GDDR7, LPDDR5X, LPDDR6 등 D램 제품과 PC용 SSD, UFS4.1, UFS5.0 등 모바일 낸드 솔루션을 전시했다.

SK하이닉스는 이번 전시를 통해 현재의 AI 메모리 경쟁력과 차세대 메모리 기술 로드맵을 함께 제시하고, 전체 메모리 계층 최적화를 바탕으로 AI 생태계 성장을 뒷받침한다는 계획이다.