AI 추론 확산에…삼성전자·SK하이닉스, 'CXL' 주도권 경쟁

삼성전자, 1TB 메모리 풀 기반 AI 추론 성능 검증
SK하이닉스, 차세대 CMM-DDR5 공개

▲SK하이닉스의 CMM-DDR5 제품들. (사진제공=SK하이닉스)

삼성전자와 SK하이닉스가 차세대 메모리 연결 기술인 컴퓨트익스프레스링크(CXL) 주도권 경쟁에 나서고 있다. 대규모언어모델(LLM) 확산으로 커지는 메모리 병목을 해소하기 위해 기술 검증과 제품 고도화, 생태계 확대에 나선 것이다.

13일 업계에 따르면 삼성전자는 최근 기술 블로그를 통해 CXL 메모리 풀링을 활용한 AI 추론 성능 평가 결과를 공개했다.

CXL은 중앙처리장치(CPU)와 그래픽처리장치(GPU), 메모리 등을 고속으로 연결하는 차세대 인터페이스다. CXL 스위치를 활용하면 여러 메모리 장치를 하나의 공유 메모리 풀로 구성해 서버별로 필요한 메모리 용량을 유연하게 할당할 수 있다.

AI 모델 규모와 동시 사용자 수가 늘어날수록 메모리 병목을 완화할 수 있다는 점에서 차세대 AI 데이터센터 핵심 기술로 주목받고 있다.

삼성전자는 엔비디아 RTX 프로 6000 블랙웰 GPU와 CXL 스위치, 자사의 CMM-D(CXL Memory Module-DRAM)를 연결해 1TB 규모의 CXL 메모리 풀을 구성하고 AI 추론 환경을 평가했다. 평가에는 vLLM과 LMCache를 활용했다.

평가 결과 단일 GPU 환경에서는 D램과 유사한 수준의 성능을 구현했다. GPU 8개를 사용하는 다중 GPU 환경에서도 D램 대비 약 92% 수준의 성능을 유지하면서 더 큰 메모리 용량을 제공했다.

LLM 추론 과정에서 급증하는 KV 캐시(Key-Value Cache) 요구량에도 안정적인 성능을 유지했다. 삼성전자가 512GB D램 구성과 1TB CXL 메모리 풀을 비교한 결과 KV 캐시 요구량이 D램 용량을 초과하면 캐시 재계산으로 성능이 저하된 반면, CXL 메모리 풀은 더 많은 KV 캐시를 수용하면서도 안정적인 성능을 유지했다.

SK하이닉스 역시 CXL 제품 고도화와 생태계 확대에 속도를 내고 있다. 지난달 열린 'HPE 디스커버 라스베이거스 2026'에서는 256GB CMM-DDR5를 공개했다.

행사에서는 고대역폭메모리(HBM), 서버 D램, 기업용 SSD(eSSD), SOCAMM2 등을 함께 전시하며 AI 인프라 전반을 아우르는 메모리 포트폴리오를 소개했다. 리퀴드(Liqid)의 CXL 풀드 메모리 서버에 CMM-DDR5를 장착해 공동 전시하며 실제 AI 서버 환경에서의 하드웨어 연동 가능성도 제시했다.

업계에서는 생성형 AI 확산으로 모델 규모와 동시 사용자 수가 지속적으로 늘어날수록 HBM과 서버 D램, CXL 메모리, eSSD 등을 함께 활용하는 메모리 계층화가 중요해질 것으로 보고 있다. 다만 CXL 시장 확대를 위해서는 CPU와 서버 플랫폼, 소프트웨어를 포함한 생태계 구축이 중요한 과제로 꼽힌다.

임소정 유진투자증권 연구원은 "AI 시장이 커질수록 CXL에 대한 시장의 기대도 2026년부터 본격화될 것"이라며 "CXL을 지원하는 서버 플랫폼이 2028년에는 주류로 자리 잡을 것"이라고 전망했다.