SK하이닉스, HBM 넘어 ‘빛으로 연결’…차세대 AI 인프라 CPO 청사진 제시

글로벌 연구진과 CPO 기술 로드맵 ‘네이처 일렉트로닉스’ 게재
구리 배선 한계 넘어 광 인터커넥트로 AI 데이터 병목 해소
메모리·프로세서 광 연결…HBM 넘어 시스템 단위 경쟁력 확대

▲(왼쪽부터) 차세대 광 인터커넥트(CPO) 기술 연구에 관해 의견을 나누고 있는 SK하이닉스 홍승훈 팀장과 버지니아대학교 이규상 교수 (사진=SK하이닉스)

SK하이닉스가 고대역폭메모리(HBM)를 넘어 차세대 AI 데이터센터의 데이터 병목을 해결할 광 인터커넥트 기술 확보에 나선다. 메모리와 프로세서를 빛으로 연결하는 CPO(Co-Packaged Optics)를 통해 AI 반도체 경쟁 영역을 개별 칩에서 시스템 전체로 확대한다는 구상이다.

SK하이닉스는 글로벌 연구진과 공동으로 AI와 고성능컴퓨팅(HPC)을 위한 CPO 기술 발전 방향을 담은 논문 ‘고성능 컴퓨팅 및 인공지능을 위한 CPO 기술’을 국제학술지 ‘네이처 일렉트로닉스’에 게재했다고 20일 밝혔다.

이번 연구에는 SK하이닉스 홍승훈 AI 인프라 팀장과 미국 버지니아대학교(UVA) 전기컴퓨터공학과 이규상 교수가 교신저자로 참여했다. 일리노이대학교 어바나-샴페인(UIUC), 난양공과대학교(NTU), 매사추세츠공과대학교(MIT), 연세대학교 연구진도 함께했다.

CPO는 광 송수신기를 프로세서와 하나의 패키지에 집적해 칩 간 데이터를 전기신호 대신 빛으로 주고받는 기술이다. 기존 구리 기반 전기 연결은 데이터 이동 거리가 늘어날수록 신호 감쇠와 전력 소비가 커진다. CPO는 전기신호의 이동 거리를 최소화하고 나머지 구간을 광으로 연결해 대역폭과 에너지 효율을 높일 수 있다.

AI 시스템이 대형화하면서 데이터 전송 기술의 중요성도 커지고 있다. 연구진에 따르면 하드웨어 연산 성능은 2년마다 약 세 배씩 증가하지만 인터커넥트 대역폭은 같은 기간 1.4배 증가하는 데 그치고 있다. 수천 개의 그래픽처리장치(GPU)와 HBM을 연결하는 AI 클러스터에서는 칩과 랙 사이에서 데이터를 얼마나 빠르게 이동시키느냐가 전체 시스템 성능을 좌우하는 새로운 병목으로 떠오르고 있다.

SK하이닉스와 연구진은 차세대 AI 인프라의 기술 목표로 노드당 100Tb/s 이상의 대역폭과 비트(bit)당 1pJ 미만의 에너지 소비, 10ns 미만의 칩 간 지연시간 등을 제시했다. 패키징도 기존 2차원(2D) 방식에서 2.5D 인터포저와 3D 이종 집적으로 발전시키는 로드맵을 제안했다.

장기적으로는 광 연결을 메모리 인터페이스까지 확대하는 ‘옵틱스 중심(Optics-Centric)’ 아키텍처를 구현한다는 구상이다. 광 인터포저로 프로세서와 메모리를 직접 연결하면 여러 AI 가속기가 대규모 메모리 풀을 공유할 수 있다. 기존 패키징의 메모리 용량과 배선 제약을 완화해 초거대 AI 모델에 필요한 시스템 확장성을 높일 수 있다는 설명이다.

이번 연구는 SK하이닉스의 AI 메모리 전략이 HBM 등 개별 제품에서 AI 시스템 전체로 확장되고 있다는 점에서도 의미가 있다. HBM뿐 아니라 메모리와 프로세서, 패키징, 광 인터커넥트를 함께 설계하는 ‘공동 설계(Co-design)’ 역량이 차세대 경쟁력으로 부상하고 있어서다.

이규상 교수는 “광 인터커넥트는 앞으로 AI 인프라를 구성하는 핵심 연결 기술로 자리 잡을 가능성이 높다”며 “관련 기술은 이미 실험실을 벗어나 산업화 초입에 들어섰다”고 말했다.

홍승훈 팀장은 “AI 시스템이 대형화될수록 광 인터커넥트의 중요성은 더욱 커진다”며 “메모리 기업도 단일 제품 공급을 넘어 고객의 시스템 전체 경쟁력을 함께 만들어가는 파트너로 역할이 진화하고 있다”고 밝혔다.