AI 추론 고도화로 메모리 수요 구조 변화속도·용량 분리 설계 필요성 부각삼성·SK하이닉스에 중장기 기회
인공지능(AI)이 실시간으로 데이터를 학습하며 추론하는 단계로 진입하면서 메모리 구조의 중요성이 빠르게 커지고 있다. 학습과 추론을 분리해 설계하던 기존 AI 반도체 구조에 한계가 있다는 지적이 나왔다.
김정호 한국과학기술원(KAIST) 전기 및
생성형 인공지능(AI)가 요구하는 막대한 메모리와 연산 성능을 대폭 개선할 수 있는 국산 AI반도체 기술이 등장했다.
KAIST 전산학부 박종세 교수 연구팀과 하이퍼엑셀이 연구 협력을 통해, 챗GPT와 같은 생성형AI 클라우드에 특화된 고성능·저전력의 NPU(신경망처리장치) 핵심기술을 개발했다고 4일 밝혔다.
기존 GPU 대비 전력 소모는 낮추고 생성형