KV캐시 검색결과 - 이투데이

검색결과 총4건

최신순 정확도순

하나증권 “터보 퀀트 확산…AI 메모리 수요 패러다임 ‘속도 중심’ 재편”

하나증권은 27일 반도체 업종에 대해 투자의견 ‘비중확대’를 유지하며 구글의 신규 압축 기술 ‘터보 퀀트(Turbo Quant)’가 인공지능(AI) 인프라 구조 변화와 함께 메모리 산업의 수요 패러다임을 전환시킬 것으로 분석했다. 보고서에 따르면 터보 퀀트는 대규모언어모델(LLM) 추론 과정에서 병목으로 지목돼 온 KV 캐시(KV Cache) 사용량을

2026-03-27 07:47
구글 '터보퀀트' 쇼크…반도체 겨울 다시 오나 [이슈크래커]

최근 국내 주식 시장을 뜨겁게 달구던 반도체 대장주들이 갑작스러운 암초를 만났습니다. 25일 오전 유가증권시장에서 SK하이닉스는 전 거래일 대비 3.42% 내린 96만 1000원에, 삼성전자는 2.54% 하락한 18만 4200원에 거래되며 동반 약세를 보였습니다. 간밤 뉴욕증시에서도 마이크론(-3.40%)을 비롯해 샌디스크, 웨스턴디지털, 시게이트 등 반

2026-03-26 14:55
“AI 학습과 추론 경계 무너져…속도는 HBM·용량은 HBF”

AI 추론 고도화로 메모리 수요 구조 변화속도·용량 분리 설계 필요성 부각삼성·SK하이닉스에 중장기 기회 인공지능(AI)이 실시간으로 데이터를 학습하며 추론하는 단계로 진입하면서 메모리 구조의 중요성이 빠르게 커지고 있다. 학습과 추론을 분리해 설계하던 기존 AI 반도체 구조에 한계가 있다는 지적이 나왔다. 김정호 한국과학기술원(KAIST) 전기 및

2026-02-03 14:50
GPU 의존도 낮춘다…KAIST, 생성형 AI 추론 성능 60% 높인 NPU 개발

생성형 인공지능(AI)가 요구하는 막대한 메모리와 연산 성능을 대폭 개선할 수 있는 국산 AI반도체 기술이 등장했다. KAIST 전산학부 박종세 교수 연구팀과 하이퍼엑셀이 연구 협력을 통해, 챗GPT와 같은 생성형AI 클라우드에 특화된 고성능·저전력의 NPU(신경망처리장치) 핵심기술을 개발했다고 4일 밝혔다. 기존 GPU 대비 전력 소모는 낮추고 생성형

2025-07-04 13:55