KV캐시 검색결과 - 이투데이

검색결과 총15건

최신순 정확도순

GPU 확보 넘어 ‘최적화’로⋯AI 추론 시대의 인프라 경쟁 공식

메모리부터 SW까지…같은 자원으로 효율성 높인다코어위브 급락이 던진 과제…GPU 확보 넘어 수익성 입증 AI 모델이 고도화되고 에이전트가 확산하면서 인프라 경쟁의 기준도 달라지고 있다. 그래픽처리장치(GPU) 확보에 더해 같은 자원으로 더 많은 연산을 처리하는 ‘추론 최적화’가 중요해졌다. 반도체와 소프트웨어, 데이터센터 운영 전반의 효율을 높여 늘어나는

2026-10-18 15:45
안현 SK하이닉스 사장 “AI 병목, 전체 메모리 계층 최적화로 풀어야”

SEDEX 2026 기조연설서 AI 추론 병목 진단HBM 넘어 3D Stacked DRAM·HBF 로드맵 제시AI 인프라 성능 2030년 2026년 대비 19배 전망 안현 SK하이닉스 개발총괄 사장(CDO)이 AI 추론 시장 확대로 새로운 메모리 병목이 발생하고 있다며 전체 메모리 계층 최적화가 필요하다고 강조했다. SK하이닉스는 안 사장이 14일 서울

2026-10-14 12:30
삼성전자, HBM5·CXL 앞세워 AI 메모리 혁신⋯AMD와 기술 협력 확대

OCP 글로벌 서밋서 차세대 메모리·스토리지 전략 공개AMD와 CXL 메모리 확장 솔루션 공동 시연HBM부터 SSD까지 AI 인프라 최적화 강화 삼성전자가 차세대 고대역폭메모리(HBM)와 컴퓨트익스프레스링크(CXL) 기술을 앞세워 AI 인프라 시장 공략을 강화한다. HBM5 등 고성능 메모리 개발과 함께 메모리 용량 확장, 데이터 저장·관리 기술까지 사업

2026-10-13 09:39
‘GPT-6 아스트라’가 쏘아 올린 AGI…K메모리, ‘상시 추론’ 타고 슈퍼사이클 연장

증권가 “단순 챗봇서 ‘AI 직원’으로 진화…멀티에이전트 확산에 토큰 연산량 15배 폭증”HBM·서버 D램·eSSD 동반 품귀…“D램 공급 부족 최소 2028년 중반까지 지속”최선호주 ‘삼성전자·SK하이닉스’ 고수…“2027년 PER 3~4배 불과, 저평가” 오픈AI의 차세대 인공지능(AI) 모델 ‘GPT-6 아스트라(Astra)’ 출시를 계기로 생성형

2026-09-12 07:00
델 “韓 기업 72% AI 인프라 미흡…AI 맞춰 업무 재설계해야”

데이터센터 현대화·안전한 AI 확장 강조“토큰 가격보다 사용량 빠르게 늘어”SK하이닉스, AI 메모리 기술 방향 제시 기업들이 AI를 실질적인 사업 성과로 연결하려면 부족한 인프라를 개선하는 동시에 기존 업무 방식까지 AI에 맞게 재설계해야 한다는 제언이 나왔다. AI 에이전트 확산으로 연산량과 토큰 사용량이 급증하면서 비용 관리와 메모리 성능도 기업 A

2026-08-25 14:52
SK하이닉스, 용인·청주에 54조 투자…AI 메모리 생산기지 키운다

6월 발표 중장기 투자 전략 구체화용인 Y2 D램 팹 35조2000억ㆍ청주 M17 낸드 팹 19조1000억 투자HBM·엔터프라이즈 SSD 수요 대응2033년 용인 클러스터 조기 완공 속도 SK하이닉스가 인공지능(AI) 시대 급증하는 메모리 수요에 대응하기 위해 용인과 청주에 총 54조3000억원을 투입해 신규 반도체 생산시설을 건설한다. HBM(고대역폭메

2026-08-07 16:26
반도체 흔드는 '키미 K3'…고효율 AI 확산에도 한국엔 새 돌파구 [샌드위치 韓 AI 생존방식]

키미 K3 공개에 반도체ㆍ기술주 급락연산 효율 개선⋯칩 수요 둔화 우려 고성능 구현, 더 많은 GPUㆍHBM 필요인프라 수요도 늘며 韓업계 수혜 기대 중국 문샷AI의 AI 모델 ‘키미(Kimi) K3’ 공개 이후 글로벌 반도체와 기술주가 일제히 급락하며 시장이 또 한 번 ‘AI 효율성 쇼크’에 휩싸였다. 적은 연산으로도 고성능 AI를 구현할 수 있다는

2026-07-22 05:00
美·中 AI 고래싸움에 등 터지는 K-AI…‘키미 쇼크’가 던진 경고장

중국 문샷AI의 ‘키미 K3’, 미국 프론티어 모델 성능 근접美 하드웨어·中 소프트웨어 사이 낀 韓…‘AI 2강’ 전략 시험대 중국의 AI 스타트업 문샷AI가 초대형 오픈웨이트 모델 ‘키미 K3’를 내놓으면서 미·중 AI 패권 경쟁이 폐쇄형 대 오픈형으로 재편되는 모양새다. 미국의 하드웨어와 중국의 소프트웨어 사이에 낀 한국의 ‘AI 2강’ 전략에도 경

2026-07-20 17:44
"미세화 한계 넘을 해법은 설계"…3D IC·알고리즘 중심 반도체 주목

3D IC·로직 폴딩으로 미세화 한계 극복AI 알고리즘 중심 반도체 설계 패러다임 전환"AI 반도체 경쟁력은 결국 개발 속도" 반도체 미세화가 한계에 다다르면서 차세대 반도체 경쟁력은 공정보다 설계 혁신에서 나온다는 제언이 나왔다. 3차원 집적회로(3D IC)와 AI 기반 설계 기술, 알고리즘 중심 반도체 개발이 차세대 경쟁력으로 부상하고 있다는 분석이다

2026-07-16 17:21
AI 추론 확산에…삼성전자·SK하이닉스, 'CXL' 주도권 경쟁

삼성전자, 1TB 메모리 풀 기반 AI 추론 성능 검증SK하이닉스, 차세대 CMM-DDR5 공개 삼성전자와 SK하이닉스가 차세대 메모리 연결 기술인 컴퓨트익스프레스링크(CXL) 주도권 경쟁에 나서고 있다. 대규모언어모델(LLM) 확산으로 커지는 메모리 병목을 해소하기 위해 기술 검증과 제품 고도화, 생태계 확대에 나선 것이다. 13일 업계에 따르면 삼성

2026-07-13 15:06
‘형님’ D램 이어 ‘아우’ 낸드도 터졌다…AI발 슈퍼사이클 본궤도

낸드 수익성 D램 육박…삼성·하이닉스 목표주가 ‘최고 170만원’ 상향중국 팹 가동·선단공정 전환 가속…소부장 기업 낙수효과 기대 반도체 시장의 주도권이 고대역폭메모리(HBM)를 앞세운 디램(DRAM)에서 낸드플래시(NAND Flash)로 빠르게 전이되고 있다. 인공지능(AI) 학습을 넘어 추론 영역의 확장으로 기업용 솔리드 스테이트 드라이브(eSSD)

2026-04-18 08:00
하나증권 “터보 퀀트 확산…AI 메모리 수요 패러다임 ‘속도 중심’ 재편”

하나증권은 27일 반도체 업종에 대해 투자의견 ‘비중확대’를 유지하며 구글의 신규 압축 기술 ‘터보 퀀트(Turbo Quant)’가 인공지능(AI) 인프라 구조 변화와 함께 메모리 산업의 수요 패러다임을 전환시킬 것으로 분석했다. 보고서에 따르면 터보 퀀트는 대규모언어모델(LLM) 추론 과정에서 병목으로 지목돼 온 KV 캐시(KV Cache) 사용량을

2026-03-27 07:47
구글 '터보퀀트' 쇼크…반도체 겨울 다시 오나 [이슈크래커]

최근 국내 주식 시장을 뜨겁게 달구던 반도체 대장주들이 갑작스러운 암초를 만났습니다. 25일 오전 유가증권시장에서 SK하이닉스는 전 거래일 대비 3.42% 내린 96만 1000원에, 삼성전자는 2.54% 하락한 18만 4200원에 거래되며 동반 약세를 보였습니다. 간밤 뉴욕증시에서도 마이크론(-3.40%)을 비롯해 샌디스크, 웨스턴디지털, 시게이트 등 반

2026-03-26 14:55
“AI 학습과 추론 경계 무너져…속도는 HBM·용량은 HBF”

AI 추론 고도화로 메모리 수요 구조 변화속도·용량 분리 설계 필요성 부각삼성·SK하이닉스에 중장기 기회 인공지능(AI)이 실시간으로 데이터를 학습하며 추론하는 단계로 진입하면서 메모리 구조의 중요성이 빠르게 커지고 있다. 학습과 추론을 분리해 설계하던 기존 AI 반도체 구조에 한계가 있다는 지적이 나왔다. 김정호 한국과학기술원(KAIST) 전기 및

2026-02-03 14:50
GPU 의존도 낮춘다…KAIST, 생성형 AI 추론 성능 60% 높인 NPU 개발

생성형 인공지능(AI)가 요구하는 막대한 메모리와 연산 성능을 대폭 개선할 수 있는 국산 AI반도체 기술이 등장했다. KAIST 전산학부 박종세 교수 연구팀과 하이퍼엑셀이 연구 협력을 통해, 챗GPT와 같은 생성형AI 클라우드에 특화된 고성능·저전력의 NPU(신경망처리장치) 핵심기술을 개발했다고 4일 밝혔다. 기존 GPU 대비 전력 소모는 낮추고 생성형

2025-07-04 13:55