추론최적화 검색결과

검색결과 총15건

최신순 정확도순

GPU 확보 넘어 ‘최적화’로⋯AI 추론 시대의 인프라 경쟁 공식

메모리부터 SW까지…같은 자원으로 효율성 높인다코어위브 급락이 던진 과제…GPU 확보 넘어 수익성 입증 AI 모델이 고도화되고 에이전트가 확산하면서 인프라 경쟁의 기준도 달라지고 있다. 그래픽처리장치(GPU) 확보에 더해 같은 자원으로 더 많은 연산을 처리하는 ‘추론 최적화’가 중요해졌다. 반도체와 소프트웨어, 데이터센터 운영 전반의 효율을 높여 늘어나는

2026-10-18 15:45
베슬AI, 글로벌 톱티어 네오클라우드 기업 청사진…2030년 GPU 20만장 확보

베슬AI가 2030년까지 그래픽처리장치(GPU) 20만장을 확보하는 등 글로벌 톱티어 네오클라우드 기업으로 도약하기 위한 청사진을 발표했다. 2년 안에 매출을 8배 늘리겠다는 공격적인 목표도 제시했다. 안재만 베슬AI 대표는 15일 서울 드림플러스 강남에서 ‘베슬AI 2026 네오클라우드 전략 발표회’를 열고 “생성형 AI에서 AI 에이전트 시대로 접어

2026-10-15 15:27
[논현광장-박지민의 중국이 바꾼 가격] ‘지능의 단가’ 낮추는 중국 AI의 힘

단순 숫자 아닌 아웃풋이 진짜 가격싸게 공급해 사용 늘려 정확성 제고‘저비용·고신뢰’ 확보전략 주시해야 선두추쒀(深度求索·딥시크)의 새 요금표는 중국 AI 저가 전략의 끝이 아니라 다음 단계를 보여준다. 딥시크는 8월 17일부터 V4 프로 API에 혼잡·비혼잡 요금을 적용했다. 100만 토큰 기준 비혼잡 시간의 캐시 미적중 입력과 출력은 각각 0.66달러

2026-09-11 06:00
두나무앤파트너스, AI 추론 최적화 기업 칼로섬에 70억원 투자

국내 가상자산 거래소 업비트 운영사 두나무의 투자 전문 자회사 두나무앤파트너스는 영국 AI 추론 최적화 기업 칼로섬에 500만달러 규모의 시드 투자를 집행했다고 25일 밝혔다. 원화 기준 약 70억원 규모다. 칼로섬의 이번 시드 라운드는 총 1억달러 규모로 진행됐다. 유럽 벤처캐피털 아토미코가 투자를 주도했으며, 플루럴과 DCVC, 영국 정부의 소버린

2026-08-25 09:17
[시론] 초지능 혁신에 가린 ‘버블’ 면밀히 살펴야

과거 인류를 위협했던 석유 자원 고갈의 공포는, 실상 원자력을 유일한 차세대 에너지 대안으로 부각하려는 저의에서 출발했다. 2010년 무렵 다임러의 디터 제체 회장이 거대 시장인 중국을 향해 내연기관차 중심 전략에서 벗어나 신에너지차로의 전환을 에둘러 언급한 것도, 오일 200달러(배럴당) 시대가 머지않았다는 우려와 맞닿아 있었다. 중국의 자동차 보급률이

2026-07-09 06:00
KETI, IEEE 저전력 컴퓨터비전 챌린지 1위…AI 생성이미지 탐지 기술력 입증

대형 비전-언어 모델(VLM) 경량화저전력 엣지 디바이스서 경쟁력 확인 한국전자기술연구원(KETI)이 세계적인 컴퓨터비전 학술대회에서 AI 생성 이미지 탐지 기술력을 인정받았다. 저전력 엣지 디바이스 환경에서도 높은 정확도와 추론 성능을 구현하며 글로벌 경쟁력을 입증한 것이다. KETI는 모빌리티플랫폼연구센터 연구진이 3~7일 미국 덴버에서 열린 컴퓨터

2026-06-11 08:33
SKT, 일본·대만과 7600억원 규모 ‘AI 펀드’ 조성…SK하이닉스도 참여 추진

SK텔레콤이 일본의 ICT 그룹 ‘NTT’, 대만의 ‘중화텔레콤’과 5억달러(약 7600억원) 규모의 ‘AI 펀드’를 조성한다. SK하이닉스도 펀드 참여를 추진 중이다. SKT는 10일 일본 도쿄 오테마치에 위치한 NTT 본사에서 NTT, 중화텔레콤과 함께 기자간담회를 열고 차세대 AI 기술에 투자하는 ‘아이온(Innovative Optical and

2026-06-10 11:00
노타, 이기종 컴퓨팅 기반 거대언어모델 최적화…AI PC 효율 제고

인공지능(AI) 경량화 및 최적화 기술 기업 노타가 AI PC 환경에서 그래픽처리장치(GPU)와 신경망처리장치(NPU)를 동시에 활용하는 이기종 컴퓨팅 기반 거대언어모델(LLM) 추론 최적화 기술을 성공적으로 구현했다. 단일 프로세서의 사양에만 의존하는 기존 방식에서 벗어나 시스템 전체의 연산 자원을 효율적으로 배분함으로써 온디바이스 AI의 사용자 경험을

2026-06-04 08:52
노타, 퀄컴 피지컬AI 핵심 VLA 최적화 성공…로봇 동작 생성 속도 7배 향상

인공지능(AI) 모델 경량화 및 최적화 기술 기업 노타가 피지컬AI 구현의 핵심 기술로 꼽히는 비전·언어·행동 모델(VLA)을 엣지 AI 디바이스에서 효율적으로 구동할 수 있는 최적화 성과를 공개했다. AI가 실제 환경을 인식하고 이해한 뒤 행동으로 연결하는 피지컬AI 시장이 확대되는 가운데 로봇과 산업 현장에 필요한 온디바이스 AI 경쟁력을 입증했다는

2026-05-29 08:36
AI 인프라 기업 ‘모레’, 전 직군 공개 채용…1000만원 사이닝 보너스 제시

AI 인프라 솔루션 기업 모레는 1000만원의 사이닝 보너스라는 파격적인 조건을 내걸고 사업 확장을 위한 인재 확보에 나섰다. 14일 모레는 5월 말까지 진행되는 이번 채용에서 엔지니어, 사업 개발 등 전 직군에 걸쳐 모집한다고 밝혔다. 모집 분야는 △AI 시스템 소프트웨어 엔지니어 △GPU 소프트웨어 엔지니어 △LLM 플랫폼 엔지니어 △NPU 소

2026-04-14 09:03
빅테크 ‘AI 칩 내재화’ 속도전…성능 넘어 전력·비용 경쟁

글로벌 빅테크들이 자체 칩 개발을 선언하며 ‘탈엔비디아’ 움직임을 가속화하고 있다. 엔비디아 그래픽처리장치(GPU) 의존성을 낮추고 장기적으로 생태계 주도권을 가져가기 위한 전략이라는 분석이 나온다. 모델 성능이 상향 평준화되면서 전력 효율과 운영비 절감을 중심으로 한 인프라 경쟁으로 재편되는 흐름이다. 13일 인공지능(AI) 업계에 따르면 앤스로픽은

2026-04-13 15:41
심사 돌입한 모티프ㆍ트릴리온랩스 ‘독파모’ 재도전…이달 중 추가팀 확정

모티브, 도메인 특화 모델 전략LLM·멀티모달 자체 개발 강점참여기관 17곳·수요기관 12곳트릴리온랩스, 대규모 연합전선GS그룹·포스코홀딩스·엑셈 참여독자아키텍처 기반 산업현장 실증 정부가 ‘독자 인공지능(AI) 파운데이션 모델(독파모)’ 프로젝트의 추가 정예팀 1곳을 이달 중 확정한다. 도전장을 내민 모티프테크놀로지스와 트릴리온랩스 두 컨소시엄 가운데

2026-02-18 17:02
딥노이드, 퓨리오사AI와 NPU 기반 생성형 의료 AI 사업화 추진

딥노이드는 이달 22일 인공지능(AI) 반도체 기업 퓨리오사AI와 업무협약(MOU)을 체결하고 AI 전용 반도체(NPU)를 적용한 의료 AI 소프트웨어 사업화에 나선다고 26일 밝혔다. 이번 협력은 생성형 AI 기반 흉부 엑스선(X-ray) 판독 소견서 초안 생성 솔루션 ‘M4CXR’과 퓨리오사AI의 2세대 칩 RNGD(레니게이드)를 연계해 국내외 사

2026-01-26 09:12
모레, ‘전북 피지컬 AI 데이터센터 사업’ 참여...3년 간 206억 투자

AI 인프라 솔루션 기업 모레는 16일 전북특별자치도와 투자 협약을 체결하고 ‘전북 피지컬 AI 데이터센터 사업’에 참여한다고 16일 밝혔다. 이번 협약을 통해 모레는 내년부터 향후 3년 간 206억 원을 투자해 전주에 위치한 전북테크비즈센터에 피지컬 AI 실증 위한 AI 데이터센터와 연구 거점을 구축하고, AI 연구·개발과 데이터센터 운영을 담당할 전

2025-12-16 12:54
리벨리온, 레드헷과 NPU 기반 '오픈시스트 AI' 발표

리벨리온이 레드헷과 함께 ‘리벨리온 신경망처리장치(NPU) 기반 레드햇 오픈시프트 AI’를 공개한다고 11일 발표했다. 이 솔루션은 ‘레드햇 오픈시프트 AI’와 리벨리온의 NPU, 고효율 추론 엔진인 vLLM을 결합해 검증된 풀스택 엔터프라이즈 AI 플랫폼을 제공한다. 리벨리온 NPU 기반 레드햇 오픈시프트 AI는 AI 추론 최적화를 위해 핵심 요소

2025-12-11 13:26