KT클라우드, 공공 전용 ‘NPU Server’ 출시…리벨리온 NPU 적용

▲KT클라우드가 4일 국내 최초 공공 전용 ‘NPU Server’ 출시했다고 밝혔다. 본 이미지는 서비스 이해를 돕기 위해 생성형 AI를 활용해 제작한 콘셉트 이미지. (사진제공=KT클라우드)

KT클라우드가 공공기관 전용 클라우드에 리벨리온의 차세대 신경망처리장치(NPU)를 적용한 ‘NPU 서버(Server)’ 상품을 출시했다. 국내 클라우드 사업자(CSP) 중 최초로 CSAP 인증을 획득하며 국산 NPU 기반 공공 AI 인프라 확대에 기여하겠다는 방침이다.

KT클라우드는 공공 전용 데이터센터 내 VM(가상머신) 방식의 NPU 인프라를 상용화하고 국내 NPUaaS 최초로 CSAP 인증을 획득했다고 4일 밝혔다. 정부의 국산 AI 반도체 활용 확대 정책에 발맞춰 공공 보안 가이드라인을 충족하는 AI 인프라 환경을 제공한다는 점에서 의미가 크다.

공공AX 사업에 참여하는 사업자는 NPU 서버 상품을 통해 보안 규제 준수와 정책 가점 요건을 동시에 충족할 수 있다. AI 솔루션 기업은 보안성이 확보된 NPU 인프라를 기반으로 공공기관 및 지자체에 민원 상담, 행정 업무 지원, 문서 검색·분석 등 AI 에이전트 서비스를 제공할 수 있다.

KT클라우드 NPUaaS는 국내 AI 반도체 기업 리벨리온의 데이터센터용 NPU ‘아톰 플러스(ATOM Plus)’를 기반으로 제공된다. 최근 AI 워크로드의 비중이 학습에서 추론으로 빠르게 이동하면서 추론에 최적화된 NPU는 AI 인프라의 운영 효율을 높이고 비용 부담을 낮출 수 있는 대안으로 주목받고 있다.

한편 KT클라우드는 4월 공공 고객뿐 아니라 민간 고객까지 활용할 수 있는 AI 통합 플랫폼 ‘AI 넥서스(AI Nexus)’를 출시한 바 있다. AI 넥서스는 기존 학습 전용 인프라 ‘AI Train’과 추론 전용 인프라 ‘AI SERV’를 통합한 서비스로 AI 모델 학습부터 추론, 배포까지 전체 파이프라인을 하나의 플랫폼에서 제공한다.

특히 ‘모델 서빙(Model Serving)’ 기능을 강화해 고객이 직접 개발한 AI 모델을 복잡한 배포 과정 없이 클릭 몇 번만으로 안정적인 추론 환경에 적용할 수 있도록 했다. 자체 모델이 없는 스타트업과 중소기업 고객은 ‘모델 스토어(Model Store)’ 기능을 통해 시장에서 널리 활용되는 다양한 오픈소스 모델을 선택하고, LLM 기반 AI 서비스를 보다 손쉽게 구성할 수 있다.

AI 넥서스는 A100, H100, H200 등 다양한 NVIDIA GPU 라인업을 지원하며, 올해 3분기 초에는 차세대 GPU인 NVIDIA B300 기반 서비스로 지원 범위를 확대할 계획이다.

김봉균 KT클라우드 대표는 “정부의 국산 AI 반도체 활용 확대 기조에 맞춰 공공 전용 NPU 상품을 출시하게 됐다”며 “KT클라우드는 최적의 AI 인프라 플랫폼 사업자로서 공공기관과 기업의 AX 혁신을 지원하고, 국가 AI 산업 경쟁력 강화에 기여하겠다”고 말했다.