과기정통부, SKT AIDC 방문…국산 NPU 활용 현장 점검

과학기술정보통신부가 인천에 위치한 SK텔레콤의 인공지능(AI) 서비스 전용 데이터센터를 29일 방문해 국산 신경망처리장치(NPU) 활용 현황을 점검했다. 정부가 ‘K-엔비디아 육성 프로젝트’를 본격화하는 가운데 '소버린 인공지능(AI)' 구현 사례를 직접 확인한 것이다.

29일 SKT에 따르면 과기정통부는 SKT의 AI 서비스 전용 데이터센터를 찾아 국산 NPU 적용 현황을 파악했다. 현장에는 이도규 과학기술정보통신부 정보통신정책실장이 참석했으며 박병관 SKT Core플랫폼담당과 박성현 리벨리온 대표가 동행했다.

최근 AI 산업의 중심축이 대규모 학습에서 실시간 추론으로 이동하면서, 정부는 추론에 특화되고 전력 효율이 높은 NPU를 중심으로 국산 AI 반도체 생태계 구축에 나서고 있다.

3월 열린 ‘K-엔비디아 육성 프로젝트’ 민관 합동 간담회에서 정부는 국민성장펀드를 통해 AI·반도체 분야에 5년간 50조원, 올해 10조원 규모의 장기 인내 자본을 공급하고 2030년까지 AI 반도체 글로벌 유니콘 5곳을 배출한다는 목표를 제시했다.

또한 6일 국회에서 열린 ‘소버린 AI와 AI 반도체’ 토론회에선 NPU 특성상 하드웨어 칩부터 소프트웨어, 모델, 적용 사례(Use Case)까지 수직적으로 통합된 풀스택 실증 사업이 필요하다고 강조했다.

현재 SKT의 AI 서비스 전용 데이터센터에는 국내 AI 반도체 기업 리벨리온의 데이터센터용 NPU ‘아톰(ATOM)’과 ‘아톰 맥스(ATOM MAX)’를 탑재한 서버가 설치돼 있다.

박병관 Core플랫폼 담당은 “SKT는 아톰과 아톰 맥스 기반 서버를 △에이닷 전화 통화 요약 △엑스칼리버(반려동물 영상 진단 보조 서비스)에 적용하고 있다”며 “향후 아톰 맥스 기반의 상용 서비스를 지속 확대할 계획”이라고 설명했다.

특히 에이닷 전화 통화 요약은 SKT의 자체 거대언어모델(LLM) ‘에이닷엑스(A.X)’를 기반으로 하루 최대 5000만건의 API 호출을 처리하고 있다. 이는 국산 LLM이 국산 NPU를 통해 서비스되는 소버린 AI의 대표적 구현 사례다.

SKT와 리벨리온은 국산 NPU 생태계 확대를 위해 기술 협력을 더욱 강화하고 있다. 지난달 양사는 글로벌 반도체 설계 기업 Arm과 3자 MOU를 체결하고 CPU와 NPU를 결합한 AI 추론 서버 공동 개발에 착수했다. 향후 실증을 통해 SKT의 자체 파운데이션 모델 ‘에이닷엑스 케이원(A.X K1)’을 해당 서버에서 운영하는 방안도 검토 중이다.

양사는 정부의 ‘독자 AI 파운데이션 모델’ 프로젝트에도 함께 참여하고 있다. SKT는 자회사 사피온코리아와 리벨리온의 합병 과정을 거치며 리벨리온의 주요 주주로 자리매김했고, 이를 토대로 자사 데이터센터와 AI 서비스 전반에 리벨리온 NPU 적용을 확대하는 등 다양한 협력 사례를 함께 만들어가고 있다.

SKT 관계자는 “국가 간 AI 기술 경쟁이 심화되는 가운데 국내 AI 생태계의 자립성 강화는 국가 경쟁력을 좌우하는 핵심 요소”라며 “국산 LLM이 국산 NPU를 통해 서비스되는 ‘소버린 AI’를 확대해 나갈 계획”이라고 말했다.