‘다음 AI 오버뷰’는 국산 NPUㆍLLM으로 ⋯“풀스택 소버린 AI 생태계”

국산 하드웨어ㆍ소프트웨어ㆍ서비스⋯ 국내 첫 풀스택 소버린 AI
다음 “개인 에이전트 서비스 구상”⋯AI 서비스 쇼핑 등 버티컬 확장
퓨리오사AI “24개 칩으로 하루 5억 토큰 처리...솔라 모델 가속화”

▲15일 성남시 판교에 위치한 AXZ 사옥에서 (사진 왼쪽부터) 김성훈 업스테이지 대표, 백준호 퓨리오사AI 대표, 이건수 AXZ 대표가 각 사의 계획과 3사 협력 방안 등에 대한 대담을 나누고 있다. (사진제공=업스테이지)

거대언어모델(LLM) ‘솔라’가 고성능 국산 신경망처리장치(NPU)에서 구동되고, 실시간으로 대국민 포털에서 돌아가게 됐습니다.

김성훈 업스테이지 대표는 15일 오전 온라인 간담회를 통해 업스테이지가 포털 ‘다음’ 운영사 AXZ, AI 반도체 기업 퓨리오사AI와 함 국내 첫 풀스택 소버린 AI 상용화 사례를 구축한다며 이같이 말했다. 이날 김 대표와 함께 이건수 AXZ 대표, 백준호 퓨리오사AI 대표는 성남시 판교에 위치한 AXZ 사옥에 모여 각 사의 계획과 소버린 AI 관점의 3사 협력 방안 등에 대한 대담을 나눴다.

퓨리오사AI의 NPU ‘RNGD(레니게이드)’를 활용해 업스테이지의 LLM 솔라를 탑재한 다음의 ‘AI 요약’ 서비스를 구동하는 방식이다. 이번 3사 협력은 인프라부터 모델, 실제 사용자가 체감하는 서비스까지 AI 전 영역을 국산 기술로 연결한 첫 소버린 AI 사례라는 점에서 의미가 크다. 엔비디아로 대변되는 외산 그래픽처리장치(GPU) 과의존을 줄이고 전력 대비 성능이 뛰어난 국산 NPU 적용을 확대해 AI의 전 과정에서 소버린 AI를 실현하겠다는 계획이다.

이건수 대표는 “다음 AI 요약은 LLM이 웹 문서를 직접 분석해 검색 결과에 대한 종합적인 답변을 정리해주는 기능”이라며 “다음 검색창에 키워드를 입력하면 핵심 요약과 근거를 함께 제공하며, 내용이 바뀌면 AI가 자동 반영해 늘 최신 정보를 확인할 수 있다”고 설명했다. 이 대표는 AI 요약을 개발하면서 “LLM의 고질적인 환각을 제어하기 위해 정확한 최신 정보만 전달할 수 있도록 하네스 엔지니어링을 고도화했다”며 “키워드 검색과 벡터 기반 서치를 조합한 하이브리드 서치를 이용해 솔라 LLM에게 가장 관련성 높은 최신 정보를 전달하고 있다”고 덧붙였다.

이어 백준호 대표는 “AI 요약 처리를 위해 3개 노드로 하루 5억 개의 토큰을 처리하고 있다”고 밝혔다. 이를 위한 최적화 작업을 통해 “AI 모델을 가속기에 잘 매핑할 수 있는 컴파일러와 최적의 서빙을 위한 엔진 개발 등 하드웨어-소프트웨어를 원천 설계로 구성해 H200와 대등한 성능을 내고 있다"고 설명했다. 실제로 퓨리오사AI NPU를 도입했을 때 추론 비용절감 효과는 50% 이상에 달한다는 설명이다. 백 대표는 “국산 NPU는 토큰 비용을 획기적으로 절감할 수 있고, GPU보다 전성비(전력 대비 성능)와 가성비가 높다”라며 “국제정세를 고려했을 때 전략적 관점에서도 소버린 AI 반도체와 모델, 서비스의 결합이 필요하다”고 강조했다.

다음에서 베타 서비스 중인 AI 요약은 점진적으로 확대해간다. 현재는 전체 질의 규모의 20% 정도를 처리하고 있다. 이 대표는 “단순 요약을 넘어 쇼핑, 맛집 검색 등 버티컬로 확장하고, 다음을 통해 사용자에게 특화된 ‘1인 1에이전트’를 보급할 준비도 하고 있다”고 말했다. 관련해 퓨리오사AI는 고도화된 에이전틱 AI 서비스를 좋은 토큰 가격에 지원할 수 있도록 제품을 확장하고 있다. 백 대표는 “퓨리오사AI 칩도 세대를 거듭하며 성능과 가성비를 계속 높여, 글로벌 반도체 대비 우월한 경쟁력을 확보하겠다”고 말했다. 백 대표에 따르면 레니게이드가 솔라 모델을 가속하고 있다. 서버 3개 노드, 24개 칩이 투입돼 하루 평균 약 5억개 토큰을 처리한다는 설명이다.

김 대표는 “해외 빅테크 모델에 맞설 수 있는 국산 LLM 성능을 더욱 고도화해 나가겠다”고 강조했다. 업스테이지는 독자 AI 파운데이션 모델 프로젝트 등을 통해 곧 차세대 모델을 공개할 계획이다.