김승규 엔비디아 코리아 대표 “2026년은 온디바이스 AI PC 생태계 원년”

▲19일 김승규 엔비디아 코리아 대표가 한국외대 글로벌캠퍼스 백년관 1층 국제세미나실에서 ‘2026 HUFS특강’을 진행하고 있다. 김연진 기자 yeonjin@

김승규 엔비디아 코리아 대표가 “올해는 온디바이스 인공지능(AI) PC 생태계의 원년”이라며 “지금은 클라우드 기반의 AI가 익숙하지만 중장기적으로는 데이터 보안 때문에 ‘온디바이스 AI’ 시대가 올 것”이라고 말했다.

19일 김 대표는 한국외대 글로벌캠퍼스 백년관 1층 국제세미나실에서 진행된 ‘2026 HUFS특강’에서 “클라우드 기반의 최신 AI 모델 성능을 PC에서 구현하는 데 과거에는 20개월 정도가 걸렸다면 요즘에는 6개월도 걸리지 않는다”며 이같이 밝혔다.

김 대표에 따르면 온디바이스 AI의 성능이 빠르게 향상되는 가운데 PC용 AI 모델 다운로드 수는 2025년 기준 전년 대비 10배 가량 증가했다. 특히 올라마(Ollama)나 컴피UI(ComfyUI) 등 로컬 AI 도구의 인기가 급상승했다. 점점 많은 사람이 클라우드가 아닌 온디바이스 환경에서 AI를 활용하는 것이다.

엔비디아의 RTX 그래픽처리장치(GPU) 기반 AI PC가 대표적인 온디바이스 AI PC라고 할 수 있다. 김 대표는 “RTX GPU는 게임용을 넘어 AI 개발자처럼 활용할 수 있다”며 “가지고 있는 디바이스와 툴을 잘 활용한다면 AI 개발자나 크리에이터로서의 성과를 충분히 낼 수 있다”고 말했다.

최근 젠슨 황 엔비디아 최고경영자(CEO)는 AI 산업 전체를 에너지부터 칩, 인프라스트럭처, 모델, 앱으로 구성된 하나의 5단 케이크로 비유한 바 있다. 김 대표는 “그중 엔비디아는 2단계인 칩과 3단계인 인프라를 맡고 있다”며 “반도체 기업을 넘어 칩을 기반으로 데이터센터를 만들고 전체 AI 인프라를 제공하는 기업”이라고 강조했다.

그러면서 “과거 데이터센터는 데이터를 저장·처리하는 역할을 했다면 지금의 AI 데이터센터는 AI를 학습시키고 토큰과 인사이트를 생성하는 AI 팩토리”라며 “기업들이 지능을 제조하는 시대가 된 것”이라고 부연했다.

AI가 스스로 판단하고 실행하는 ‘에이전틱 AI’ 시대에 진입하면서 GPU 컴퓨팅 파워의 중요성은 더욱 커질 전망이다. 김 대표는 “AI의 궁극적 목적지는 휴머노이드 로봇과 AI가 만나는 ‘피지컬 AI’ 시대”라며 “추론 시대 진입으로 필요한 컴퓨팅 파워는 2년 만에 만 배로 늘었다”고 말했다.

이어 최익태 엔비디아 상무는 RTX GPU 기반 AI PC를 개인용 AI 워크스테이션으로 활용할 수 있는 방법을 소개했다. 최 상무는 올라마에서 구글의 최신 오픈소스 모델인 ‘젬마4’를 열고 벽돌깨기나 테트리스 게임 등을 바이브 코딩으로 즉시 만드는 모습을 시연했다.

최 상무는 “허깅페이스에서 쓸 수 있는 모델만 16만개이고 한국어에 특화된 LG AI 연구원의 엑사원 3.5 모델도 사용할 수 있다”며 “온디바이스 AI이기 때문에 완전한 개인정보 보호가 되며 GPU 대비 최대 10배 빠른 추론으로 실시간 응답이 가능하다”고 설명했다.

강기훈 한국외대 총장은 “AI 시대에 GPU와 데이터가 새로운 혁신기반이 되고 있으며 엔비디아는 그 중심에서 미래를 만들어가고 있다”며 “답보다 질문의 수준이 중요해지는 상황에서 AI를 어떻게 활용하고 융합할지가 경쟁력을 좌우할 것”이라고 말했다.