“엔비디아 칩 없이 AI 구현”...조강원 모레 대표가 꿈꾸는 AI 인프라의 민주화 [이슈앤인물]

AI 하드웨어 최적화 SW 개발
AI 구현 비용 5분의 1로 절감
AI 서비스마다 최적화 칩 달라
특정 제조사에 휘둘리지 않고
다양한 반도체 '섞어쓰기' 모색

▲모레 조강원 대표가 지난달 26일 서울 강남구 본사에서 본지와 인터뷰를 진행하기 전 사진을 촬영하고 있다. (사진=모레)

전라북도 전주시에서는 기존의 상식을 뒤엎는 거대한 실험이 시작되고 있다. 바로 모레(MOREH)가 주도하는 ‘피지컬 인공지능(AI) 데이터센터’다. 전 세계가 엔비디아의 그래픽처리장치(GPU) 한 장을 더 구하지 못해 발을 동동 구를 때 조강원 모레 대표는 이곳에 엔비디아 칩을 단 하나도 넣지 않겠다고 선언했다. 대신 AMD의 GPU와 텐스토렌트의 신경망처리장치(NPU)가 그 자리를 채운다.

조 대표가 말하는 ‘인프라의 민주화’는 거창한 구호가 아니다. 특정 하드웨어 제조사에 휘둘리지 않는 선택의 자유를 데이터센터 운영사에 돌려주고, AI 구현 비용을 기존의 5분의 1 수준으로 낮추겠다는 현실적인 선언이다. 서울 테헤란로 본사에서 만난 조 대표는 “내년이면 이종 반도체를 섞어 쓰는 것이 데이터센터의 기본값이 될 것”이라며 확신에 찬 목소리로 인터뷰를 시작했다.

전북 피지컬AI 데이터센터, ‘엔비디아 종속’ 끊을 첫 실전 무대

기존 데이터센터 사업의 성패는 ‘엔비디아 GPU를 얼마나 확보했느냐’에 달려 있었다. 하지만 조 대표의 시각은 다르다. 그는 전북 피지컬 AI 데이터센터를 통해 하드웨어가 아닌 소프트웨어가 인프라의 주도권을 쥐는 모습을 증명하려 한다.

그는 “해외 고객들에게도 주로 소구하는 게 결국은 ‘엔비디아 GPU 없이 데이터센터를 만들고 돌릴 수 있다’는 점”이라며 “운영사 입장에서는 검증된 엔비디아를 버리는 게 불안할 수 있다. 그래서 이번 전북 사업에서는 모델만 잘 만드는 게 아니라 인프라부터 소프트웨어, 파운드리 모델까지 풀스택으로 줄 수 있다는 걸 실증해야 한다고 생각한다”고 강조했다. 단순히 반도체사 컨소시엄이 들어온다고 되는 게 아니라 어떤 반도체가 오든 유연하게 대응할 수 있는 유니버셜한 인프라 솔루션을 보여주겠다는 목표다.

그가 장담하는 수치는 파격적이다. 조 대표는 “내부 평가로는 엔비디아 대비 2배 이상의 효율이 나온다. 인프라 비용 관점에서 보면 같은 성능일 때 반값이 된다는 이야기”라며 “사실 하드웨어만 가지고는 이 수치가 안 나온다. 소프트웨어 레벨에서 엔비디아도 하지 못하는 클러스터 레벨의 효율화를 이뤄냈기에 가능한 일”이라고 설명했다.

소프트웨어 중심의 데이터센터, 전기료 공포 이겨낼 열쇠

최근 데이터센터의 최대 화두는 단연 ‘전력’이다. 조 대표는 모레의 솔루션이 전력 효율을 극대화해 데이터센터의 경제학을 바꿀 수 있다고 강조한다.

조 대표는 “작년까지만 해도 데이터센터는 똑같은 GPU 천 장 깔아서 모델 하나 학습시키는 게 전부였고, 그러면 똑같은 칩을 까는 게 제일 옵티멀하다”면서도 “그런데 올해부터는 서비스가 중심이 됐다. AI 서비스는 수십 개의 모델이 섞여서 돌아가고 유저들의 요청도 제각각이다. 어떤 건 계산 위주고 어떤 건 메모리 대역폭이 중요해졌는데 이는 곧 이제는 반도체를 섞어 써야 효율이 나오는 시대가 된 것을 의미한다”고 했다.

그는 엔비디아의 최근 행보도 이를 뒷받침한다고 설명했다. 조 대표는 “엔비디아가 최근 고대역폭메모리(HBM) 대신 다른 메모리를 탑재한 추론 특화 반도체를 선보이고, 다양한 연산 아키텍처를 확보하려는 움직임을 보이는 것도 결국 데이터센터 내에서 칩을 섞어 써서 효율을 얻으려는 전략”이라며 “우리는 전부터 이 방향으로 갈 거라 믿고 기술을 개발해 왔다. 소프트웨어가 어떻게 일을 나눠주느냐에 따라 데이터센터의 전력 효율과 비용이 완전히 달라지는 시대가 온 것”이라고 말했다.

독파모 재도전과 ‘딥시크’가 보여준 길

▲모레 조강원 대표가 지난달 26일 서울 강남구 본사에서 본지와 인터뷰를 진행하고 있다. (사진=모레)

모레의 자회사 모티프테크놀로지스가 정부의 ‘독자 AI 파운데이션 모델(독파모)’ 프로젝트에 합류한 것도 같은 맥락이다. 한 차례 고배를 마셨던 재도전이었지만 조 대표는 흔들리지 않았다.

조 대표는 “(재도전에 있어) 투자자들을 설득할 필요도 없었다. 이건 우리가 3년째 해온 이야기고, 평소에 하던 일을 잘 설명하면 될 거라 생각했다”면서 “특히 후발 주자로 들어와서 선발 업체랑 경쟁이 될까 하는 고민들이 많으셨겠지만 저희는 국내에서 경쟁이 가능한 유일한 회사라고 생각했기에 딱히 떨어질 거라 보지 않았다”고 자신했다.

그가 지향하는 모델은 글로벌 시장을 뒤흔든 중국의 딥시크와 닮은 구석이 있다. 조 대표는 “딥시크가 유명해진 건 모델도 잘 만들었지만, 서비스 단가를 경쟁사 대비 5분의 1 수준으로 확 낮췄기 때문”이라며 “분명 모델 개발 그 뒤의 임팩트가 더 컸다. 싸지니까 중국의 모든 회사가 AI를 써보겠다고 달려든 거고, 우리도 모레의 소프트웨어와 모델을 묶어서 3분의 1에서 5분의 1 가격에 제공하는 게 목표다. 그래야 AI가 널리 쓰이는 진정한 민주화가 일어날 수 있다”고 강조했다.

3년 뒤면 상장 준비 완료⋯“데이터센터 설계의 시작은 모레가 될 것”

모레는 이제 기술 실증을 넘어 본격적인 상업화 단계에 진입했다. 누적 투자액은 약 400억 원, 올해 상반기 중 마지막 펀딩을 거쳐 내년부터는 본격적인 흑자 구조를 만든다는 구상이다.

조 대표는 상장에 대해 묻는 기자의 질문에 “상장은 사업이 잘 풀리면 자연스럽게 따라오는 것이다. 가설이지만 한 3년 뒤면 자신 있게 상장을 이야기할 만큼 준비가 될 것 같다”며 “사실 재작년까지는 비용보다 속도가 중요해서 다들 엔비디아만 찾았지만 작년부터 AI로 돈을 벌어야 하는 시기가 오면서 비용 절감이 절실해졌다. 그 변화의 시점이 우리에겐 기회”라고 설명했다.

인터뷰를 마치며 조 대표는 한국 사회가 ‘반도체 강국’이라는 틀에 갇혀 소프트웨어의 가치를 간과하는 것에 대해 아쉬움을 표했다. 그는 “반도체를 몇천 개 까느냐보다 데이터센터 설계의 중심 기술이 어디에 있느냐가 더 중요하다”며 “3년 뒤 사람들이 데이터센터를 만든다고 했을 때 엔비디아 칩을 사는 것보다 ‘모레 소프트웨어를 먼저 깔아야겠다’는 생각부터 하기를 바라고, 그렇게 될 거라 확신한다”고 했다.

조강원 대표가 내세운 ‘내일보다 더 먼 미래, 모레를 보자’라는 의미의 사명처럼 그는 이미 다음 세대의 인프라 지형도를 그리고 있었다. 전북의 작은 실험실에서 시작된 이 엔비디아프리 실험이 성공한다면 우리는 비싼 통행료를 내지 않고도 AI라는 고속도로를 누빌 수 있는 시대를 맞이하게 될 것이다. 하드웨어의 계급장을 떼고 붙겠다는 그의 호기는 사실 가장 철저한 경제적 계산 끝에 나온 승부사적 결단이었다.