개방형 AI 모델 채택 러시⋯실리콘밸리 넘어 美 산업계까지 파고든다

AI 비용 폭증 영향에 대응 활발

▲연합뉴스

치솟는 AI 비용에 부담을 느낀 미국 기업들이 오픈AI와 앤스로픽의 고가 모델 대신 저렴한 ‘개방형 AI’ 모델로 눈을 돌리고 있다. 사용자가 맞춤 설정하고 자신의 하드웨어에서 실행할 수 있는 소위 개방형 AI 모델은 오픈AI의 챗GPT 또는 앤스로픽의 클로드에 비용을 지불하는 것보다 훨씬 저렴하게 운용할 수 있는 것이 강점이다. 특히 이러한 움직임이 실리콘밸리를 넘어 산업 전반에서에서 확산하고 있어 주목된다.

27일(현지시간) 파이낸셜타임스(FT)가 인용한 리서치 플랫폼 알파센스에 따르면 기업 실적 발표와 투자자 콘퍼런스에서 경영진이 ‘오픈 웨이트’(open-weight) 또는 ‘오픈 소스’(open-source) 모델을 이른바 개방형 AI 모델을 언급한 횟수는 올해 8~9월 전년 동기 대비 6배로 급증했다.

특히나 이러한 움직임은 이러한 움직임은 기술기업에서 가장 두드러지지만 업종 전반으로 퍼지고 있다. PNC파이낸셜서비스, 물류기업 CH로빈슨, 산업 대기업 지멘스 등도 최근 몇 주 동안 오픈 웨이트 모델 활용에 대해 언급했다.

개방형 AI 모델 시장은 중국 기업들이 주도하고 있다. 단 프랑스의 미스트랄과 미국의 엔비디아ㆍ 리플렉션AIㆍ싱킹머신스랩도 이와 유사하게 개방적인 조건으로 성능이 뛰어난 AI 모델을 개발하고 있다.

투자자들은 기업 고객들이 AI 지출을 최첨단 ‘프런티어 모델’과 개방형 경쟁 모델 사이에서 어떻게 배분하고 있는지를 면밀히 주시하고 있다. 올해 들어 이러한 저가 AI 시스템의 성능이 빠르게 개선되면서 앤스로픽과 오픈AI의 매출 성장에 위협이 될 수 있다. 앤스로픽은 기업가치가 2조달러 이상으로 평가될 것으로 예상되는 기업공개(IPO)를 준비하고 있다. 자체 IPO를 내년으로 연기한 오픈AI는 기업가치 1조2000억 달러를 기준으로 한 비공개 자금조달을 위해 초기 협상을 진행하고 있다.

현재로서는 두 개의 최첨단 AI 연구소가 AI 관련 지출의 대부분을 차지하고 있으며, 이들의 엄청난 컴퓨팅 파워 수요는 미국 경제를 지탱하는 데이터 센터 건설 붐의 기반이 돼왔다.

그러나 실제 AI 사용량에서는 변화의 조짐이 뚜렷하다. 여러 AI 모델을 연결해주는 플랫폼인 버셀과 오픈라우터의 이용 데이터를 보면 개방형 AI 모델의 사용 비중이 빠르게 늘고 있다. 8월 버셀의 AI 게이트웨이를 통해 처리된 전체 토큰 가운데 개방형 AI 모델이 차지하는 비중은 56%에 달했다. 지난해 12월 7%에서 크게 상승한 것이다. 오픈라우터에서도 비슷한 양상이 나타났다. 같은 기간 처리된 토큰 수를 기준으로 상위 10개 모델 가운데 중국 AI 연구소의 개방향 AI 모델들이 두각을 나타냈다.

매치그룹이 소유한 데이팅 앱 틴더의 비네이 쿠루빌라 최고기술책임자(CTO)는 AI 비용 증가를 통제하기 위해 일부 비기술직 사용자의 질의를 개방형 AI 모델로 처리하기 시작했다고 밝혔다.

그는 “1월에는 연간 100만달러를 쓰는 속도였는데 7월에는 1000만달러로 늘었다”며 “또다시 10배 증가하는 것은 원하지 않는다”고 말했다. 이어 “오픈AI의 아스트라나 클로드 페이블 같은 프런티어 모델은 우리가 수행하려는 업무의 90%를 처리하기에 이미 충분한 지능을 갖추고 있다”며 “개방형 AI 모델이 이들을 따라잡는다면 더 이상 프런티어 모델을 사용할 필요가 없을 수도 있다”고 언급했다.

실제 개방형 AI 모델은 앤스로픽과 오픈AI가 판매하는 폐쇄형 시스템에 필적하는 결과물을 내놓는 경우가 많다. 가장 큰 차이는 AI 모델이 질의에 어떻게 응답할지를 결정하는 핵심 매개변수인 ‘가중치’가 공개된다는 점이다.

이에 따라 기업들은 모델을 직접 내려받아 자체 서버에서 구동하고 미세조정할 수 있어 AI 개발사에 토큰당 사용료를 지불하지 않아도 된다. 개방형 AI 모델 제공업체로부터 직접 토큰을 구매해 이용하는 방법도 있는데, 통상 오픈AI와 앤스로픽보다 훨씬 저렴하다. 중국의 대표적인 개방형 AI 기업인 딥시크와 즈푸AI 등은 이러한 방식으로 수익을 창출하고 있다.

개방형 AI 모델로의 전환은 실리콘밸리를 넘어 미국의 전통산업으로도 확산하고 있다. 통신기업 AT&T의 최고데이터·AI책임자 앤디 마커스에 따르면 현재 AT&T는 AI 워크로드의 약 40%를 오픈 AI 모델로 처리하고 있으며, 1년 안에 이 비중을 70%까지 끌어올리는 것을 목표로 하고 있다.

마커스는 “우리는 하루 450억 개의 토큰을 처리하고 있다”며 “이 정도 규모가 되면 비용이 대단히 중요해진다”고 말했다. 이어 “정확도를 유지하면서 매우 비싼 폐쇄형 모델에서 훨씬 적은 비용으로 서비스할 수 있는 개방형 AI 모델로 트래픽을 옮길 수 있다면 그렇게 할 것”이라고 설명했다.

마커스는 또 “AT&T는 개방형 AI 모델에 자사의 독점 데이터를 활용해 미세조정함으로써 특정 업무에서는 폐쇄형 모델과 동등하거나 더 뛰어난 성능을 내도록 했다”면서 “개방형 AI 모델이 갈수록 좋아지고 있음에 따라 우리가 선택할 수 있는 옵션이 더 많아지고 있다”고 전했다.

기업들이 오픈 모델에 주목하는 이유는 비용뿐만이 아니다. 데이터센터 운영업체 디지털리얼티의 스콧 월리스 글로벌 솔루션 아키텍처 담당 수석이사는 자사가 민간 인프라에 개방형 AI 모델을 채택하게 된 데는 데이터 주권과 보안 역시 비용만큼 중요한 요인이라고 설명했다. 그는 “이 비공개 모델에는 프런티어 모델에는 넣지 않을 독점 데이터를 입력한다”며 “고객 데이터는 절대로, 절대로, 절대로 프런티어 모델에 넣지 않는다”고 언급했다.