5000만 카톡에 AI 심는다…추론비용 90% 낮춰 ‘저비용·고효율 전략’[쪼개진 카카오, ‘두 엔진’ 시험대]

▲AI 국민비서 추진전략 발표하는 정신아 대표. (연합뉴스)

카카오가 인적분할을 통해 신설한 ‘카카오AI’는 카카오톡, AI, 광고, 커머스를 맡는다. 단순히 AI 사업만 분리한 것이 아니라 약 5000만 이용자를 확보한 카카오톡과 수익원을 한 회사에 묶은 것이 특징이다. 카카오AI는 분할 시점 약 2조3000억원의 현금을 보유하고 출발한다.

정신아 카카오AI 대표 내정자는 21일 진행한 기자설명회에서 “2030년에는 2000만명 이상의 이용자가 매일 AI를 사용하는 것을 목표로 한다”며 “에이전트와의 관계와 이용 경험이 확장되면서 카카오톡 체류 시간 역시 현재 대비 50% 이상 증가할 것으로 예상된다”고 말했다.

카카오AI는 AI 시대에 맞게 카카오톡을 이용자 각자의 의도와 맥락을 가장 잘 이해하는 ‘에이전틱 AI 인터페이스’로 진화시킨다는 구상이다. 이용자가 원하는 것을 메시지로 전달하면 일종의 ‘AI 비서’가 필요한 서비스와 전문 AI 에이전트를 연결해 탐색, 추천, 구매, 결제까지 행동으로 이어준다.

AI 사용이 늘어날수록 더 많은 이용자의 경험과 맥락 데이터가 축적된다. 이는 이용자의 AI 경험 품질을 높이는 차별화된 자산이다. 최병호 고려대 휴먼인스파이어드 AI연구원 연구교수는 “AI 품질을 좌우하는 것이 데이터인데 카카오는 이미 국가 단위의 독점 데이터를 가지고 있는 기업”이라며 “카카오톡을 열고 닫을 때까지의 데이터가 확보되면 이용자가 하루 동안 돈을 어디에 쓰는지를 알 수 있다”고 말했다. 이어 “대화 위주의 카카오톡을 멀티모달과 AI 에이전트 중심으로 바꾸면 다양한 광고·커머스와도 연결 가능하다”고 덧붙였다.

카카오AI는 AI 광고와 에이전틱 커머스, 구독 등 새로운 수익모델도 확대해 2030년까지 연평균 20% 수준의 매출 성장을 이끌고 매출 6조원 이상을 달성한다는 목표를 내세웠다. AI 매출은 2028년 기준 카카오AI 전체 매출의 두 자릿수 비중으로 확대하고 2030년에는 1조원을 넘어설 것으로 기대된다.

관건은 비용이다. 수천만명이 일상적으로 AI 에이전트를 사용하면 서버에서 AI를 구동하는 데 드는 비용도 커질 수밖에 없다. 카카오는 온디바이스 우선의 AI 아키텍처로 해결한다는 방침이다. 이용자 요청의 절반은 자체 경량 모델인 ‘카나나 나노’를 통해 기기 안에서 바로 처리하고 복잡한 요청은 서버 AI 모델과 전문 에이전트를 활용한다.

카카오는 이용자 요청의 복잡도와 난이도를 판단해 최적의 AI 모델을 선택하고 연결하는 오케스트레이션 기술인 ‘AI 컨덕터’를 개발하고 있다. 온디바이스 우선 처리와 모델 연결 기술을 활용해 AI 성능을 유지하면서 서버 추론 비용을 최대 90%까지 절감하는 저비용·고효율 구조를 구축한다는 계획이다.

카카오는 올해 기준 연간 약 7000억원의 상각 전 영업이익(EBITDA) 창출력을 기반으로 AI 사업에 지속적인 투자가 가능하다고 설명했다. 다만 추론 효율성을 극대화하더라도 AI 서비스를 대규모로 확장하려면 외부 투자가 뒤따라야 한다는 지적이 나온다. 최 교수는 “카카오는 인프라가 취약하기 때문에 경량화 모델 전략으로 가는 것”이라며 “카카오톡을 AI 중심으로 전면 재편하려면 결국은 대규모 투자를 끌어올 수밖에 없다”고 설명했다.

카카오AI를 별도 법인으로 떼어낸 것도 향후 투자 유치에 유리하게 작용할 수 있다. 이성엽 고려대 기술경영전문대학원 교수도 “AI 사업은 별도의 거버넌스와 대규모 투자가 필요하다”며 “신설법인을 세우면 투자를 받는 데 유리한 측면이 있다는 점을 고려했을 것”이라고 말했다.