카카오, 개인화 AI 핵심 기술 오픈소스로 공개

▲이미지 (사진제공=카카오)

카카오가 이용자의 질문과 과거 대화의 맥락을 연결하는 AI 기술을 오픈소스로 공개했다. 정확한 단어를 입력하지 않아도 질문의 의미를 파악해 관련 정보를 찾아주는 기술로, 개인화 AI 에이전트 개발에 활용될 전망이다.

카카오는 개인화 AI 에이전트의 기반 기술인 임베딩 모델 'Kanana-2-embedding' 2종을 글로벌 AI 플랫폼 허깅페이스에 공개했다고 29일 밝혔다.

이번에 공개한 모델은 30억개 파라미터 규모의 'Kanana-2-3b-embedding'과 13억개 규모의 'Kanana-2-1.3b-embedding'이다. 7월 카나나 소형 언어모델(SLM) 4종을 공개한 데 이은 추가 오픈소스 모델이다.

임베딩은 텍스트의 의미를 수치로 변환해 관련 정보를 검색하는 기술이다. 일반 언어모델이 질문에 대한 답변을 생성한다면 임베딩 모델은 답변에 필요한 정보를 찾아주는 역할을 한다. 이용자가 정확한 단어나 명칭을 기억하지 못해도 유사한 의미의 정보를 검색할 수 있다.

가령 이용자가 "전에 이야기했던 조용한 식당"을 찾아달라고 요청하면 식당 이름을 입력하지 않아도 과거 대화에서 언급한 '대화하기 좋은 곳'과 관련된 정보를 찾아낼 수 있다. 흩어진 정보를 연결해 이용자의 상황과 맥락에 맞는 답변을 제공하는 방식이다.

카카오에 따르면 이번 모델 2종은 비슷한 규모의 공개 임베딩 모델인 'llama-nemotron-embed-1b-v2', 'Qwen3-Embedding-4B'와 비교 평가에서 가장 높은 한국어 성능을 기록했다. 영어 성능은 유사한 수준을 보였으며 Qwen3-Embedding보다 높은 추론 효율을 나타냈다.

기존 카나나 임베딩 모델과 비교해서도 검색 성능을 개선했다. 메모리 사용량과 추론 속도에서는 수십 배 이상의 효율성 향상을 확인했다고 회사 측은 설명했다.

카카오는 자체 소형 언어모델 'Kanana-2-SLM'을 정보 검색에 활용하도록 추가 학습해 30억개 파라미터 모델을 개발했다. 이후 대형 모델의 학습 지식을 작은 모델에 전달하는 '지식 증류' 기법을 활용해 13억개 규모의 경량 모델을 구축했다.

서비스 환경에 따라 검색 성능과 처리 속도를 조절할 수 있는 기술도 적용했다. 임베딩 벡터의 크기를 조절하는 'MRL' 기법을 통해 개발자가 저장 공간과 처리 비용 등을 고려해 모델을 활용할 수 있도록 했다.

두 모델에는 일정 조건에 따라 상업적으로도 활용할 수 있는 '카나나 오픈 라이선스'를 적용했다. 국내외 기업과 연구자는 공개된 모델을 개인화 AI 에이전트와 의미 기반 검색 서비스 개발에 활용할 수 있다.

카카오는 향후 더 큰 언어모델을 기반으로 임베딩 학습과 지식 증류 연구를 확대할 계획이다. 검색 정확도를 높이는 동시에 실제 서비스 운영에 필요한 효율성도 개선한다는 방침이다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "AI 에이전트가 이용자에게 필요한 도움을 제공하려면 질문에 답하는 능력과 함께 흩어진 정보 속에서 필요한 정보를 정확히 찾아내는 기술이 중요하다"며 "한국어에 강점을 가진 임베딩 기술을 다양한 서비스에 활용할 수 있도록 지원하겠다"고 말했다.