카카오브레인, AI 개발 효율 높이는 트라이던트 공개

AI 모델 학습 및 추론에 필요한 연산 시간 약 25% 단축시킬 수 있어 모델 개발에 유용

▲카카오브레인이 AI 모델의 훈련 및 추론 속도를 향상시키는 성능 라이브러리 ‘트라이던트(Trident)’를 깃허브에 공개했다. (사진제공=카카오브레인)

카카오브레인이 AI 모델의 훈련 및 추론 속도를 향상시키는 성능 라이브러리 ‘트라이던트(Trident)’를 깃허브에 공개했다고 26일 밝혔다.

트라이던트는 오픈AI의 GPU(그래픽 처리장치, Graphic Processing Unit) 프로그래밍 언어인 ‘트리톤(Triton)’을 기반으로 구현한 라이브러리(재사용 가능한 코드의 집합)다. ‘트라이던트’는 AI 모델 개발에 필요한 연산들을 최적화된 커널(Kernel)로 구현하고, 메타가 개발한 머신러닝 프레임워크 ‘파이토치(PyTorch)’와 같은 사용 방법을 제공한다.

AI 개발자는 복잡하고 어려운 GPU 커널 최적화 과정을 거치지 않고 트라이던트를 활용해 모델 학습 및 추론에 필요한 연산 시간을 기존 작업 대비 약 25% 단축할 수 있어 AI 연구 개발을 보다 효율적으로 할 수 있다.

카카오브레인은 AI 개발자의 작업 효율을 높여주는 트라이던트를 공개함으로써 AI 연구 과정에서의 기술적 장벽을 낮추고, 모든 개발자들이 AI의 무한한 가능성을 탐구할 수 있도록 지원하고자 이번 라이브러리 공개를 결정했다.

특히, 연산 속도를 가속화하면서 동일한 추론 결과를 도출하는 성능 라이브러리 개발은 소프트웨어와 하드웨어에 대한 폭넓은 지식과 노하우를 가진 AI 전문가만이 가능하다. 따라서 이번 라이브러리 공개는 카카오브레인이 보유한 AI 전문가들의 역량을 새롭게 증명한 것이라 볼 수 있다.

카카오브레인은 앞으로 개발자가 자주 사용하는 연산 중심으로 한층 업그레이드된 ‘트라이던트’ 라이브러리를 구현하고, 사용 빈도가 높은 연산 조합을 하나의 커널로 만들어 공개하는 등 회사가 추구하는 핵심 기업 가치 ‘공유와 협력’을 실현해 나갈 계획이다.

카카오브레인 김일두 각자 대표는 “다수의 AI개발자들이 거대 AI 모델을 쉽게 개발할 수 있도록 지원하고자 성능 라이브러리 ‘트라이던트’ 공개를 결정했다”며 “대규모 언어 모델, 이미지 생성 모델 등의 기초 연구뿐만 아니라 주요 기술 공개와 같은 AI 생태계 발전에 기여하는 활동을 꾸준히 이어나갈 것”이라고 말했다.