카카오, ‘카나나-2’ 4종 개방… 폰으로 구동 가능한 경량 AI

카카오 제공. 카카오는 28일 스마트폰과 개인용컴퓨터(PC) 등 기기에서 직접 구동할 수 있는 경량 언어모델(SLM) ‘카나나-2’ 시리즈 4종을 오픈소스로 공개했다. 공개 모델은 매개변수 300억 개 규모의 기존 ‘카나나’를 경량화한 버전이다. 매개변수 수에 따라 ‘카나나 2-1.3B(13억)’와 ‘카나나 2-3B(30억)’로 나뉘며, 각 모델은 일반형(베이스)과 사용자 지시를 따르도록 학습한 인스트럭트형으로 제공된다. 카카오는 메모리 용량이 제한된 스마트폰에서도 구동할 수 있도록 경량화했지만 글로벌 수준의 성능을 구현했다고 강조한다. 자체 개발한 한국어 특화 토크나이저(단어 분리 기술)를 적용해 연산 속도를 높이고 텍스트 처리 효율을 기존보다 30% 이상 개선했다는 것. 이에 따라 약 2만4000단어에 이르는 장문 대화에서도 기존 방식보다 메모리 사용량을 최대 72.7% 줄일 수 있었다고 카카오는 설명했다. 카카오는 상업적 이용도 허용해 누구나 모델을 무료로 활용할 수 있도록 했다. 거대언어모델(LLM) 운용 비용 부담을 낮춰 스타트업과 연구기관의 AI 서비스 개발을 지원하겠다는 취지다. 노병석 카카오 유니파이드 파운데이션 모델 성과리더는 “이번 오픈소스 공개가 다양한 기업의 AI 서비스 개발과 생태계 활성화로 이어지기를 기대한다”고 말했다. 김재형 기자 monami@donga.com© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지 좋아요 0개 슬퍼요 0개 화나요 0개 지금 뜨는 뉴스