AI 모델 학습비용은 줄였는데, 더 똑똑하게…카카오, 연구 성과 발표

카카오 판교 아지트 포레스트 로비 (카카오 제공) 카카오가 인공지능(AI) 모델을 학습시키는 데 드는 비용을 줄이고, 성능은 높이면서도 모델을 더 가볍게 만드는 기술을 개발했다. 카카오는 8일 국제 언어모델링 학회인 ‘언어 모델링 컨퍼런스 2026(COLM 2026)’에서 이 같은 연구 성과를 발표했다고 밝혔다. AI는 더 정확한 답을 내놓기 위해 학습 과정에서 내부 수치를 조금씩 조정하는데, 이때 조정 폭을 정하는 ‘학습률’이 중요하다. 카카오는 작은 모델에서 찾은 적절한 학습률을 큰 모델에 적용해 전체 학습 비용의 약 1%에 해당하는 비용으로 최적의 학습률을 예측했다. 이 기술은 자체 AI 모델인 ‘카나나 2.6’ 학습에 활용됐다.카카오는 AI 모델의 덩치를 줄이면서 성능을 높이는 기술도 공개했다. 글을 단어보다 작은 ‘바이트’ 단위로 처리해 기억해야 할 정보를 줄이는 방식이다. 이를 통해 모델의 규모를 나타내는 매개변수 수를 최대 40.4% 줄이면서, 성능은 최대 6.6% 높였다. 놓친 뉴스와 그 맥락까지, 종이신문으로 읽어보세요. 동아일보 구독 신청 #카카오#인공지능#AI 모델#학습률#비용 절감#모델 경량화#언어모델링 컨퍼런스 한채연 기자 chaezip@donga.com© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지 트렌드뉴스 1‘17세 연상 미나 남편’ 류필립, 홀로 미국행…“불안정한 미래 때문에” 2빅마마 이혜정, 45세 딸 임신에 눈물…손녀 육아 부탁엔 “자기 자식은 자기가 키워야” 3유승호·임세주, 6년간 연인이었다…소속사 “최근 헤어져” 4[오늘의 운세/10월 8일] 5한가인 “결혼 이틀 전에 안 한다 했다” 고백 6김여정 “정동영이도 지뢰사고를 우리 공격으로 단정 어렵다고 고백” 7안정환, 축의금 얼마했길래…박은영 “볼 때마다 90도 인사” 8최서원 병원비 3927만원, 정부가 대신 내고 못 받았다 9딸과 해외여행 중 쓰러진 50대…뇌사 장기기증으로 3명에 새 삶 10손민수·임라라 결혼식장서 초호화 돌잔치…조혜련·이성미·이홍렬 한자리에 1[단독]美, ‘北해킹 대응’ 한미일 회의서 국정원 뺐다 2李, 밤 12시-새벽 1시20분에도 SNS 글…이틀에 한번꼴 한밤 올려 3김여정 “정동영이도 지뢰사고를 우리 공격으로 단정 어렵다고 고백” 4곽규택 “18명 회식하는데 혼자 6인분”…서영교 발언시간 꼬집어 5“상속·고령 따른 농지 임대차는 노터치”…정...