마음AI·퀄컴, 'CES 2025'서 온디바이스AI 협업 성과 공개

마음 AI가 CES 2025 에서 퀄컴과의 온디바이스 인공지능(AI) 협력 성과를 공개한다고 17일 밝혔다.

마음 AI는 이번 전시회(1 월 7 일~10일)에 단독 부스로 참여한다. 메인 전시로 LLM 기반 음성 대화 제품인 'SUDA'를 내세운다. 'SUDA'는 퀄컴 QCS6490 프로세서 기반의 퀄컴 RB3 2세대 플랫폼을 탑재해 음성 대화를 위한 STT, LLM, TTS 를 지원한다. 인터넷 연결 없이 디바이스 상에서 음성 대화가 가능하게 만든 것이 특징이다.

퀄컴의 QCS6490 프로세서는 스마트홈 , 운송, 창고 관리, POS 키오스크, 커넥티드 헬스케어, 물류 관리 등 산업용 IoT 애플리케이션에 최적화된 플랫폼이다. 마음 AI 는 이번 퀄컴과의 협업을 통해 QCS6490 프로세서에 STT, LLM(Llama v3.2 1B), TTS 를 탑재하는데 성공했다.

마음 AI는 LLM 추론 속도를 최대한 끌어올려 온디바이스 상에서 총 처리 지연시간을 1.5 초 이내로 단축하는 데 성공했다. 일반적인 AI 스피커나, 가전제품에 탑재된 음성 대화 모듈들에
비해 사용자 경험을 향상시킬 수 있다.

CES 현장에서는 RB3 2세대 플랫폼이 탑재된 온디바이스 AI 'SUDA'를 기반으로 홈 IoT 를 제어하는 시연을 공개한다. "너무 눈부시다"고 말하면, LLM 이 사용자의 의도를 파악하고
블라인드를 내리도록 명령을 내리는 방식이다.

최홍섭 마음AI 기술총괄 대표는 “퀄컴의 R B 3 2 세 대 플랫폼에 당사의 기술을 탑재할 수
있는 협업 기회를 얻게 되어 기쁘다"며 "앞으로도 퀄컴과 긴밀한 협력을 통해 온디바이스 AI 시장을 선도할 수 있을 것이라 기대한다”라고 말했다.

원종환 기자 won0403@hankyung.com