마음AI의 주가가 주식시장에서 강세를 보이고 있다. 퀄컴과의 협업을 통해 QCS6490 프로세서에 STT, LLM(라마 v3.2 1B), TTS 를 탑재하는데 성공했다는 소식이 전해지면서다.
17일 주식시장과 마음AI에 따르면 임바디드 AI(EAI,Embodied AI) 선도 기업인 마음AI가 오는 CES 2025에서 퀄컴 테크놀로지스(Qualcomm Technologies, 이하 퀄컴)와의 온디바이스 AI 협력 성과를 공개한다. 마음AI는 내년 1월7일부터 10일까지 열리는 CES 전시회에 단독 부스로 참여하며, 메인 전시로 거대언어모델(LLM) 기반 음성 대화 제품인 '수다(SUDA)'를 내세운다.
'수다'는 퀄컴 QCS6490 프로세서(Qualcomm® QCS6490 processor) 기반의 퀄컴 RB3 2세대 플랫폼(Qualcomm® RB3 Gen 2 platform)을 탑재해 음성 대화를 위한 음성인식(STT), LLM, 문자인식(TTS)을 지원하며 인터넷 연결 없이 디바이스 상에서 음성 대화가 가능하게 만든 것이 특징이다.
퀄컴의 QCS6490 프로세서는 스마트홈, 운송, 창고 관리, POS 키오스크, 커넥티드 헬스케어, 물류 관리 등 산업용 사물인터넷(IoT) 애플리케이션에 최적화된 플랫폼이다. 향후 무궁무진한 활용 가능성을 기대할 수 있다.
마음AI는 이번 퀄컴과의 협업을 통해 QCS6490 프로세서에 STT, LLM(라마 v3.2 1B), TTS 를 탑재하는데 성공했다. QCS6490 프로세서는 마음AI가 온디바이스 LLM을 통해 원활한 음성 상호작용 서비스를 구현할 수 있게 하며, 온디바이스 비전 AI를 포함한 다른 애플리케이션을 실행할 수 있는 능력을 확보한다.
마음AI는 LLM 추론 속도를 최대한 끌어올린 결과, 온디바이스 상에서 총 처리 지연시간(Total Latency)을 1.5 초 이내로 단축하는 데 성공했다. 일반적인 AI 스피커나 가전제품에 탑재된 음성 대화 모듈들에 비해 사용자 경험을 향상시킬 수 있다.
CES현장에서는 RB3 2세대 플랫폼이 탑재된 온디바이스 AI '수다'를 기반으로 홈 IoT를 제어하는 시연을 공개한다. 예를 들어 "너무 눈부신데"라고 말하면, LLM이 사용자의 의도를 파악하고 블라인드를 내리도록 명령을 내리는 것이다.
이렇게 홈 IoT 환경에서 여러 센서나 가전제품 등을 제어하는 에이전트(Agent) 기능을 구현하기 위해 마음AI는 LLM에 함수호출(Function call) 기능을 구현했다. 이를 통해 사용자는 응용프로그래밍인터페이스(API)로 호출 가능한 모든 센서와 가전제품 등 홈 IoT 제품들을 자연어로 쉽게 제어할 수 있다.
최홍섭 마음AI 기술총괄 대표는 "퀄컴의 RB3 2세대 플랫폼에 당사의 기술을 탑재할 수 있는 협업 기회를 얻게 돼 기쁘다"며 "QCS6490 프로세서에 LLM을 탑재하려는 수요가 많은 것으로 알고 있다, 앞으로도 퀄컴과 긴밀한 협력을 통해 온디바이스 AI 시장을 선도할 수 있을 것이라 기대한다"고 전했다.
이러한 소식이 전해지며 마음AI에 투자자들의 매수심리가 강하게 작용하는 것으로 풀이된다.
