汤姆猫携手光羽芯辰 布局端侧AI万亿市场
中证报中证网讯(记者 刘杨)汤姆猫公司3月24日宣布,与光羽芯辰近日达成合作意向,双方将结合各自的技术优势和专业能力,共同开发高性能、低功耗且适用于多种场景的AI端侧大语言模型软件和硬件应用。同时,双方已对初步的分工和阶段性目标进行规划,双方计划在低延时、隐私保护、存算一体化等领域进行深入的技术探索,以增强双方未来在AI智能应用市场的竞争力。
端侧AI,即终端侧人工智能,指的是在终端设备(如智能手机、智能手表、车载终端等)上直接运行人工智能算法和模型,而不需要将数据全部上传到云端进行处理的技术模式。
业内预计,2024-2030年全球端侧AI芯片市场规模将从180亿美元裂变为850亿美元,年均复合增长率达24.8%;2028年中国端侧AI市场规模将达到19071亿元人民币,年均复合增长率达58%。
2024年12月,汤姆猫推出了其首款AI智能硬件产品——汤姆猫AI情感陪伴机器人。该产品采用前沿性的MoE(混合专家模型)架构,在其自研的“技术中间层”上实现了“汤姆猫情感陪伴垂直模型”,与豆包、DeepSeek等模型协同工作,是市面上率先推出的具备使用场景的AI硬件产品。
据介绍,该产品定位于家庭陪伴场景,不仅能双向聊天交互,还能够在聊天中精准感知用户情绪,共情用户的喜怒哀乐,此外还拥有长期记忆功能,可记录家庭用户偏好与对话历史,并通过AI的自学习算法,提供个性化的、千人千面的交互。
汤姆猫表示,此次与光羽芯辰的合作,旨在利用其在端侧大模型芯片上的研发优势,开发低延时、高性能且适配多场景应用的专属AI端侧大模型软硬件,为未来“会聊天的汤姆猫”系列矩阵产品部署端侧AI解决方案。
据介绍,光羽芯辰是由兆易创新及腾讯投资的燧原科技等合资设立,该公司以其创新性3D堆叠架构结合PIM技术,大幅提升了存储带宽和计算效率,有效缓解了传统端侧设备在运行大模型时面临的存储瓶颈与计算效率低下难题,为AI模型走向端侧开辟了新路径。
汤姆猫相关负责人称,端侧AI模型芯片有望实现1秒以内的端对端响应,将极大地提升AI智能产品的用户体验。同时,AI智能硬件的多场景应用也将有望提速。