量子位· 量子位的朋友们·· 3 小时前AI 评分32
高通进博会展示端侧MoE智能体:终端侧AI从单点应用走向智能体体验
终端侧AI:从单点应用走向智能体体验
AI 导读
高通在第九届进博会联合阶跃星辰、Infris AI、江波龙展出端侧MoE智能体演示,可完成意图理解、任务编排、实时操作目标App等系统级任务。该方案从模型、推理、存储到芯片平台协同优化,通过提前预测并预取专家模块缓解DDR带宽瓶颈。目前端侧主流仅能运行20亿至30亿参数模型,MoE被视为在内存与功耗受限条件下提升端侧智能水平的技术路径。
来源:量子位 · qbitai.com