高通新一代骁龙旗舰芯片NPU曝光 面向Agentic AI设计

Antutu

阅读

距离骁龙峰会还有不到两周,高通先放出了新一代旗舰芯片的NPU细节,特别是其中Hexagon NPU的改进,称其正是面向代理式 AI(Agentic AI)设计。

高通称,新一代NPU的核心是一个为transformer架构定制的Element Accelerator,配合标量、向量和矩阵扩展,加速大模型最依赖的那类运算,能让智能体响应更快、推理更高效,同时不牺牲手机的功耗表现。与之配套的共享内存增大了50%,把高频访问的模型数据留在NPU附近,让智能体在同时处理更长上下文、更多工具和并发任务时仍保持响应速度。

图片

在具体指标上,新NPU对INT4模型的prefill速度最高提升50%,并对混合专家模型(MoE)格外友好,每个token只激活一部分参数,是当前大模型为了控制成本而普遍采用的结构。高通将新Hexagon NPU的定位概括为常驻运行的 AI、长上下文推理、多模态模型、并发智能体以及低延迟动作循环。

图片

此前,高通已宣布将于9月22日在骁龙峰会上正式发布两款新一代骁龙旗舰芯片。

原创文章,作者:HyperZ-Ton,如若转载,请注明出处:http://www.antutu.com/doc/137798.htm

相关推荐

登录后才能评论

评论列表 ( )

返回
顶部