高通把计算单元搬到内存旁边能解决 AI 手机的卡顿吗

很多人觉得 AI 回答慢是因为 NPU 算力不够，但实际上大模型在手机上跑的时候，芯片经常在等数据从内存传过来，这就是典型的内存墙问题。高通这次推的高带宽计算技术（HBC）其实就是一种近内存计算架构，简单说就是把计算单元直接挪到内存旁边，减少搬运数据的损耗，从而降低功耗并提升速度。

这种异构分工很明确：Prefill（预填充）这种高强度计算任务还是交给强大的计算单元，而像矩阵乘、向量运算、Embedding 查询以及部分 Attention / KV Cache 这种数据搬运成本极高的操作，就交给 HBC 处理。

为了让 AI 智能体（Agent）在手机上流畅运行，下一代骁龙旗舰在硬件布局上做了不少调整，核心逻辑依然是让数据传输路径尽可能短。

首先是 CPU 部分，Qualcomm Oryon CPU 的最高主频达到了 5GHz，是目前全球最快的移动 CPU。但更关键的是配套的 Qualcomm Oryon FlexCache 可扩展缓存架构，它允许不同核心共享缓存池并动态分配空间。因为 AI 智能体的工作模式是在不同工具和模型之间频繁切换，FlexCache 能让数据留在缓存里，不用每次都回系统内存跑一趟。

GPU 侧的变动也很大，下一代 Adreno GPU 内部直接集成了 Adreno Matrix Cores（矩阵计算核心），专门跑 AI 和矩阵运算。配合 Adreno Neural Fusion 神经网络融合渲染技术，它可以把 AI 帧生成和超分辨率统一到图形管线里。为了防止数据在 GPU 和 NPU 之间来回穿梭导致效率下降，高通在 GPU 旁边加了一块 18MB 的 Adreno 独立高速显存 HPM，专门存放纹理、颜色缓冲等中间结果。

至于 Hexagon NPU，这次新增了专门针对 Transformer 工作负载设计的 Element Accelerator。为了解决长对话导致 KV-cache 增加而引起的速度掉档，新一代 Hexagon NPU 的大容量共享内存最高扩容了 50%，大幅减少了访问 DDR 内存的次数。

此外，高通还在终端侧 AI 架构中引入了混合专家模型（MoE）。在这种架构下，即便是一个 30B 的 MoE 模型，在 NPU 上生成词元时也仅需激活约 30 亿个被路由选中的参数，有效降低了内存带宽压力和实际计算负载。

从 5GHz 的主频到 18MB 的独立显存，再到扩容 50% 的 NPU 共享内存，高通这次的思路很统一：既然不能瞬间把内存带宽提升到无限大，那就想办法让计算单元离数据近一点。