在米其林三星餐厅潮上潮，一种名为“潮1/2”的用餐模式正受到食客追捧。餐厅在厨房旁设置了一张小餐桌，让食客能第一时间品尝到刚出锅的佳肴，最大程度保留了食物的风味和温度。这种模式与高通近期推出的高带宽计算技术（HBC）有着异曲同工之妙——将计算单元直接置于内存旁边，减少数据传输过程中的损耗，从而提升AI运算效率。
传统观念中，AI运算速度的提升往往与处理器性能直接挂钩。人们期待更快的CPU、更强的GPU或更多TOPS的NPU能带来更流畅的AI体验。然而现实情况是，当AI模型运行时，芯片中的计算单元常常处于等待状态，它们在等待数据从内存中传输过来。这种数据传输的瓶颈，正是制约AI发展的“内存墙”问题。
以生成式AI为例，其推理过程可分为两个阶段：Prefill阶段类似“读题”，需要大量计算来处理输入内容；而Decode阶段则像“答题”，模型每生成一个token都需要反复读取参数和上下文，但实际计算量相对有限。这个过程就如同餐厅用餐，后厨准备了多道菜肴，但传菜员数量有限，导致上菜速度跟不上用餐需求。
为突破“内存墙”限制，业界尝试了多种技术路线。SRAM技术如同板前料理，将存储单元靠近计算单元，但成本高昂且容量有限；HBM技术则像高速传送带，通过复杂的堆叠和封装技术提升带宽，但同样面临成本和供应问题。高通的HBC技术另辟蹊径，采用近内存计算架构，将计算单元直接集成在内存附近，从根本上减少了数据搬运的需求。
这种设计思路与计算机产业传统的发展方向形成鲜明对比。过去，处理器性能不断提升，数据不断向处理器集中；而现在，AI的发展迫使业界重新思考计算架构。当然，HBC并非要取代所有计算单元，对于Prefill等高计算强度任务，仍需要强大的CPU、GPU或NPU支持；而对于矩阵乘法、向量运算等数据搬运成本高的计算，HBC则能发挥显著优势。
随着AI智能体手机的兴起，这种异构分工的计算架构显得尤为重要。未来的AI手机不仅需要运行聊天机器人，更要理解用户情境、跨应用操作、持续推理并采取行动。这要求芯片能够动态调配CPU、GPU、NPU、缓存和内存等资源，以适应不同任务的需求。
高通即将发布的下一代骁龙旗舰平台就体现了这种设计理念。其Oryon CPU主频高达5GHz，号称全球最快的移动CPU；同时引入了FlexCache可扩展缓存架构，允许不同核心共享缓存池，并根据任务动态调整缓存大小。这种设计既提升了单线程性能，又优化了多任务处理效率。
在GPU方面，下一代Adreno GPU新增了矩阵计算核心，专门用于AI计算；同时推出了神经网络融合渲染技术，将神经网络处理、AI超分辨率和AI帧生成统一到图形管线中。为减少数据搬运，高通还在GPU旁设置了18MB独立高速显存，让更多图形和AI数据能够留在GPU内部处理。
NPU的设计同样体现了近内存计算的理念。下一代Hexagon NPU新增了Element Accelerator，专门优化Transformer工作负载；同时扩大了共享内存容量，让模型状态和上下文能够保留在靠近加速器的位置。高通还与模型厂商合作，引入了混合专家模型（MoE）架构，通过动态选择参数来减少实际计算负载和内存带宽需求。
这些技术改进的背后，是高通对AI手机发展趋势的深刻洞察。在AI智能体时代，手机芯片需要同时支持多种专用模型动态协作，处理从语音识别到图像生成的各种任务。这就要求芯片架构能够灵活调配资源，确保每个任务都能在最合适的计算单元上运行。
对于普通用户而言，这些复杂的技术改进最终将转化为更流畅的AI体验。未来的AI手机将能够更准确地理解用户意图，更高效地完成跨应用操作，甚至在用户意识到需求之前就提供贴心服务。而这一切的背后，正是像高通这样的芯片厂商在不断突破技术边界，将“饭桌”搬到“厨房”旁边的创新实践。
