个人 AI 缺的从来不是算力,IDC 与高通划出三道产业分水岭
当数十 TOPS 算力已成终端标配,真正的「个人 AI」为何仍未落地?一份由 IDC 独立研究、高通委托发布的白皮书给出诊断:算力只是入场券,低功耗持续感知、内存带宽墙,以及跨设备记忆流转的生态割裂,才是横在前面的真正三道坎。
当数十 TOPS 算力已成终端标配,真正的「个人 AI」为何仍未落地?一份由 IDC 独立研究、高通委托发布的白皮书给出诊断:算力只是入场券,低功耗持续感知、内存带宽墙,以及跨设备记忆流转的生态割裂,才是横在前面的真正三道坎。
IDC 在白皮书中将当前的产业变化称为「AI 超级大周期」。IDC 中国副总裁王吉平指出,传统终端市场承压的同时,智能眼镜、Mini PC、录音卡等新型终端正在逆势增长。
更关键的是终端增长逻辑的改变。过去是在手机、PC 上增加图片处理、文档总结等单点功能;未来则要以智能体为核心,围绕同一个用户调度不同终端和算力。
在既有设备上增加单点 AI 功能,设备是中心,AI 只是附属于硬件的能力插件。
以智能体为核心运行载体,围绕同一个用户展开运行,跨终端分布式调度算力与服务。
个人 AI 与通用 AI 的核心差异,在于「上下文」。完整的智能体体验包含四个部分,其中前两项云端最难独立完成:
云端可以拥有比终端更大的模型,却无法天然获得最实时、最连续的个人信息。完全依赖云端的 AI 可以成为强大的通用工具,但很难形成对某一个人的长期理解。
端侧 AI 因此绝不是云端 AI 的缩小版。云端面对大量用户的复杂计算任务,端侧主要服务于单个用户,负责实时感知、个人记忆与隐私数据。二者根据任务、成本、时延和隐私要求动态分工。
个人智能体大部分时间处于感知状态,推理次之,执行复杂任务更少。它需要长期在线,却不能让摄像头、麦克风和模型持续唤醒 CPU 与系统内存。骁龙移动平台的传感器中枢专注于个位数毫安级超低能耗,由 Micro NPU、始终感知 ISP 与 DSP 承担低功耗感知,大算力 NPU 仅在需要时唤醒。
端侧最先撞上的是内存与续航限制,非性能限制。模型参数、个人记忆和上下文都要占用内存;解码阶段需反复读取权重,内存带宽直接决定词元生成速度。高通正探索 3D 内存堆叠,仅从 LPDDR5X 升级至 LPDDR6,理论内存带宽即可提升约 50%。云端的 PD 分离(预填充与解码分离)资源调度法,在端侧也无法原样照搬。
跨设备协同本质上不是技术问题,而是产业协同问题。通信产业有 3GPP 统一标准,AI 产业却仍处于探索阶段,跨品牌、跨操作系统和跨模型的协同规则尚未形成。国内市场背后是复杂的利益链:谁拥有用户的长期记忆?用户换手机品牌后,智能体还能认识他吗?这些问题比连接协议更难回答。
本文核心事实与数据引自一份由芯片厂商高通委托、IDC 独立研究的白皮书,并在活动中由高通技术专家出面解读。读者需知:白皮书在「端侧重要性」「跨终端架构」等方向性判断上具有产业共识,但涉及「高通已是个人 AI 底层计算平台领导者之一」「跨终端覆盖是高通关键优势」等结论时,带有明确的企业立场与商业诉求,属单方披露,目前未见第三方独立复测验证。
个人 AI 的终局若是一套围绕用户运行的分布式系统,竞争维度必将从单一 NPU 峰值算力,转向计算、感知、连接与跨终端部署的综合能力。同时,「有温度」的另一面是高频调用摄像头、麦克风与位置数据,全时感知既是核心价值,也是产业必须跨过的信任门槛。
个人 AI 之争已脱离单芯片算力比拼,演变为计算平台与终端生态的横向整合战;而在隐私与记忆归属权上率先建立规则者,将决定智能体最终是归属于厂商,还是归属于用户。
白皮书《从 AI 设备到个人 AI:智能体驱动的终端进化与产业重构》已公开发布,可通过高通官方渠道获取完整版。
访问高通官网 → 查阅白皮书