66666666666666666666666

6666666666666666666666者用八个智能体重写了包括photoshop在内的Adobe七个核心软件。”在华为鲲鹏HPC（高性能计算）首席架构师丁肇辉看来，AI编程拐点已至。我国AI编程Token消耗量大约能排到第三，无论是项目周期的缩短，还是AI代码的占比，这些数据还会持续刷新。

“中国每天平均Token消耗从2024年的1000亿跃升到今年8月的500万亿，背后的主要推动力是AI应用从过去的对话机器人进化成能感知、会规划、能执行任务的数字员工，每次智能体执行任务，背后都要消耗大量算力，直接推动算力需求重心从模型训练转向推理。”联想集团首席科学家肖利民表示，推理已成为AI落地的主场景。

中国信通院今年9月公布的《词元（Token）经济发展研究报告（2026 年）》显示，单集1.5分钟AI短剧的Token消耗量可达500万-1000万。随着AI应用规模化落地，算力结构持续动态优化，推理算力需求快速攀升，预计2026年推理算力占比将达70.5%。

AI竞争将Token关注度推高到白热化阶段，谁掌握了Token的生产、流通和应用入口，谁就占据了AI时代的竞争优势。杨智表示，“未来Token工厂就跟楼房一样，会成为社会运转的基础设施，承载整个社会的智能化。”

加速推理，提升算力利用率

输入电力与算力，输出标准化Token，和传统算力工厂相比，Token工厂的核心效益指标从总算力规模、上架率转向每瓦Token产出效率、单位Token成本与Token服务质量。

“现在智算服务器已经出现了明显的供不应求。需求这么猛，硬件供给又紧张，出路在哪里？”杨智认为，要向软件要效率。推理比拼的是每一个Token的成本、能效、业务延迟，软件优化也能提升性价比。例如DeepSeek创新双路径KV Cache（Key-Value Cache，KV缓存机制）加载机制，让数据读取与GPU计算并行，解决传统架构算力空转问题，在线智能体运行效率提升1.96倍，用纯软件优化实现性能翻倍。“PD（Prefill-Decode）分离、FP4精度下的专家并行，一堆技术堆叠起来，板卡吞吐最高可以提升20倍。效率提高、Token成本降低，使用者和场景就越多，软件提效不会压制需求，只会点燃更大的需求。”

杨智表示，另一个值得关注的趋势是，2026年已经涌现出一批ASIC（应用集成电路）推理芯片的创业团队，“明年一定会更多，他们不追求做万能通用芯片，而是专门针对国内主流大模型做定制化，同等功耗成本下推理性能有机会做到同样GPU芯片的10倍-20倍。”

今年8月，AMD宣布收购AI推理芯片企业Taalas，以应对快速增长的人工智能推理市场。除此之外，去年12月，英伟达向AI推理芯片初创企业Groq投入约200亿美元，和Groq达成“非排他性授权协议”，英伟达获得Groq的芯片技术授权。“全球巨头都在抢夺ASIC推理芯片。因为一旦大模型架构收敛，ASIC的巨大机会就来了，这是万亿级别的蓝海市场。”杨智表示，推理产业正在向两极发展。一极往大走，由云厂商、大模型厂商主导，用超大规模推理集群运行超大参数模型；另一极往小走，端侧行业化小模型、工厂产线甚至终端设备本地运行模型，注重低成本、低功耗、高可靠，数据就近处理，这比拼的是定制化。当需求爆发、软件持续提效、芯片多元、推理两极分化，真正的Token工厂模式时代才会到来。

丁肇辉表示，超节点技术带来的高带宽内存语义已在AI训练和推理上发挥关键作用。此外，CPU正在重回计算的“C位”，从训练时代的CPU和GPU比例1:8、推理时代的1:4，到现在智能体时代预计会达到1:1甚至更高的比66666666666666666666666666666

6666666666666666666666666666666666666666666666

111111111