“GPU三十年的仗，TPU十年就想打完？

2026年，中国AI产业最焦虑的事情，可能不是模型能力不够——智谱5.2、DeepSeek V4、MiniMAX轮番上场，模型越来越强。

真正的焦虑是：算力快用不起了。

一个AI智能体处理一次用户请求，输入的上下文Token量，可能是输出Token的上万倍。你只问了一句“帮我总结这份财报”，后台打包发送的却是几十万字的完整对话历史。

有开发者私下吐槽：“本来指望AI帮我省钱，结果用AI本身变成了一笔大开支。”

更严峻的是，当AI产业从“算力时租”转向“词元计价”，算力成本不再是边际递减，而是开始指数膨胀。

当算力成本开始反噬AI商业化，芯片行业给出了一套截然不同的解题思路——

通用GPU继续堆核、堆频率、堆制程；而一群“TPU信徒”则在讲另一个故事：专用芯片，才是算力的终极解药。

2026年6月30日，国内最早押注TPU路线的中昊芯英，正式发布了第二代全自研TPU芯片“须臾”和泰则2.0智算平台。896TFLOPS单卡算力、7.168PFLOPS单机算力性能、百万Token成本腰斩……

这些数字背后，是一场关于AI算力底层逻辑的博弈。

算力“通胀”

AI商业化的真实成本有多高？

2023年大模型元年，行业还在比拼“谁能训出更大的模型”。到了2026年，问题变成了“谁用得起”。

这不是玩笑。

采访中，中昊芯英创始人兼CEO杨龚轶凡算了一笔账：“当下绝大多数AI软件服务商毛利率不足40%，算力硬件开支是核心成本项。如果我们能把单位算力成本减半，客户毛利率可以从40%提升至70%。反之，如果算力成本居高不下，很多AI业务会陷入亏损、商业模式无法闭环。”

智能体场景让这个问题雪上加霜。

传统聊天机器人，用户输入多少、输出多少，Token消耗相对可控。但智能体不同——它每一次调用API，都会把全部历史对话上下文打包传输。用户只问了20个字的简单问题，API请求的Token量可能高达二十万。

输入输出的悬殊比例，让Token账单像滚雪球一样膨胀。

早期行业鼓励无限制调用，大模型厂商甚至补贴用户使用。但进入2026年，无论大厂还是中小企业都开始严格管控Token用量。算力成本，正在从“技术问题”变成“生存问题”。

更长期的压力来自产业结构的转变。

当AI从研发阶段进入规模化商业部署阶段，企业对算力的诉求正在从“灵活性优先”转向“成本优先”。

而这，恰恰给TPU这类专用架构打开了巨大的成长空间。

路线之争

为什么有人不做GPU？

理解TPU的崛起，首先要理解一个看似反直觉的事实：GPU发展了三十多年，它的最大优势正在变成最大劣势。

杨龚轶凡在采访中给出了一个犀利判断：“GPU技术至今已经发展三十余年，英伟达、AMD每年合计投入数十亿美元研发。经过长期迭代，GPU相关硬件架构、软件栈的优化空间基本已经被挖掘殆尽，后续升级基本只依托先进制程和新型存储做微调，底层核心架构很难再做颠覆性革新。”

与此同时，完整CUDA软件生态已经成为GPU厂商最坚固的护城河——也是全行业切换技术路线最大的门槛。

这意味着什么？

意味着在GPU这条赛道上，后来者几乎没有弯道超车的可能。杨龚轶凡直言：“国内GPU厂商底层软件框架最终会走向兼容互通，但想挑战英伟达的地位，几乎不可能。”

正是在这个判断下，中昊芯英2018年创业之初就押注了TPU。

“当年我们选择TPU赛道，本质是做了次行业预判押注：我们笃定Transformer架构、大模型深度学习会成为人工智能长期发展核心主线，AGI商业化落地一定会成为行业主流趋势。”

这个预判在2023到2024年得到了验证。

TPU的优势是什么？

第一，架构年轻，创新空间大。

相比于GPU三十年的成熟期，TPU整体研发历史不足十年。谷歌2015到2016年才启动初代TPU研发，Groq核心团队也脱胎于谷歌TPU体系。整个赛道仍存在大量待挖掘的技术空白。

杨龚轶凡认为，TPU至少还有5年的架构创新窗口期：“当前TPU还是在一个早期的技术路线，还有很多创新点等待我们去开发。硬件架构高度依赖产品流片、量产迭代来验证创新思路，每一代芯片都可以新增专属硬件特性，持续拉升算力与能效。”

中昊芯英AI大模型软硬件一体化方案架构图

第二，面向大模型的“天生优势”。

TPU架构天然面向大模型高并发张量计算做深度定制优化。杨龚轶凡给出的数据是：在同等制程、同等硬件成本前提下，运行主流深度学习模型时，TPU综合性能可达通用GPU的3到5倍。

如果再结合针对特定模型网络的专属算子调优，性价比优势会进一步放大。

第三，PD分离带来的“杀手锏”场景。

这是采访中被反复提及的核心技术概念。

Prefill-Decode分离，简单说就是把推理场景中的“预填充”和“解码”两个计算环节拆开，用不同的专用硬件分别承载。两者的计算逻辑差异极大，分开优化后整体性价比可以实现大幅提升。

杨龚轶凡指出：“这是GPU架构很难灵活实现的设计思路。通用GPU兼顾全场景通用能力，在这种细分专业化场景下优势会大幅缩水。”

事实上，全球行业趋势已经佐证了这个判断：谷歌持续大规模扩产自家TPU，大量海外企业批量采购TPU算力。专用张量计算芯片的市场需求，正在以远超行业预期的速度增长。

聊一聊Token经济学

路线之争说得再热闹，最终都要回到一个核心问题：

客户到底省不省钱？

杨龚轶凡的回应非常干脆：“对AI服务商、政企客户而言，单位百万Token算力性价比永远是第一决策标准。”

他甚至重新定义了芯片设计的优先级逻辑。传统芯片厂商追求PPA平衡——性能、功耗、面积三者精打细算。但中昊芯英的思路完全不同：“因为TPU架构本身天然比通用GPU能耗更低，因此我们PPA核心是平衡性能和芯片面积，功耗并非首要优化目标。我们最后要实现的是百万Token成本降到最低。”

这不再是芯片厂商的思维，这是云服务商的思维。

那么，中昊芯英交出的成绩单如何？

先从硬件指标看：

单颗“须臾”芯片混合精度浮点算力达896TFLOPS，是上一代“刹那”的3倍；8-bit推理算力1792TOPS。单卡显存和片间互联速率均有大幅提升，额定功耗600W，相比性能持平的传统芯片功耗降低50%。

搭载8颗“须臾”的泰则2.0单机算力达7.168PFLOPS，整机能耗仅为传统GPU服务器的80%。在集群层面，单个超节点可实现2048颗芯片直联，并可拓展至万卡集群。

再看Token成本：

杨龚轶凡表示，在同规模大模型推理场景下，中昊芯英平台的百万Token成本，仅为海外主流GPU方案的35%-50%。

一代到二代，百万Token推理性价比实现了“两倍以上提升”。而远期目标是“降到原有十分之一”。

这并非简单的价格战。成本下降来自三个层面的架构创新：

计算层面，二代芯片重构了全链路计算流，消除了传统矩阵乘加运算中的数据依赖空泡，单计算单元硬件利用率大幅提升。脉动阵列的数据流调度经过深度优化，单路计算性能直接提升20%到30%。

存储层面，TPU片内存储容量对比通用GPU有量级优势，“差距接近数倍”。超大容量片上内存大幅提升KV Cache缓存命中率，省去大量重复矩阵运算，高效释放存储带宽。

通信层面，自研低延迟高并行片间通讯协议，对比一代传输效率显著提升，综合算力实现三倍增长。

杨龚轶凡算了一笔更大的账：“如果拿智算中心三年周期内的整体能耗开支进行核算对比会发现，当前海外知名GPU整机硬件采购成本占到全生命周期运营总成本近80%，能耗开支占不足20%；我们产品的采购、能耗成本比例大致为 7:3，硬件采购占70%，能耗占30%，能耗支出占相较海外知名GPU本身就有已经更有优势。如果我们能把性能提升1.5到2倍，能耗再降低20%到30%，那么我们的市场竞争力会非常明显。”

而在大型智算中心集群部署场景中，TPU的优势不止于电费节省。低功耗意味着同等能耗配额下可以部署更多服务器，器件发热更少、老化故障概率更低，长期运维成本同步下降。“综合来看，集群多年运营总成本降幅远不止20%。”杨龚轶凡表示。

从“能用”到“好用”

国产算力的长征才刚刚开始

当然，纸上谈兵容易，真正落地的坑，中昊芯英一个都没少踩。

2023年，初代“刹那”芯片流片成功，成为国内首枚高性能TPU AI专用算力芯片。但杨龚轶凡回忆，真正的挑战在流片之后才开始。

最大的难点不是硬件，是软件生态。

“硬件批量部署相对简单，但完整软件栈、算子适配、工具链打磨需要海量自有算力持续迭代，这是所有国产算力芯片厂商共同的痛点。”杨龚轶凡坦承，“仅用一年半搭建软件栈，不可能达到英伟达二三十年持续重金投入的生态成熟度。”

英伟达每年数十亿美元持续投入生态建设，这个差距不可能短期弥合。

但中昊芯英的应对策略很务实——不追求全场景覆盖，而是聚焦国内主流大模型深度适配。

PyTorch、vLLM、SGLang等主流开发框架原生支持，DeepSpeed、Megatron-LM分布式套件完成适配。Qwen全系列、DeepSeek、GLM、MiniMAX等数十款大语言和多模态模型已经完成深度适配。

杨龚轶凡表示：“我们资源高度聚焦大语言模型赛道。底层主流开源框架全部原生适配，配套标准化Docker镜像，开发者拿到镜像后可直接沿用原有框架代码，不存在大规模底层迁移改造成本。”

更重要的是，中昊芯英明确不走封闭路线。“我们不会复刻封闭式全套软件体系。我们坚持全面拥抱开源，兼容全球主流开发平台。客户迁移时我们配套专属算子优化，不仅不会出现性能损耗，反而能提升推理算力表现。”

目前，中昊芯英的产品已成功部署于深圳联通、天津移动、太极股份、江西上饶等运营商、政府机构和科技企业建设的多个超大规模智算中心，并在高校、科研机构的科研计算平台与教学环境中投入使用，辐射金融、传媒、教育、医疗等广泛行业领域。

中昊芯英产品落地华东地区千卡集群项目图

从“芯片可用”到“芯片好用”，再到“算得起”，这可能是所有国产算力芯片厂商未来五年必须跨越的三道门槛。

不做“中国英伟达”

采访最后，杨龚轶凡被问到一个宏观问题：如果站在2028到2030年的视角回看，你希望中昊芯英在国产算力产业中占据什么位置？是对标“中国英伟达”，还是走一条差异化的路？

他的回答有些出人意料。

“我们创业之初就确立了目标——不是复刻英伟达路线。我们希望把TPU这个架构做成AI界的X86，推动TPU成为AI领域的通用底层架构。”

这意味着什么？

意味着中昊芯英想要的不只是一家芯片公司的商业成功，而是定义一个技术标准。

“未来即便涌现更多TPU、专用算力创业企业，我们不会恶性竞争，而是开放协同、共建TPU软硬件标准，联合全产业链完善技术体系，做TPU架构普及与标准化的核心推动者。”

这个目标是否过于宏大？

但放在产业逻辑中看，也并非没有可能。

GPU赛道已经固化，头部玩家三十年积累的护城河让后来者几乎没有机会。而TPU赛道尚处早期，全球范围内还没有形成类似CUDA那样的垄断性生态，市场格局远未定型。

与此同时，中国市场有独特的需求变量：关键行业的信息安全合规要求、自主可控的政策导向、以及全球地缘政治带来的供应链不确定性，都给国产TPU提供了差异化的生存空间。

当然，挑战同样巨大。软件生态的差距、万卡集群能力的完善、视频等多模态场景的覆盖，都是中昊芯英需要逐步攻克的难题。

TPU赛道至少还需要5年才能进入成熟期，而这5年，恰恰是中昊芯英的窗口期。

算力的“终局猜想”

GPU和TPU或许不会走向“你死我活”的零和博弈。

更可能的终局是——当新的计算场景出现时，GPU仍然是首选；而大模型规模化商用训练、海量Token高并发推理、成熟AI业务批量落地等场景将逐步聚焦TPU/DSA专用芯片。

这是商业规律的必然：当一个产业从研发阶段走向规模化落地阶段，成本会成为最终的裁判。

杨龚轶凡在采访中讲了一个细节：中昊芯英从第一代芯片起就完整落地了Chiplet芯粒架构，“这套集成方案的复杂程度远高于同行业”。如果当初选择更简单的方案，产品可能更早推向市场，但天花板会更低。

“我们团队内部有三条核心准则：公平、坚持、创新。不管是芯片设计、制造工艺还是供应链管理，遇到各类行业难题，都优先依靠创新方式突破瓶颈。”

中昊芯英的“须臾”只是一块芯片。但它背后代表的专用算力浪潮，正在改写AI产业的成本公式。

而这场改写，才刚刚开始。

人类计算史上，每一次通用架构被专用架构局部替代，都遵循同一个剧本。

x86统治了PC时代三十年，但手机芯片最终选择了ARM。不是因为ARM更快，而是因为它更"对"——对功耗、对空间、对特定场景做了减法。

GPU统治通用计算的时代同样辉煌，但AI推理不需要渲染游戏画面的纹理单元，不需要图形管线的固定功能模块。当一项技术被赋予太多"兼顾"，它在任何一个细分方向上都难以做到极致。

TPU正是那个敢于做减法的叛逆者，砍掉通用计算的一切冗余，只为张量运算而活。

每一个时代，都有属于自己的计算范式。

如果站在2030年回望2026年，人们或许会发现，中昊芯英"须臾"芯片的发布，只是一个信号。

真正的变量是，当AI从实验室走入生产线，当算力从"能不能"变成"贵不贵"，整个行业对芯片的评价标准，正在发生一次静默而不可逆的迁移。