TPU赢得的柔和度肉眼可目力在攀升。

已往一个月，围绕谷歌TPU的音书接连抑遏。4月底，谷歌发布了第八代TPU，初度将查验和推理拆分为两款闲散的芯片；紧接着，阛阓上接踵传出谷歌向英特尔下达大限度采购订单、谷歌拟与三星开发新一代TPU的音书。不外，谷歌方面临此均未作出公开修起。

但不错预见的一个趋势是，跟着谷歌TPU的大幅入局，已往几年行为AI算力代名词的GPU，不再是唯独的经受。当算力需求从查验转向推理时间，TPU的上风驱动突显，从已往的“副角”更加有站上主舞台之势。

GPU和TPU是两种不同的芯片品类。GPU出身已有二十多年，全称是GraphicsProcessingUnit（图形惩处器），期间相对进修，代表公司有英伟达、AMD。TPU则是谷歌从2015年起有利为AI设想的新品类，它的全称是TensorProcessingUnit（张量惩处器），专攻深度学习所需的矩阵运算。

集群绸缪需求增长

TPU为安在此时成为焦点？先要看阛阓需求正在发生什么变化。

国度数据局发布的《宇宙数据资源打听发达（2025年）》自满，2025年，中国AI推理数据量初度逾越查验数据量。

TrendForce集邦盘考的数据预测，北好意思五大云奇迹商2026年AI查验算力瞻望增长56%，而推理算力将暴增122%，后者增速是前者的两倍以上。IDC预测，到2029年中国阛阓推理算力占比将接近梗概。

推理正逐步成为算力需求的主场，而这也在为TPU创造契机。

最初，模子越来越大，单颗芯片无法撑捏，必须依靠多颗芯片的集群协同完成推理任务，而TPU在集群着力上有先天上风。

“智能体正在缓缓替代东说念主类的部单干作，其实质是用写方法的智力扬弃电脑。只须当模子宽裕大时，智力完成方法员能作念的事。如今的模子参数从亿级已达到万亿级别，单颗芯片无法承载无缺推理任务，必须依靠几十以至上百颗芯片互联集群协同运算。”中昊芯英独创东说念主及CEO杨龚轶凡说。

中昊芯英是一家聚焦TPU芯片期间研发的企业，杨龚轶凡默示，GPU架构所以单卡通用算力和软件生态见长，而TPU则是在大限度集群的通讯与协同着力上有上风。

一位前谷歌TPU工程师在一档视频节目中先容，GPU单机里面依靠NVLink、板载NVSwitch终局多卡互联，跨机架大限度集群还需特殊采购交换机、光模块搭建高速收集，配套硬件是一笔大额基建开支；而TPU机柜内芯片可凯旋互通，仅在跨机柜膨大时使用自研光电路交换机，无需大批量采购商用高速交换开荒，在同等集群通讯性能下，举座部署硬件老本更低。

其次，推理阶段对性价比的明锐度远高于查验。当Token浮滥呈指数级暴增，单元算力老本也成为了更受可爱的主意。从架构上看，TPU是专用芯片，剔除了GPU的图形渲染、通用绸缪等功能，聚焦于深度学习矩阵运算。杨龚轶凡指出，谷歌TPU在发布时，对比同等分娩工艺的GPU，有3到5倍的性能普及。

细分场景里的经受

什么场景下GPU更相宜，开云体育中国官网入口什么场景下TPU更优？

这需要回到芯片设想的原点。

杨龚轶凡说，GPU最早是为了在电脑屏幕上自满传神的3D游戏画面而设想的。它要把三维物体从各个角度算成二维画面，还要算明后、边幅，让画面宽裕的确。这就导致GPU里面塞了上万个绸缪中枢，像一个大工场里有一万名工东说念主同期干活。优点是并发智力强，惩处图像和矩阵运算尽头快。但污点是，一朝某个工东说念主算错了，你根底没法在一万名工东说念主里快速找到是谁出了问题。

而AI深度学习的绸缪模式皆备不同。深度学习模子是一层一层往下绸缪的，每一层里面不错高并发，但层与层之间有先后功令。这种模式不需要GPU那么复杂的调试和通用智力。于是，TPU这类有利为AI设想的芯片应时而生，只聚焦深度学习最常用的运算。

这就好比，从之前要同期鼎新一万个工东说念主，变成只需要鼎新一千个按固定活水线使命的工东说念主，扬弃逻辑浅近得多。

基于这种架构各别，杨龚轶凡预测，改日AI芯片阛阓将造成“442”情势：40%是极致性价比的纯ASIC（专用集成电路）芯片，只可跑固定一两个模子的推理，性价比极致；40%是可编程的DSA（规模专用架构）芯片，比如TPU，支捏深度学习收集的算法，芯片诈骗率不如ASIC，但比GPU强好多；20%是通用GPU，留给还在快速变化的新算法和辩论场景。

不外，这并不虞味着TPU对GPU是替代探讨，而是要看具体场景的适配。

在杨龚轶凡看来，20%的GPU阛阓会遥远存在。原因在于，AI规模的新算法、新场所还在抑遏露出，辩论东说念主员需要一个通用、活泼的平台来快速考据想法。CUDA生态（英伟达围绕GPU硬件打造的一系列软件和器用链）过程20年打磨，进修度高，当新的绸缪场景出当前，GPU仍然是首选。

而TPU的上风在于性价比和生态竖立老本。杨龚轶凡例如评释，TPU的设想想路是闪开发者“只管开车，无谓修车”。它的硬件请示专为AI绸缪优化，同期适配PyTorch这类主流框架。PyTorch就像一个AI“乐高器用箱”，开发者用肃穆的“积木”搭模子，剩下的交给TPU编译器自动优化，无谓为了迁就硬件去学一套新编程谈话。

比拟之下，CUDA更像一套“修车器用”，开发者必须懂“发动机旨趣”智力玩得转，这套器用是行业蕴蓄了十多年的效果。TPU则是依托现存进修AI框架，大幅裁汰了软件适配门槛，这亦然其性价比上风的进击泉源。

当下，AIAgents缓缓进化为巨匠社会分娩力的中枢基座，带动Token浮滥量指数级攀升和“Token经济”时间的驾临。当Token浮滥呈指数级增长，芯片的诈骗率、性价比成为更加进击的比拼项，TPU迎来新的契机，驱动成为AI芯片赛说念上除GPU除外的“另一个选项”。

（作家叶心冉）开云体育