
10月21日,谷歌宣布面向自家TPU的原生PyTorch框架TorchTPU在GitHub开源。开发者只需要调整配置,不必重写应用代码,就能把现有的PyTorch程序迁移到TPU,再顺着迁移到谷歌云。就在前一天,亚马逊刚发布了对标产品TorchNeuron。两天之内两家云厂商接连出手,指向的是同一个目标:把英伟达从AI开发默认选项的位置上挪开。两家公司的节奏咬得很紧,前一天亚马逊刚发布TorchNeuron,第二天谷歌就跟上了。

之所以要动PyTorch,是因为它太基础。这个由Meta在2016年开源的框架,如今支撑着大约85%的AI应用,从模型训练到推理部署都绕不开它。而它诞生的时候,英伟达的GPU已经是研究界的标配硬件,很多底层实现天然围绕CUDA展开。久而久之,换芯片的代价不再只是换一块板卡,而是要重写一整条工具链。开源社区的治理结构,决定了这类改造能走多远。
迁移成本才是真正的护城河。一个团队如果要把训练任务搬到新硬件上,通常要面对算子缺失、通信库不兼容、精度对不齐、性能调优无从下手这几道关,顺利的话几周,不顺利的话几个月,还不一定能复现原来的效果。TorchTPU想做的,是把这几周压缩成改几行配置,让硬件选择重新变成一道算术题。这也是为什么很多团队明明对成本不满,却仍然留在原来的硬件上。
谷歌这次的动作比以往更彻底。它拉上了Meta、Hugging Face,以及vLLM和SGLang的开发方一起做兼容,保证TorchTPU的代码库能和这些主流推理工具衔接;同时推出了TPU迁移代理工具,帮开发者排查迁移过程中的故障;端侧的LiteRT也升级了对PyTorch应用的支持。这套组合拳的意思是,不只给你一条路,还派人陪你走完。
亚马逊那边更激进一些。除了发布TorchNeuron,它还在往PyTorch主项目提交代码,把各种功能与英伟达硬件解耦,让上游默认就兼容更多硬件。这一手如果做成,影响会比任何一家公司的适配层都深远,因为改的是标准本身,而不是在标准旁边再搭一个翻译层。不过改上游标准这条路很长,PyTorch的维护者要考虑所有硬件厂商的诉求,不可能只听一家。
但要说英伟达会因此被撼动,还太早。已有的项目、调优经验、工程师的肌肉记忆,都是极难迁移的资产;CUDA生态积累了十几年,不是两个开源仓库能抹平的。真正的变化是,硬件选择从没有选择变成了有代价的选择,而一旦代价可以计算,采购谈判的桌子就会重新摆一次。对采购方来说,多一个可选项意味着谈判时手里多一张牌,这本身就是收益。















