把.to("cuda")改成.to("tpu")就能跑 谷歌和Meta把TorchTPU开源了 英伟达护城河又挨一刀

PyTorch大会上谷歌和Meta一起放了TorchTPU,给TPU做的原生PyTorch后端,宣传口径是模型迁移只要把.to(“cuda”)改成.to(“tpu”)。同一场亚马逊也开源了TorchNeuron,给自家Trainium用。谷歌还顺手放了基于TorchTPU的vLLM、SGLang推理引擎,加一个TorchTitan的TPU分叉。

以前TPU最劝退的就是得用JAX,生态完全两套,很多团队试一下就放弃了。现在直接PyTorch原生,门槛低了一截。

当然"改一行就能跑"这种话听听就好,算子覆盖、性能调优肯定还有坑。CUDA这条护城河,真能被这么填平吗?

改一行就能跑 每家都这么说

JAX劝退过多少人 这个确实是关键

能跑和跑得快是两回事 等benchmark

谷歌亚马逊同一天发 这是商量好的围攻

Meta也掺一脚 有意思

小团队还是老老实实N卡吧

TPU价格要是真便宜 迁一下也值

护城河不只是CUDA 还有一堆人的肌肉记忆