谷歌TPUv7每美元性能最高领先英伟达B200达50%，10月开源TorchTPU加速外部化，TPUv8i将支持原生FP4

在AI推理算力的竞争白热化之际，一份来自半导体研究机构SemiAnalysis的最新测试数据，把谷歌TPU（张量处理单元）推到了聚光灯下。

每美元性能领先英伟达B200达50%

据SemiAnalysis在9月7日发布的最新测试结果，在部分推理场景下，谷歌TPUv7 Ironwood的每美元性能最高较英伟达B200领先50.4%；对应的每百万Token推理成本最低约0.098美元。这一对比直接冲击了"英伟达在推理端仍不可撼动"的既有认知，其核心在于"每美元性能"这一衡量口径——当算力从稀缺的"训练"向规模化"推理"转移时，单位成本表现越来越成为客户决策的关键。

外部化提速：Anthropic扩大采购 + TorchTPU开源

更重要的是，谷歌正加速推动TPU的外部化进程。据报道，随着Anthropic等外部客户扩大对谷歌TPU的采购，谷歌开始把过去仅供内部使用的高性能算力，逐步向外部大客户开放。这一动向与Anthropic此前密集锁定算力协议的节奏相互印证——头部大模型玩家在英伟达之外寻找多元化算力供应的意愿正变得空前强烈。

据披露，谷歌还计划于10月开源TorchTPU，通过原生PyTorch后端大幅降低开发者使用TPU的软件门槛。长期以来，开发者之所以难以从CUDA生态迁移到TPU，一大障碍正是软件栈与工具链的成熟度差距；TorchTPU以原生PyTorch后端切入，相当于让大量习惯PyTorch的开发者可以"几乎无缝"地把工作负载跑上TPU，这被视为谷歌补齐TPU软件生态的关键一棋。

此外，下一代TPUv8i还将支持原生FP4计算——在低精度推理日益普及的背景下，原生FP4意味着更高的算力效率与更低的推理成本，进一步强化其性价比优势。

市场分析：TPU从"内部算力"到"英伟达竞争者"

行业观点认为，谷歌正在通过芯片性能、高速互联与软件生态三管齐下，系统性地降低TPU的使用门槛：

• 芯片+互联层：TPUv7的每美元性能优势、即将到来的TPUv8i原生FP4，配合谷歌自有的高速互联与超节点集群，构成了"单位成本竞争力"的基础。
• 软件生态层：TorchTPU的开源，是撬动开发者迁移的关键杠杆——它把"迁移TPU"从需要重写整个技术栈的高门槛工程，降为"用熟悉框架、换一个后端"的低门槛切换。

市场分析据此判断，如果外部客户的采购规模与TPU软件生态进一步扩大，谷歌TPU有望从"谷歌大厦里的内部算力"，逐步成长为英伟达AI推理芯片的重要竞争者。当然，英伟达凭借CUDA二十年积累的生态壁垒、以及推理端新一代芯片的迭代，其市场地位仍不容小觑；但"每美元性能"的战火已明确烧上英伟达的地盘，AI推理算力正从"一家独大"走向"多家角力"。

Sources:

• 谷歌TPU每美元性能最高领先英伟达B200达50%，外部化进程加速 - 每日经济新闻