当地时间11月9日,谷歌给第八代TPU产品线又添了两款系统,TPU 8tx和TPU 8i Max。据新浪财经报道,前者面向机密AI计算场景,后者针对超大长上下文推理。这也是谷歌年内发布的第八代TPU第三、第四款产品,节奏相当密集。

TPU 8tx的定位是安全与机密推论。谷歌官方博客的介绍很直接,这套系统就是为受监管企业与政府机构打造的,用来运行前沿或专有模型和自主代理,同时处理企业的敏感数据。芯片层面没有新做硅片,沿用TPU 8t的同款,搭配定制化AMD处理器。金融、医疗、政务这类数据不出域的行业客户,本来就要求把推理负载留在受控硬件上,这是采购清单里的硬约束。

TPU 8i Max走的是另一条路线,服务超大长上下文与单机柜运算密度。长上下文推理是当前推理需求增长最快的部分之一,百万token级的窗口让单次请求的显存与带宽开销急剧上升,内存容量与互联带宽的配置也就被提出了不同要求。

机密计算的份量还在加重。各国数据主权要求与行业合规规则,把政府、金融与医疗客户的推理负载框定在域内与受控环境里,这类客户此前往往只能用通用硬件跑受限配置。专用机密推论硬件出现之后,合规与性能之间的取舍被压缩成一个采购选项。

一年四款的节奏本身就是信息。英伟达在数据中心AI芯片市场占据绝大部分份额,谷歌TPU是对这一格局最主要的体系化挑战,历代产品在公开基准上的差距持续缩小。此前据华尔街见闻报道,OpenAI已计划采购谷歌TPU用于部分推理负载。这家英伟达最大客户的动向,被市场视为格局松动的信号。

对云客户来说,新品的实际意义是选择面变宽,机密计算有专门硬件兜底,长上下文有专配机型。定价与供给能力要等云上开放后再看。真正的竞争锚点仍在下一代产品的性能曲线上,谷歌明年的TPU路线图值得留意。

TPU芯片概念插画
一款芯片罩上机密光盾,另一款连出长上下文光路,第八代TPU双线并进