云张量处理单元 (TPU)

使用 MaxText 和 MaxDiffusion（适用于大型模型训练的高性能、扩容能力极强的开源参考部署）快速上手。

借助 Cloud TPU，最大限度地提高性能、效率并缩短价值实现时间。通过 Cloud TPU 多切片训练，扩展到数千个芯片。利用 ML Goodput Measurement 衡量和提高大规模机器学习训练的效率。通过 MaxText 和 MaxDiffusion（适用于大型模型训练的开源参考部署）快速上手。

利用可代表您的使用场景的训练数据，高效微调基础模型。Cloud TPU v5e 的每美元 LLM 微调性能比 Cloud TPU v4 高至 1.9 倍。

Cloud TPU v5e 可为各种 AI 工作负载（包括最新的 LLM 和生成式 AI 模型）实现高性能且经济高效的推理。与 Cloud TPU v4 相比，TPU v5e 可将性价比最多提高到 2.5 倍，并将速度最多提高到 1.7 倍。每个 TPU v5e 芯片每秒可提供高达 393 万亿次的 int8 运算，从而使复杂的模型进行快速预测。TPU v5e Pod 每秒可提供高达 10 亿亿次 int8 运算，即 100 petaOps 的计算能力。

强大的 AI/机器学习平台通常包含以下层：(i) 支持使用 GPU 大规模训练和服务工作负载的基础设施编排；(ii) 与分布式计算和数据处理框架灵活集成；(iii) 支持多个团队使用同一基础设施，以最大限度地提高资源利用率。

将 Cloud TPU 的强大功能与 GKE 的灵活性和可伸缩性相结合，比以往更快速、更轻松地构建和部署机器学习模型。利用 GKE 中提供的 Cloud TPU，您现在可以为所有工作负载提供一个一致的运营环境，从而实现自动 MLOps 流水线的标准化。