跳到正文
实时
NVIDIA Blog· Uttara Kumar·· 24 天前精选72

Google Cloud 与 NVIDIA 宣布 Vera Rubin 基础设施正式可用

Google Cloud and NVIDIA Announce General Availability of NVIDIA Vera Rubin Infrastructure

要点速览

Google Cloud 与 NVIDIA 宣布基于 NVIDIA Vera Rubin 的 A5X 实例正式可用,下月开放并计划扩展至欧洲。

Why it matters

原文给出 A5X 实例的可用时间、客户实测与机密计算配套,读者可据此判断大规模强化学习基础设施的落地节奏。

正文 · AI 翻译

实例的通用可用性将于下月到来,计划扩展到欧洲 — 为云客户带来一个集成的平台,用于训练、推理和大规模强化学习。

A5X 实例集成了 NVIDIA Vera Rubin NVL72、NVIDIA ConnectX-9 SuperNICs、Google Cloud Virgo Network 和 Google Cloud 的第四代先进液体冷却技术,用于大规模的、要求苛刻的 agentic 推理和强化学习工作负载。Google Cloud 计划将其基于 Vera Rubin 的基础设施扩展到多达 960,000 个 Rubin GPU,分布在不同地点。

Ineffable Intelligence,一家由 AlphaGo 创始人 David Silver 创立、总部位于伦敦的技术公司,是第一个使用 A5X 的客户。Ineffable 正在利用该平台推进大规模强化学习,并塑造能够从经验中持续学习的“superlearner”系统。

阅读所有欧洲 NVIDIA 宣布

通过交互学习需要一个不断生成经验、评估结果和更新模型的持续循环,需要能够大规模支持整个过程的设施。A5X 将 Vera Rubin 带入 Google Cloud 的 AI Hypercomputer 作为集成系统,结合计算、网络和存储,以支持大规模的、由经验驱动的学习。

“我们正在构建能够通过自身经验不断改进的 superlearners,” Ineffable Intelligence 的创始人兼 CEO David Silver 表示。“这既需要大量的计算能力,也需要在生成经验和基于其进行训练之间建立紧密的联系,以便代理的每次改进都能快速塑造其下一次经验。Vera Rubin 在计算性能和高速连接性方面的结合,包括 Vera CPU 和 Rubin GPU 之间,以及机架内的 Rubin GPU 之间,使我们能够进一步推动强化学习研究的规模和雄心。”

WPP,一家总部位于伦敦的营销和传播公司,也已在基于 NVIDIA Vera Rubin 的 A5X 实例上展示了其创意代理参考架构,使用了 NVIDIA Nemotron 模型和 NVIDIA OpenShell,而 NVIDIA OpenShell 是 NVIDIA OpenShell 参考架构 的一部分,用于安全的人工智能代理。

这些代理将对话请求转换为多步骤的创意工作流程,例如视频生成、上采样和重新设计,并在执行前获得人类批准。OpenShell 提供受管理的沙盒,用于代理执行,帮助控制对敏感品牌资产和创意工具的访问。在 WPP 的初步测试中,通常需要多节点集群的工作负载在单个 A5X 实例上运行。

随着组织部署 agentic 系统,他们需要保护这些系统赖以运行的专有模型和敏感数据 — 即使在运行于他们不拥有的基础设施上。

Google Cloud 将是首批在裸金属实例(如由 NVIDIA GB300 NVL72 驱动的 A4X Max 实例)上提供 NVIDIA 机密计算 的云服务提供商。此外,Google Cloud 正在 推出机密计算 的 G4 虚拟机,该虚拟机由 NVIDIA RTX PRO 6000 Blackwell Server Edition 显卡驱动,为机密推理和微调提供了灵活的平台。包括 Vertebrae、 Polaris Cloud 和 Confidential Core AI 的客户正在使用机密 G4 进行对话隐私保护、可验证代理执行和受策略管理的企业智能。

为支持大规模的节能部署,Google Cloud 和 NVIDIA 正在探索 NVIDIA DSX MaxLPS 功能,用于基于 Vera Rubin 的基础设施,以帮助优化每瓦性能并在可用数据中心电源预算内扩展容量。

了解更多关于 NVIDIA Vera Rubin 和 Google Cloud A5X 实例。

阅读所有 NVIDIA 在欧洲的公告

来源: NVIDIA Blog · blogs.nvidia.com