跳到正文
实时
NVIDIA Newsroom·· 24 天前精选76

NVIDIA 发布 OpenShell 参考架构,面向企业安全智能体

NVIDIA Launches OpenShell Reference Architecture for Safe AI Agents

要点速览

NVIDIA 发布 OpenShell 参考架构,基于 OpenShell 安全运行时软件,整合 Vera Rubin 推理基础设施、Vera CPU 运行智能体框架、BlueField-4 DPU 上的 Sentry 安全框架,并可通过 RTX Spark、DGX Spark 和 DGX Station 延伸到边缘。

Why it matters

原文给出了面向企业智能体安全运行的全栈架构组成与首批合作方,读者可据此判断企业级智能体治理的落地形态。

正文 · AI 翻译

译文尚不完整,完整内容请切换到原文。

平台整合了NVIDIA Vera Rubin、Vera CPU和BlueField-4,为构建、运行、观察和强制执行安全代理提供企业级基础设施,实现工业规模应用。

新闻摘要:

  • NVIDIA OpenShell参考架构为企业基础设施和边缘系统中的构建、隔离、观察和强制执行安全代理提供企业治理、隔离和安全性。
  • 该架构基于NVIDIA OpenShell安全运行时软件构建,整合了NVIDIA Vera Rubin基础设施用于模型推理、NVIDIA Vera CPU用于代理套件和工具使用,以及运行NVIDIA Sentry的NVIDIA BlueField-4 DPUs进行硅片内强制执行。OpenShell参考架构通过NVIDIA RTX Spark、NVIDIA DGX Spark和NVIDIA DGX Station系统扩展到边缘。
  • OpenShell参考架构运行在领先的企业操作系统上,包括Canonical、Red Hat、Microsoft Windows和Microsoft执行容器。
  • Anthropic、AWS、Cisco、CrowdStrike、Dassault Systèmes、Dell Technologies、Google Cloud、HPE、IBM、Meta、Microsoft、OpenAI、Palo Alto Networks、Perplexity、SAP、ServiceNow、Siemens、SpaceX Super Intelligence等都在与OpenShell参考架构合作,以增强代理部署的安全性。

GTC柏林—NVIDIA今日宣布了NVIDIA OpenShell参考架构,它能够为企业基础设施和边缘系统上的构建、隔离、观察和强制执行安全代理提供支持。

OpenShell参考架构基于NVIDIA OpenShell™安全运行时软件的基础,将其扩展到全栈、工业规模的基础设施,用于代理开发和运营。

它包括用于运行企业工作负载的NVIDIA Vera Rubin基础设施,包括使用NVIDIA Nemotron™构建的封闭和开放模型;用于运行代理 harness 的NVIDIA Vera CPUs;开源的 NVIDIA OpenShell 软件;以及用于运行NVIDIA Sentry统一安全软件框架的NVIDIA BlueField® DPUs,该框架提供对代理行为的持续带外监控和硅片中策略执行。

OpenShell参考架构可扩展到零售、医疗保健、制造、机器人、软件开发和电信等行业的边缘运行的代理,使用NVIDIA RTX Spark™、NVIDIA DGX Spark™和NVIDIA DGX Station™系统。

"AI能力和安全性必须一起进步,"NVIDIA创始人兼CEO黄仁勋表示。"随着企业准备部署数十亿的AI代理,安全性和控制必须构建在计算架构中。NVIDIA创建了OpenShell,以赋予代理在明确定义的边界内进行有用工作的自由——被隔离、被监控和受控制。通过OpenShell参考架构,代理可以在Rubin上思考,在Vera上行动,在BlueField上受治理。"

为代理构建的全栈基础设施
OpenShell参考架构结合了NVIDIA加速计算和用于安全代理操作软件。

  • NVIDIA Vera Rubin, 以 NVIDIA Vera Rubin NVL72 基础设施为核心, 在预训练、后训练和推理方面都是 通用的。对于自主工作负载, NVIDIA Vera Rubin NVL72 系统每兆瓦的吞吐量提高 30 倍。
  • NVIDIA Vera CPUs 的性能是 x86 处理器的两倍, 能效更高, 并运行 NVIDIA OpenShell, 它为自主代理提供了一个安全的运行时边界。
  • NVIDIA BlueField-4 DPUs continuously monitor agent behavior with NVIDIA Sentry, built on NVIDIA DOCA™ software. BlueField and NVIDIA Sentry together provide in-silicon security enforcement — if an agent attempts to move outside its software boundary, NVIDIA Sentry quarantines and stops it in milliseconds. NVIDIA Sentry, powered by DOCA and running on BlueField-4, boosts agent capacity by up to 20%.

NVIDIA 合作伙伴正在使用 OpenShell 构建安全的代理部署
NVIDIA 正与构建基础设施、模型和软件的行业领导者合作, 以便行业能够安全地在生产中部署代理。

OpenShell 参考架构运行在领先的 enterprise 操作系统和容器编排层上, 包括由 Canonical、SUSE 和 Red Hat 提供的 Linux 和 Kubernetes 基础设施, 以及使用 Microsoft Execution Containers (MXC) 的 Microsoft Windows。它可以在来自 Amazon Web Services、Google Cloud 和 Microsoft Azure 的云操作系统上运行。

企业可以在 OpenShell 基础设施上运行来自 Anthropic、Cohere、Google、Meta、OpenAI、Perplexity、Reflection 和 SpaceX Super Intelligence 等模型构建者的代理。NVIDIA 还在与模型构建合作伙伴合作, 在 OpenShell 上进行高级模型研究部署。

网络安全领导者 1Password、Check Point、CrowdStrike、Cisco、F5、Fortinet、Microsoft、Okta、Palo Alto Networks、TrendAI 和 Zscaler 正将 OpenShell 参考架构的支持集成到他们的代理安全解决方案中。

领先的银行——包括欧洲的 BBVA 和 Santander——正在与 NVIDIA 合作, 探索 OpenShell 参考架构作为加强代理安全、安全和治理的框架。

企业软件领导者 Cadence、Dassault Systèmes、IBM、SAP、Siemens 和 Synopsys 正在与 OpenShell 合作, 构建代理软件平台。Palantir 和 NVIDIA 正在帮助客户在生产中部署安全的代理。

SAP 正将 NVIDIA OpenShell 参考架构集成到 Joule Studio 运行时中, Joule Studio 是 SAP Business AI 平台的一部分, 将业务治理与安全的代理执行连接起来。

ServiceNow 今日宣布 ServiceNow Arc 的通用可用性,这是一种个人长期运行的 AI 代理,其行为由 ServiceNow 超级智能控制塔在运行时管理,并由 NVIDIA OpenShell 强制执行。此外,ServiceNow 最近宣布的 AI 通行证授权层将这些策略传递到 NVIDIA OpenShell 和 NVIDIA Sentry,因此企业可以在几秒钟内撤销 AI 代理的跨软件和硬件访问权限。

NVIDIA 系统制造商 Dell Technologies、Cisco、HPE、Lenovo 和 Supermicro 正在构建使用 OpenShell 参考架构的基础设施。

NVIDIA 还与 CoreWeave、Crusoe、Firebird、Firmus、GMI Cloud、IREN、Lambda、Nebius、Nscale、Oracle Cloud Infrastructure 和 Vultr 等云服务提供商合作,部署 OpenShell 兼容的基础设施。

推理和后训练服务提供商 Baseten、Deepinfra、Fireworks 和 Together AI 正在将其模型开发管道集成 OpenShell 参考架构。

可用性
The NVIDIA OpenShell Reference Architecture is now available.

来源: NVIDIA Newsroom · nvidianews.nvidia.com