NVIDIA lança Open Agent Safety Platform com runtime seguro e watchdog
A plataforma e seus dois componentes
A NVIDIA anunciou a NVIDIA Open Agent Safety Platform, uma plataforma de software aberta e um design de sistema de referência para reforçar a segurança de agentes de IA do teste ao deployment, com governança em toda a pilha: software, hardware, compute e robótica. O anúncio cita incidentes recentes de segurança em que o padrão foi o mesmo - o agente contornou controles de segurança na camada de aplicação para completar sua tarefa.
A plataforma tem dois pilares. O primeiro é o NVIDIA OpenShell, software de código aberto que cria uma fronteira de runtime segura, rastreando todas as ações e aplicando políticas enquanto os agentes rodam nos CPUs NVIDIA Vera, o primeiro CPU construído para IA agêntica segundo a empresa. Como é open source, o OpenShell pode ser estendido para plataformas de terceiros, incluindo Arm e Intel.
O segundo é o NVIDIA Sentry, um watchdog fora da banda que roda nos DPUs NVIDIA BlueField-4. O Sentry monitora continuamente o comportamento dos agentes e aplica políticas de segurança independentemente, em silício, a partir de um domínio de confiança isolado, invisível a agentes e atacantes. Se um agente tenta sair da fronteira de software, o Sentry o coloca em quarentena e o para em milissegundos. Ele é construído sobre o software NVIDIA DOCA, que permite inspecionar requisições e respostas, fornecer telemetria atestada, verificar identidade de agentes e aplicar políticas de acesso zero-trust para dados, ferramentas, APIs e serviços.
Adesão do ecossistema
Mais de 100 organizações trabalham com as tecnologias da plataforma, incluindo Anthropic, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow e SpaceXAI.
Alguns exemplos citados: a Anthropic colaborou para que os Claude Managed Agents - que já rodam o loop do agente em servidor separado dos sandboxes - se integrem ao OpenShell e ao BlueField, adicionando governança em hardware e software. A SpaceXAI usa a plataforma para os Cursor coding agents e modelos Grok. A Scale AI incorpora o design de referência à camada de infraestrutura agêntica do Scale GenAI Portfolio. Salesforce integrou o OpenShell ao Slack, permitindo que equipes vejam atividades e eventos de auditoria e aprovem ou rejeitem pedidos de permissões adicionais. A SAP está incorporando o OpenShell ao runtime do Joule Studio e contribui com engenharia.
Líderes de robótica como Figure, Gecko Robotics e Skild AI usam o OpenShell para embutir controles de segurança em sistemas autônomos que agem no mundo físico. Nos serviços financeiros, Citi e JPMorganChase colaboram em tecnologias abertas de segurança de agentes. Empresas de energia e infraestrutura crítica dos EUA (Hitachi Energy, EPRI, NextEra Energy, entre outras) e fornecedores de software de infraestrutura como Canonical, SUSE e Red Hat também participam - a Red Hat roda OpenShell e DOCA no Red Hat AI Factory. Parceiros de infraestrutura como Baseten, CoreWeave, Dell, HPE, Lenovo, Microsoft, Nebius, Oracle Cloud Infrastructure, Supermicro e Together AI oferecem soluções que suportam a plataforma.
Disponibilidade e governança do projeto
O software da plataforma, incluindo OpenShell e skills, está disponível pela página de recursos para desenvolvedores da NVIDIA e pelo GitHub. As contribuições apoiam a missão da Open Secure AI Alliance, iniciativa da NVIDIA com mais de 120 organizações, governada pela Linux Foundation, que promove pesquisa aberta, ferramentas e projetos como o Shared AI Findings Exchange (SAFE).
Jensen Huang, CEO da NVIDIA, argumentou que o potencial da IA só será realizado se a segurança for resolvida, e que a plataforma reúne indústria, pesquisadores e organizações do setor público para compartilhar práticas, alinhar métodos de avaliação e fomentar cooperação internacional.
O comunicado ressalva que muitos produtos e recursos descritos ainda estão em diferentes estágios e serão oferecidos conforme disponibilidade, sem compromisso legal quanto a prazos ou entrega.