NVIDIA lança AICR 1.0 com receitas validadas para clusters de GPU

O problema da configuração de clusters de GPU

Clusters Kubernetes acelerados por GPU dependem de dezenas de componentes - kernels do host, drivers de GPU, runtimes de container, rede, armazenamento, operadores e frameworks de workload - cada um com seu próprio ciclo de lançamento. Uma configuração validada para um serviço, geração de GPU e versão do Kubernetes pode falhar silenciosamente em outra combinação, e rastrear conflitos de versão depois da implantação é lento e sujeito a erros. Além disso, a instalação bem-sucedida não garante que o cluster esteja saudável nem que recursos como gang scheduling ou descoberta de aceleradores funcionem, nem que os resultados atendam a limiares de desempenho. O conhecimento sobre quais combinações funcionam e como foram validadas costumava ficar disperso em sistemas de validação, scripts de implantação e runbooks.

O que é o AICR

O NVIDIA AI Cluster Runtime (AICR) responde a esse problema com receitas versionadas e validadas para configuração de clusters de GPU. Cada receita fixa as combinações de componentes compatíveis, gera artefatos de implantação para Helm, Argo CD, Flux ou Helmfile e carrega evidências de validação assinadas do hardware em que foi testada.

O AICR tem quatro capacidades independentes:

• Snapshot: registra o estado observado do cluster (Kubernetes, sistema operacional, kernel, GPU e topologia).
• Recipe: descreve a configuração desejada, com versões travadas, restrições e fases de validação.
• Bundle: renderiza a receita em artefatos para a ferramenta de implantação preferida do operador.
• Validation: compara a receita com o estado observado e, quando declarado, executa verificações de implantação, conformidade e desempenho.

Essas capacidades podem ser combinadas em diferentes sequências: dados de snapshot ou critérios explícitos geram uma receita; a receita gera um bundle; receita e estado observado alimentam a validação, que registra evidência assinada do resultado. A configuração pretendida não muda se o operador renderizar para Helm, Flux ou Helmfile em vez de Argo CD. Um exemplo citado: selecionar EKS, GB300, Ubuntu, treinamento e Kubeflow, resolver para uma receita fixada, renderizar para Argo CD, implantar via GitOps e validar o cluster em execução contra a mesma receita.

Novidades da v1.0

O lançamento da v1.0 estabelece um contrato de compatibilidade estável para as interfaces públicas: o CLI aicr (comandos, flags, semântica de saída e saída estruturada), a API REST do aicrd com contrato OpenAPI, a API exportada do pacote Go github.com/NVIDIA/aicr/pkg/client/v1, além do layout de bundles e dos esquemas de artefatos. Cada interface pública tem uma linha de base comprometida, verificada por checagens que bloqueiam merges. A política define mudanças incompatíveis como semânticas: após a v1.0, remover ou alterar de forma incompatível uma interface estável exige uma nova versão principal (major).

Para integradores Go, pkg/client/v1 expõe o fluxo de trabalho suportado sem exigir importações de pacotes internos. O CLI e o servidor REST usam a mesma fachada (facade), reduzindo o risco de comportamentos divergentes entre pontos de entrada públicos.

Dashboard, ecossistema e comunidade

Um dashboard de validação permite que operadores encontrem receitas por serviço, GPU, sistema operacional, intenção de workload e plataforma opcional, e inspecionem o status e as evidências publicadas de cada receita - o que foi testado, quais verificações passaram e quem assinou os resultados.

O modelo de receitas vem sendo adotado no ecossistema: a Pulumi Labs expõe o AICR por meio de um provedor de infraestrutura como código, e a integração do k0rdent, da Mirantis, o empacota para gerenciamento multicluster. Os dois casos demonstram o valor de definir a configuração de Kubernetes acelerado por GPU uma vez e consumi-la por ferramentas diferentes.

O projeto afirma ter mais de 100 colaboradores distintos, quase metade de fora da NVIDIA. Segundo o blog, em seis meses o AICR passou de algumas receitas para uma biblioteca que cobre os principais serviços de Kubernetes e o portfólio atual de aceleradores da NVIDIA, com validação em clusters ao vivo, evidências assinadas, agregação pública de evidências e verificação de cadeia de suprimentos.

Como contribuir

Contribuições são especialmente úteis para combinações de hardware e cluster fora da cobertura atual. Interessados podem propor receitas, validá-las em seus próprios clusters e submeter evidências assinadas para revisão dos mantenedores, além de reportar bugs ou solicitar recursos pelo GitHub Issues.