Aliança Open Secure AI

A NVIDIA e 36 outras entidades criaram a Open Secure AI Alliance para desenvolver e compartilhar tecnologias, técnicas e ferramentas de código aberto que garantam a segurança de softwares e agentes de IA.

Entre os membros estão Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Palo Alto Networks, Red Hat, Linux Foundation, entre outros, representando nuvem, segurança, software corporativo e IA.

Escopo e Objetivo

O escopo cobre toda a pilha de agentes, incluindo identidade, permissões, isolamento, guardrails, logs, formatos de modelo, varredura multi-modelo e fluxos de trabalho de codificação segura. O objetivo principal é que os defensores matchmaking tenham modelos que possam ler, alterar e executar em seu próprio hardware, não apenas via API de fornecedor.

NOOA: Framework de Agente de IA

O primeiro produto técnico da aliança é o NOOA (NVIDIA-labs OO Agents), um framework de marshaling de pesquisa sob licença Apache 2.0 que facilita testar, rastrear, auditar e governar o comportamento de agentes.

O framework representa a camada de agente como uma classe Python: campos armazenam estado, métodos expõem capacidades, docstrings atuam como prompts e anotações de tipo definem contratos que o modelo deve seguir. Métodos com corpo de reticências (…) são completados em tempo de execução por um LLM-driven loop, enquanto métodos Python padrão permanecem determinísticos.

Em avaliação própria, a NVIDIA reportou 86,8% no benchmark CyberGym L1 de rediscoverimento de vulnerabilidades usando GPT-5.5, com acesso à rede bloqueado e verificações baseadas em regras em cada trajetória.

Riscos e Contenção

O NOOA pode ser configurado para executar código Python gerado por LLM, o que pode transmitir dados privados, excluir arquivos ou modificar o ambiente. A verificação de AST e listas de módulos negados são controles de defesa em profundidade, mas não constituem uma fronteira de contenção.

A NVIDIA coloca a contenção fora do NOOA: agentes que executam código gerado devem ser executados atrás de isolamento de nível de sistema operacional, como contêiner, VM ou sandbox OpenShell. O NOOA fornece inspeção e rastreamento; a sandbox do SO é a fronteira de contenção.

Incidente na Hugging Face

A aliança cita o incidente de 27 de julho na Hugging Face, onde um sistema autônomo de agentes comprometeu partes da infraestrutura de produção. A empresa identificou acesso não autorizado a conjuntos de dados internos e credenciais, sem evidência de adulteração de modelos públicos.

O acesso inicial ocorreu por meio de um conjunto de dados malicioso que abusou de um carregador de conjuntos de dados remoto e injeção de template em uma configuração de conjunto de dados. A atividade progrediu para acesso a nós, coleta de credenciais e movimentação lateral.

A Hugging Face executou agentes de análise impulsionados por LLM em mais de 17 000 ações registradas para reconstruir a linha do tempo, extrair indicadores de comprometimento e mapear as credenciais afetadas.

Participação e Governança

A aliança ainda não divulgou estatuto, conselho de governança, fluxos de trabalho técnicos ou cronograma de entregas. O site da aliança está em construção e não há repositório compartilhado público.

Os membros contribuemelwa principalmente com projetos existentes; não há clareza sobre quais engenheiros serão alocados para trabalho conjunto ou quais entregáveis serão produzidos.

Para empresas brasileiras que adotam IA, a iniciativa destaca a importância de possuir modelos que possam ser executados localmente, permitindo controle de identidade, isolamento e resposta a incidentes sem depender de APIs externas.

Com informacoes de The Hacker News. Texto produzido com apoio de IA e verificado em fontes independentes.

Tambem noticiado por: