NVIDIA reúne empresas em aliança aberta para segurança de IA

A NVIDIA e um grupo amplo de empresas de tecnologia criaram a Open Secure AI Alliance, iniciativa que coloca ferramentas de código aberto no centro da proteção de sistemas de IA. Participam fornecedores de infraestrutura, empresas de cibersegurança, software corporativo e organizações de código aberto. O objetivo é desenvolver e compartilhar tecnologias que as equipes possam inspecionar e adaptar, em vez de cada companhia construir controles isolados.

A superfície de ataque da IA já vai além do modelo. Dados de treinamento, endpoints de serviço, plugins, dependências e aplicações que dão acesso a informações corporativas podem ser portas de entrada. Agentes acrescentam complexidade porque leem documentos, chamam APIs, usam credenciais e encadeiam decisões antes de uma pessoa ver o resultado. A segurança tradicional continua necessária, mas não explica sozinha o que um agente pode fazer nem como registrar cada etapa.

A aliança se apoia em trabalhos da Linux Foundation e de comunidades de segurança de código aberto. A NVIDIA contribuirá com modelos, pesos, dados e pesquisa sobre estruturas de agentes. Um projeto inicial pretende facilitar testes, rastreamento, auditoria e governança do comportamento dos agentes. Outros participantes levarão padrões de identidade, formatos mais seguros para pesos, patches assinados e ferramentas para analisar múltiplos modelos.

A abordagem aberta é útil para organizações que precisam executar controles na própria rede ou conectá-los a sistemas de monitoramento existentes. Também pode diminuir a barreira para equipes menores. Mas publicar código não resolve a manutenção: projetos importantes precisam de responsáveis, financiamento, processos de lançamento e regras claras para revelar e corrigir vulnerabilidades.

Para empresas que implantam IA, a aliança pode oferecer uma linguagem comum para avaliar sistemas que combinam modelos, software e ações externas. A revisão deve incluir identidade, permissões, isolamento, ferramentas, registros e avaliação, não apenas os pesos do modelo. Proteger o modelo e deixar credenciais ou dependências antigas expostas ainda criaria uma brecha durante um incidente.

O anúncio é o início de uma infraestrutura defensiva compartilhada, e não um produto de segurança acabado. Sua influência dependerá de publicar código e métodos de teste que funcionem fora de uma plataforma específica e de mantê-los no longo prazo. A próxima prova será permitir que defensores usem as ferramentas em incidentes reais e comparem resultados entre diferentes modelos e nuvens.

A iniciativa cita um caso de segurança concreto. Na investigação da Hugging Face, um modelo de pesos abertos GLM 5.2 foi executado na própria infraestrutura para analisar mais de 17 mil ações e ajudar a conter a invasão, depois que ferramentas fechadas não conseguiram distinguir atacante de defensor. A NVIDIA usa o episódio para dizer que equipes de defesa precisam inspecionar e adaptar agentes avançados em seus próprios ambientes. A empresa também reconhece que modelos abertos podem ser abusados e devem vir acompanhados de avaliações rigorosas, regras contra uso malicioso e correção rápida.