NVIDIA reúne a empresas en una alianza abierta para la seguridad de la IA

NVIDIA y un amplio grupo de empresas tecnológicas han creado la Open Secure AI Alliance, una iniciativa que coloca las herramientas de código abierto en el centro de la protección de sistemas de IA. Participan proveedores de infraestructura, compañías de ciberseguridad, fabricantes de software empresarial y organizaciones de código abierto. La idea es desarrollar y compartir tecnologías que los equipos puedan inspeccionar y adaptar, en lugar de obligar a cada empresa a construir controles aislados.

La superficie de ataque de la IA ya no se limita al modelo. Los datos de entrenamiento, los puntos de servicio, los complementos, las dependencias y las aplicaciones que dan acceso a información corporativa pueden convertirse en entradas. Los agentes añaden complejidad porque leen documentos, llaman a APIs, usan credenciales y encadenan decisiones antes de que una persona vea el resultado. La seguridad tradicional sigue siendo necesaria, pero no describe por sí sola qué puede hacer un agente ni cómo registrar cada paso.

La alianza parte de trabajos de la Linux Foundation y de comunidades de seguridad de código abierto. NVIDIA aportará modelos, pesos, datos e investigación sobre estructuras de agentes. Uno de sus primeros proyectos busca facilitar que el comportamiento de un agente se pruebe, se rastree, se audite y se gobierne. Otros participantes contribuirán con estándares de identidad, formatos más seguros para pesos, parches firmados y herramientas de análisis de varios modelos.

El enfoque abierto puede ser importante para organizaciones que necesitan ejecutar controles dentro de su propia red o conectar las herramientas a sistemas de monitorización existentes. También puede reducir la barrera para equipos pequeños. Pero publicar código no resuelve automáticamente el mantenimiento: hacen falta responsables, financiación, procesos de lanzamiento y reglas claras para revelar y corregir vulnerabilidades.

Para las empresas que despliegan IA, la alianza puede ofrecer un lenguaje común para evaluar sistemas que combinan modelos, software y acciones externas. La revisión debe cubrir identidad, permisos, aislamiento, herramientas, registros y evaluación, no solo los pesos del modelo. Proteger el modelo mientras se dejan expuestas credenciales o dependencias antiguas seguiría dejando una brecha durante un incidente.

El anuncio es, por tanto, el comienzo de una infraestructura defensiva compartida, no un producto de seguridad terminado. Su influencia dependerá de que publique código y métodos de prueba utilizables fuera de una plataforma concreta y de que los mantenga a largo plazo. La próxima prueba será que los defensores puedan usar esas herramientas en incidentes reales y comparar resultados entre modelos y nubes distintas.

La iniciativa toma como referencia un incidente concreto. Durante la revisión de Hugging Face, un modelo de pesos abiertos GLM 5.2 se ejecutó en infraestructura propia para analizar más de 17.000 acciones y ayudar a contener la intrusión, después de que herramientas cerradas no pudieran distinguir entre atacante y defensor. NVIDIA utiliza el caso para defender que los equipos de seguridad necesitan inspeccionar y adaptar agentes avanzados en sus propios entornos. También reconoce que los modelos abiertos pueden usarse mal y que deben acompañarse de evaluaciones rigurosas, reglas contra el abuso y reparación rápida.