NVIDIA réunit des entreprises dans une alliance ouverte pour la sécurité de l’IA

NVIDIA et un large groupe d’entreprises technologiques ont créé la Open Secure AI Alliance, une initiative qui place les outils open source au centre de la protection des systèmes d’IA. Des fournisseurs d’infrastructure, des sociétés de cybersécurité, des éditeurs de logiciels d’entreprise et des organisations open source veulent développer et partager des technologies que les équipes pourront inspecter et adapter, au lieu de bâtir des contrôles isolés.

La surface d’attaque de l’IA dépasse désormais le modèle. Données d’entraînement, points de service, extensions, dépendances et applications donnant accès aux informations d’une entreprise peuvent servir de porte d’entrée. Les agents lisent des documents, appellent des API, utilisent des identifiants et enchaînent des décisions avant qu’une personne ne voie le résultat. La sécurité applicative classique reste nécessaire, mais elle ne suffit pas à définir les actions autorisées d’un agent ni à retracer chaque étape.

L’alliance s’appuie sur des travaux de la Linux Foundation et de communautés de sécurité open source. NVIDIA apportera des modèles, des poids, des données et des recherches sur les structures d’agents. Un premier projet cherche à rendre leur comportement plus facile à tester, suivre, auditer et gouverner. D’autres membres contribueront à des normes d’identité, des formats de poids plus sûrs, des correctifs signés et des outils d’analyse de plusieurs modèles.

L’approche ouverte intéresse les organisations qui doivent exécuter des contrôles dans leur propre environnement ou les relier à des systèmes de surveillance existants. Elle peut aussi réduire la barrière d’entrée pour de petites équipes. Mais publier du code ne règle pas la maintenance : il faut des responsables, un financement, des procédures de diffusion et une répartition claire des responsabilités lorsqu’une vulnérabilité apparaît.

Pour les entreprises qui déploient l’IA, l’alliance pourrait fournir un vocabulaire commun pour évaluer les systèmes combinant modèles, logiciels et actions externes. L’examen doit couvrir identité, permissions, isolation, outils, journaux et évaluation, pas seulement les poids du modèle. Protéger le modèle tout en laissant des identifiants ou des dépendances anciennes exposés laisserait une faille lors d’un incident réel.

L’annonce marque donc le début d’une infrastructure de défense partagée, et non la livraison d’un produit de sécurité achevé. Son influence dépendra de la publication de code et de méthodes de test utilisables hors d’une plateforme particulière, puis de leur maintenance dans la durée. La prochaine épreuve sera l’utilisation de ces outils par des défenseurs lors d’incidents réels et la comparaison des résultats entre modèles et clouds différents.

L’initiative s’appuie sur un incident concret. Lors de l’examen de Hugging Face, un modèle à poids ouverts GLM 5.2 a été exécuté sur une infrastructure contrôlée pour analyser plus de 17 000 actions et contribuer à contenir l’intrusion, après que des outils fermés n’ont pas su distinguer l’attaquant du défenseur. NVIDIA y voit la preuve que les équipes doivent pouvoir inspecter et adapter des agents avancés dans leur propre environnement. L’entreprise reconnaît aussi que les modèles ouverts peuvent être détournés et qu’ils exigent évaluations rigoureuses, règles contre les abus et correction rapide.