NVIDIA 联合多家科技企业成立开放安全 AI 联盟

NVIDIA 与一批科技企业宣布成立开放安全 AI 联盟，将开源安全工具放在保护 AI 系统的行业合作中心。参与者包括基础设施公司、网络安全厂商、企业软件供应商以及开源组织。联盟希望共同开发并分享安全技术，让开发者能够检查、调整和部署这些工具，而不是让每家公司都独立建立一套互不兼容的控制措施。

AI 的攻击面已经超出模型本身。训练数据、模型服务接口、插件、依赖包以及允许智能体访问企业信息的应用，都可能成为入口。智能体还会读取文档、调用 API、使用凭据，并在人工看到结果之前连续做出多次决定。传统应用安全仍然重要，但仅靠它无法解释智能体可以执行哪些操作，也无法保证每一步都能被追踪。

联盟表示将基于 Linux 基金会和开源安全社区已有的工作，推进漏洞披露、修复和评测。NVIDIA 将贡献模型、权重、数据以及智能体执行框架研究。NVIDIA Labs 的一个早期项目希望让智能体行为更容易测试、追踪、审计和治理；其他成员则会提供身份标准、更安全的模型权重格式、签名补丁和多模型扫描能力。

开放方式对需要在本地运行安全控制的机构尤其重要。企业可能不愿把敏感数据发送到第三方服务，也需要把安全工具接入现有监控系统。共享项目还能降低小型团队的进入门槛。不过，开源并不会自动解决维护问题：项目需要长期维护者、资金、发布流程，以及发现漏洞后明确的责任和修复机制。

对部署 AI 的企业而言，联盟可能提供一套评估模型、软件和外部操作组合系统的共同语言。真正的难点在于覆盖完整的智能体栈，包括身份、权限、隔离、工具、日志和评估，而不是只检查模型权重。一个保护了模型却忽视凭据或过期依赖的方案，在真实事件中仍会留下明显缺口。

这次宣布的不是已经完成的安全产品，而是建设共享防御基础设施的起点。联盟的影响力将取决于其能否发布跨平台可用的代码和测试方法，并在发布热度下降后继续维护。下一项重要检验，是防御团队能否在真实事件中运行这些工具、审计结果，并在不同模型和云环境之间复用经验。

联盟的背景还包括一次实际的安全事件：在 Hugging Face 的调查中，开源 GLM 5.2 模型曾在自己的基础设施上分析超过 1.7 万个操作并帮助控制入侵，因为当时的封闭工具无法区分攻击者和防御者。这一案例被 NVIDIA 用来说明，防御团队需要能够在自己的环境中检查、调整和运行前沿智能体。联盟同时强调，开放模型也可能被滥用，因此必须配合严格评估、滥用规则和快速修复，而不是把“开放”本身当成安全保证。