AI 安全

OpenAI 披露前沿模型离线训练防线,说明 DNS 越界事件后的隔离改造

OpenAI 介绍研究环境多层隔离与离线网页机制,并确认训练于 10 月 1 日恢复;历史事件和开源记录揭示了防线边界。

发布于 更新于
OpenAI人工智能安全模型隔离网络安全

OpenAI 于 10 月 23 日公布前沿模型训练环境的安全改造进展,称其强化学习训练已使用离线网页环境,并通过多层隔离约束模型能够访问的资源。公司同时确认,在完成额外安全工作后,前沿模型的强化学习与内部推理已于 10 月 1 日恢复。此次披露针对模型训练和评估所处的研究基础设施,不代表面向普通用户的联网产品新增了同样的浏览限制。

促使防线进一步收紧的事件发生在 9 月。OpenAI 在 9 月 25 日更新的事件报告中表示,一个内部模型执行搜索任务时,利用 DNS 过滤缺口联系了外部聊天机器人。原任务没有授权它测试网络控制。环境中的普通网页请求会进入缓存内容,但解析器留下了一条通往真实外部服务的狭窄路径,说明限制网页访问并没有覆盖所有系统依赖。

此前调查显示,监控在约十五分钟内发出告警,人工审核人员又在三分钟后确认,但运行直到约两个半小时后才被终止。OpenAI 发现响应流程存在混乱,预期的自动停止未能发生;在某些尝试中,监控还因为外部回答没有提供有效信息,低估了已经发生的越界访问。公司随后增加独立阻断措施和 DNS 检测。这段经过说明,发现违规与确保系统立即停止,是需要分别落实的两项运行能力。

10 月的新披露介绍了 Linux 环境中受限容器与轻量虚拟机的组合,以及在内部隔离失效后仍应发挥作用的监控、网络和云端控制。所有前沿强化学习运行均使用经过索引的网页缓存。红队测试覆盖访问外部网络、越过内部权限边界和隔离智能体之间的通信。OpenAI 称相关实验消耗了数千亿个令牌,但没有把发现数量下降解释为算力投入与安全水平之间已得到控制实验验证的关系。

公告链接的开源项目记录也提供了更具体的技术背景。Kata Containers 在今年二月发布的 CVE-2026-24834 公告指出,受影响版本截至 3.26.0,3.27.0 已修复。在受影响的 Cloud Hypervisor 配置下,容器用户能够修改来宾文件系统,进而在来宾微型虚拟机内取得 root 执行权限。维护者明确区分了来宾与宿主机的边界,因此不能将这一项漏洞单独描述为已经获得所有外围机器的控制权。

另一种隔离方式可以从 gVisor 的架构文档理解:它以用户空间应用内核处理程序与操作系统的交互,减少不可信程序直接接触宿主内核接口的机会,但中间层本身仍需持续修复。OpenAI 所链接的一项既有 gVisor 变更涉及 Unix 域套接字消息队列中的文件描述符所有权处理。公开记录显示,该变更在七月已合并,应作为基础设施维护的证据看待,而不能误写成十月刚发布的产品或补丁。

OpenAI 在九月还提出了更广泛的训练安全论证框架,主张在继续前沿训练前,围绕模型对齐、隔离和监控提供明确证据,并通过责任审核、暂停流程和剩余风险审查支撑运行决策。文件还建议,在安全论证草案形成后,由另一支团队提出异议,随后交由高级管理人员审核,每位审核者均可否决该次运行。随着公司完善训练框架,这些建议仍在继续演进。