AI基础设施

secunet细化涉密AI云计划,与Red Hat、deepset合作

10月26日公告补充安全架构与审批步骤,计划结合NVIDIA技术,由secunet在德国数据中心运营。

发布于 更新于
secunetRed HatdeepsetNVIDIA主权AI

secunet于10月26日进一步介绍了面向涉密机构的AI云计划,合作方包括Red Hat和deepset,并采用NVIDIA技术。NVIDIA已在10月21日介绍过这项合作,此次公告补充了安全架构与交付步骤,不能视为服务正式投入运营。

据secunet介绍,方案以SINA Cloud为基础,通过NVIDIA BlueField-3处理器在硬件层隔离安全任务。现有SINA安全组件已获得德国联邦信息安全办公室BSI的涉密使用许可,可为具体实施方案的审批提供支持,但这并不意味着未来平台上的每个应用都已获准处理涉密信息。

NVIDIA此前说明了各方分工:加速计算和Nemotron开放模型提供AI基础,Red Hat OpenShift AI负责管理工作负载,Haystack编排智能体,secunet在德国数据中心运营基础设施。这是德国云运营商与国际技术供应商的组合。控制权涉及系统在哪里、以何种方式运行,以及模型和应用的选择,不能据此宣称所有组件都来自欧洲。

应用层的重要性在于,语言模型本身并不了解机构内部文件。Haystack文档介绍的检索器,会挑选与问题相关的文档并传给后续组件。以潜在的行政应用为例,工作人员可以先从获准使用的办事指引中查找材料,再准备答复。这说明了检索增强生成,也就是RAG的工作方式,并非联盟已经公布的客户部署案例。

能否找到正确资料,还需要测试。Haystack评估器文档提供了将检索文档与预期结果比较、将生成答案与参考答案比较等能力。机构可据此检查原型是否找到了正确指引、能否回答典型问题,再决定如何用于工作。这些工具说明团队能够构建和评估什么;检索分数或答案质量分数本身,并不能证明系统通过了涉密安全审查。

Red Hat部署文档则补充了运维层面的背景。OpenShift AI能够通过向私有仓库镜像必要的软件映像,安装在受限的断开连接网络中。有关组件使用的存储必须在该网络内可访问,管理员还需配置身份验证和其他依赖。这些已有选项解释了本地控制AI的实现方式,但未确定联盟最终销售何种离线配置,也不意味着软件、存储和身份管理可以免于维护。

对于政府采购方或承担涉密业务的企业,潜在用途是在明确的运营安排下,把模型与获准使用的内部知识结合起来。评估此类应用既要看答案是否有用,也要检查数据访问是否适当。一次成功的文档检索演示只能回答部分问题:采购方仍需了解用户可以检索哪些资料、应用依赖什么组件,以及谁负责维护环境。

secunet表示,下一步是组件集成及其协作验证,之后还要完成必要的许可和放行程序,才能提供该服务。公告没有公布价格或正式上市日期。目前它仍处于开发阶段,实际交付取决于后续实施、验证与审批。