secunet、Red Hat・deepsetとの機密情報向けAIクラウド計画を詳述

secunetは10月26日、Red Hatおよびdeepsetと開発し、NVIDIAの技術を採用する機密情報向けAIクラウドの計画を詳しく説明した。NVIDIAは10月21日にすでにこの協業を紹介しており、今回は安全設計と提供までの手順を補足する発表だ。運用中のサービスが新たに公開されたという意味ではない。

secunetによると、設計の基盤はSINA Cloudで、NVIDIA BlueField-3プロセッサーによって安全対策の処理をハードウェア層で分離する。既存のSINAの安全関連コンポーネントは、ドイツ連邦情報セキュリティ庁BSIから機密情報を扱う用途での使用許可を得ている。この許可は個別の実装の承認を支え得るが、将来の基盤上のすべてのアプリが承認済みという意味ではない。

NVIDIAの先行発表は各社の役割を説明している。アクセラレーテッドコンピューティングとNemotronのオープンモデルがAIの基盤を提供し、Red Hat OpenShift AIがワークロードを管理する。Haystackはエージェントを構成・連携させ、secunetはドイツのデータセンターでインフラを運用する。ドイツのクラウド運用会社と国際的な技術供給元を組み合わせる構成であり、管理権はシステムの運用場所や方法、モデルとアプリの選択に関わる。すべての部品が欧州製だと主張するものではない。

言語モデル自体は組織の内部文書を知らないため、アプリの構成も重要になる。Haystackの文書によれば、検索コンポーネントは質問に関連する文書を選び、処理の次の段階に渡す。行政機関向けの将来的な用途なら、職員が使用を認められた業務指針を検索し、その内容を踏まえて回答を準備する、といった流れが考えられる。これは検索拡張生成、RAGの仕組みを説明する例であり、今回の企業連合が発表した導入事例ではない。

適切な資料を見つけられるかどうかは、測定も必要になる。Haystackの評価機能の文書には、検索された文書を期待する結果と比較したり、生成された回答を参照回答と比べたりする手法が示されている。組織は試作品が正しい指針を探せるか、代表的な質問に答えられるかを試してから、業務への導入を検討できる。ただし、検索や回答品質のスコア自体は、機密情報の安全審査に合格した証拠にはならない。

Red Hatの導入文書は運用面の背景も示す。OpenShift AIは、必要なソフトウェアのイメージを私有レジストリーに複製することで、接続を制限したネットワークや外部と切り離したネットワークに導入できる。関連する構成要素が使うストレージは同じネットワーク内から到達可能である必要があり、管理者は認証や他の依存機能も設定する。これは管理可能な環境でAIを構成する方法を説明するが、企業連合が最終的に販売する切断環境の仕様を示したものではない。ソフトウェア、保存領域、IDの保守も引き続き必要だ。

政府の調達担当者や機密業務を支える企業にとって想定される価値は、運用上の責任関係を定めたうえで、モデルと利用を認めた内部知識を組み合わせる場所ができることにある。アプリの評価には回答の有用性と適切なデータアクセスの両方が関わる。文書検索の実演が成功しても、それで判断が完了するわけではない。利用者が検索できる情報、アプリを動かす構成要素、環境の保守責任者も把握する必要がある。

secunetは、次の段階として各構成要素を統合し、その連携を検証するとしている。その後、提供前に必要な許認可と承認の手続きを進める。発表には料金も一般提供日も示されていない。このサービスは依然として開発中であり、実際の提供は今後の実装と承認の手順に左右される。