NVIDIA、業界企業とオープンなAIセキュリティ同盟を設立

NVIDIAと複数のテクノロジー企業は、Open Secure AI Allianceを設立すると発表した。インフラ事業者、サイバーセキュリティ企業、企業向けソフトウェア会社、オープンソース組織が参加し、AIシステムとその周辺ソフトウェアを守る技術を共同で開発・共有する。目的は、各社が別々に制御策を作るのではなく、開発者が検査、調整、導入できる共通の基盤を広げることだ。

AIを巡る攻撃面はモデルだけに限られない。学習データ、モデルの提供エンドポイント、プラグイン、依存パッケージ、企業情報に触れられるアプリケーションも入口になり得る。エージェントは文書を読み、APIを呼び、認証情報を使い、人が結果を見る前に複数の判断を連続して行う。従来のアプリケーション対策は必要だが、エージェントが何を許され、各操作をどう追跡するかまでは説明しきれない。

同盟は、Linux Foundationやオープンソースのセキュリティ・コミュニティが進めてきた取り組みを基礎に、脆弱性の開示、修正、評価を進めるとしている。NVIDIAはモデル、重み、データ、エージェント用ハーネスの研究を提供する。NVIDIA Labsの初期プロジェクトは、エージェントの挙動をテスト、追跡、監査、管理しやすくすることを狙う。参加企業は、ID標準、安全な重み形式、署名済みパッチ、複数モデルのスキャンも持ち寄る。

オープンな方式は、機密データを外部サービスへ送らずに自社環境で安全策を動かしたい組織に意味がある。既存の監視システムに組み込めることも重要だ。一方、公開するだけで保守の問題が消えるわけではない。長く使われるプロジェクトには維持担当者、資金、リリース手順、脆弱性発見時の責任分担が必要になる。

AIを導入する企業にとって、この同盟はモデルとソフトウェア、外部操作を組み合わせたシステムを評価する共通語を提供する可能性がある。検査対象は重みだけでなく、ID、権限、隔離、ツール、ログ、評価を含むエージェント全体でなければならない。モデルを守っても認証情報や古い依存パッケージを放置すれば、実際の事故では大きな穴が残る。

今回の発表は完成した製品というより、共有できる防御基盤を作る出発点だ。影響力は、特定ベンダーに閉じないコードとテスト手法を公開し、発表後も継続して保守できるかで決まる。次の試金石は、実際のインシデントで防御側がツールを動かし、異なるモデルやクラウド環境で監査結果を再利用できるかどうかになる。

同盟の背景には実際のセキュリティ事案もある。Hugging Faceの調査では、閉じたツールが攻撃者と防御者を区別できず、オープンウェイトのGLM 5.2を自社基盤で動かして1万7000件以上の操作を分析し、侵入を封じ込めた。NVIDIAは、これは防御側が自分の環境で先端エージェントを検査・調整・実行できる必要を示すと説明する。同時に、オープンモデルが悪用され得ることも認め、厳格な評価、悪意ある利用への規則、迅速な修正を組み合わせる必要があるとしている。