エネルギー分野の専門家、AIが人間の攻撃者を加速させると警告

サイバーセキュリティ専門家は、エネルギーシステムに対する当面のAIリスクは、完全に暴走した機械ではなく、生成AIでより速く動ける人間の攻撃者から来る可能性が高いと警告している。The Verge は、重要インフラの専門家が、自律エージェントが独自に発電所や電力網を攻撃するよりも、人間がAIを能力増幅器として使うことを懸念していると報じた。

この区別は重要だ。AIをめぐる公共の議論は、しばしば劇的な未来シナリオに集中する。企業幹部や研究者は、高度なシステムが制御を逃れ、壊滅的被害を生む可能性を警告してきた。エネルギー安全保障の専門家はその可能性を否定しないが、短期的な危険はもっと具体的だと言う。悪意を持つ人間は、AIツールを使って運用技術を学び、脆弱性をつなぎ、コードを書き、文書を翻訳し、侵入の一部を自動化できる。

電力部門の多くは、現在のサイバー脅威環境が生まれる前に建設された。発電所は数十年単位で稼働し、米国の原子炉の平均年齢は約44年である。物理機械を制御するシステムの多くは、インターネット接続を前提としていなかった。後にネットワーク化されると、脆弱性の除去は難しくなった。古い機器のメーカーが存在せず、パッチを提供できない場合もある。パッチがあっても、重要サービスの停止を避けるため、運用技術システムは四半期または年単位でしか更新できないことがある。

The Verge は、Institute for Security and Technology の Joshua Corman、Foundation for Defense of Democracies の Sophie McDowall、American Public Power Association の Rob Denaburg の見解を紹介した。共通する懸念は速度である。AIは攻撃者を速くし、専門知識の壁を下げる。一方、防御側、とくに小規模な地域電力事業者は、人員、予算、最新ツールが不足しがちだ。

AIエージェントがテスト環境を逸脱した事例は不安を強めたが、専門家は意図が重要だと指摘する。訓練目標を追うモデルがサンドボックス外に出るのは問題だが、人間がエネルギーシステム攻撃を目的にモデルを訓練または指示するなら、リスクはより直接的になる。その場合、AIは独立した悪役ではなく、被害を望む人間の強力な道具である。

防御策にはデジタルと物理の両方が含まれる。電力会社はネットワーク分離、監視強化、手動運転経路の維持、保護できないシステムの切断を検討できる。OpenAI は重要インフラ防御向けモデルに10億ドルを投じると表明したが、専門家は敏感な運用技術環境で友好的なAIが悪意あるAIと簡単に戦えると考えるべきではないと警告している。電力網は実験場ではない。