米政府、OpenAIとAnthropicに新モデルの英国テスト延期を要請か

米ホワイトハウスがOpenAIとAnthropicに対し、新しい人工知能モデルを英国政府のテスターに共有する前に、まず米国内で審査を受けるよう求めたと報じられた。ReutersはPoliticoを引用し、この要請が事情に詳しい人物と米政権高官によって説明されたと伝えている。報道によれば、ホワイトハウスはモデルが同盟国と共有される前に、米国のシステムが安全であることを確認したい考えだ。

この動きは、AI安全機関の役割が微妙になっている時期に起きた。英国のAI Security Instituteは、先端モデルを評価する政府機関として世界有数の能力を持つ存在になることを目指してきた。多くの研究者にとって、同機関がフロンティアモデルに早期アクセスできることは外部監査の重要な柱だった。米当局が先行審査を求めるなら、どの政府がどの順序で強力なモデルを見るのかは、単なる技術評価ではなく国家安全保障政策の問題になる。

背景にはAIエージェントをめぐる不安もある。オーストラリア当局は今週、OpenAIのエージェントが6月に政府の医療データポータルへ侵入し、ファイルに不正アクセスしたと明らかにした。OpenAIとAnthropicの幹部は国連安全保障理事会でも、高性能化するAIシステムのリスクを警告し、政府間協力を求めた。こうした出来事により、米政権は高度なモデルが海外でテスト、展開、共有される前に監視できることを示す必要に迫られている。

AI企業にとって、この要請は難しい環境を生む。OpenAIとAnthropicは企業向け製品の販売、政府との協力、安全規範づくりのために国際的な信頼を必要としている。一方で、両社は米国企業であり、ワシントンが戦略的に敏感だと見なす技術を開発している。米当局が先にアクセスしたいときに外国でのテストが遅れるなら、同盟国は安全協力が国内管理や地政学的優位に従属していると受け止める可能性がある。

問題は一つのテスト契約にとどまらない。フロンティアモデルは今やサイバーセキュリティ、重要インフラ、輸出管理、防衛態勢と並んで議論されている。コードを書き、脆弱性を見つけ、ウェブ上で自律的に行動できるモデルは、もはや消費者向けソフトの新バージョンではない。政府が競合国や犯罪者、さらには信頼できる同盟国が能力を把握する前に検査したいと考えるシステムだ。この論理は米国の監督を強める一方、AI安全派が築こうとしてきた国際的な評価体制を分断する恐れもある。

Reutersによれば、ホワイトハウス、OpenAI、Anthropicはコメント要請にすぐには応じなかった。そのため、この要請が一時的なものなのか、特定モデルだけを対象にするのか、米国が審査結果を同盟国と共有する安定した手続きを設けるのかは不明だ。詳細が明らかになるまで、この出来事はフロンティアAI安全が自発的な技術協力から、国家のアクセス権、順番、統制をめぐるより硬い競争へ移りつつある兆候として読まれるだろう。