米国、中国とのAI事件通知メカニズムを提案

米国は、国家安全保障に影響し得る重大な人工知能の事故について中国に通知する新しいチャンネルを提案した。世界の二大AI大国の間に安全上のガードレールを作る小さくも重要な一歩である。APによると、Scott Bessent財務長官はニューヨークで中国の何立峰副首相と会談し、ホワイトハウスで予定されるトランプ大統領と習近平国家主席の会談を前にこの案を示した。

Bessent氏は提案を、国家安全保障上のリスクを生むAI事件の「通知メカニズム」と説明した。これは広範な技術条約でも、AI開発の減速でもない。危機時の連絡手段であり、AI関連の出来事が危険な誤解を生み得る水準に達した時、ワシントンと北京が互いに知らせる方法である。同氏は、両国が共通の目標と脅威について共有された見方を持つ必要があり、世界の上位二つのAI大国の間で透明性を高めることが重要だと述べた。

この提案は緊張した政策環境で出てきた。トランプ政権は、中国が前進し続ける以上、米国はAI開発を遅らせられないと繰り返し主張してきた。一方で、事故、悪用、エスカレーションへの懸念は両国にある。AIは消費者向け製品や業務ツールだけではなく、サイバー作戦、軍事計画、監視、偽情報、重要インフラに関わる技術として議論されている。

通知メカニズムは軍備管理条約ほど大きな枠組みではないが、手続きに意味がある。核や軍事の歴史では、通信チャンネルは相手の試験、事故、警告を敵意として誤読する可能性を下げてきた。AI事件は定義がさらに難しい。モデルがサイバー攻撃を可能にした場合、政府の敏感な場面でシステムが誤作動した場合、前線モデルへの不正アクセスが起きた場合、自動化ツールが国境を越えるリスクを生んだ場合などが考えられる。

問題は、何を報告対象にするかである。米国と中国は安全保障上の脅威を異なる形で定義し、双方とも能力や弱点を明かしたくない。専有モデル、情報機関の手法、重要システムの脆弱性を開示せずに、誤算を防ぐだけの具体性を持たせる必要がある。不完全でも、危機前に連絡の習慣を作る価値はある。

AIの協議は、貿易や関税を含むより広い経済対話の一部だった。Bessent氏と米通商代表のJamieson Greer氏は、両首脳が以前話し合った新しい「Board of Trade」を実務化することで一致したと述べた。中国国営メディアはAI対話を率直で建設的と表現した。AI安全性は、企業の方針や国内規制だけでなく、すでに国際外交の課題になっている。