国連でAI監督論と「スーパーインテリジェンス」論が衝突

人工知能は国連総会で、未来をめぐる最も鋭い論点の一つになった。APによると、António Guterres国連事務総長は演説でより強い監督を求め、生死に関わる判断を機械に委ねてはならないと警告した。一方、Donald Trump米大統領は同じ舞台で逆方向の言葉を選び、米国の公式文書では人工知能を「super intelligence」と呼びたいと述べた。

この対比は、世界のAI議論の大きな分裂を映している。Guterres氏ら規制を求める側は、強力なAIが兵器、重要インフラ、意思決定システムに十分な責任なしで導入されることを懸念している。「キラーロボット」という表現は劇的だが、実際には自律システムが人間の意味ある管理なしに標的を選んだり攻撃したりしてよいのかという政策問題を指す。Guterres氏は、壊滅的で不可逆的な被害の可能性を警告する国連の新しい科学報告にも触れた。

Trump氏のメッセージは速度、自信、国家間競争を中心にしていた。Axiosによると、同氏はartificialという言葉が技術を偽物のように見せるとして、公式文書でsuper intelligenceを使う考えを示した。また、AIを管理する世界的な仕組みを拒み、中国との競争を米国が勝つべきものとして語った。この言葉選びは重要である。superintelligenceはAI分野で、人間を超える知能を指す既存の概念だからだ。

国連という場は、この衝突をより大きな問題にした。AIガバナンスはもはや研究者や技術法務だけの議論ではない。外交、安全保障、公共の信頼に関わる。自律兵器、偽情報、先端モデルの制御不能を懸念する国々は、展開が進みすぎる前に国際規範を求める。一方で、経済競争を重視する国々は、世界ルールが国内企業を遅らせたり、ライバルの優位を固定したりすることを恐れる。

この議論は、AIに対する社会の不安も反映する。人々は文章作成、コード、検索、顧客対応でAIを使いながら、研究者による警告も目にしている。国家指導者がキラーロボットやスーパーインテリジェンスといった表現を使うとき、それは政策だけでなく、有権者がAIの未来をどう想像するかにも影響する。

現実的な道は容易ではない。米国、中国、大企業が激しく競う中、包括的な世界協定は難しい。軍事自律性、緊急通報、モデル評価、透明性に絞った規則の方が可能性は高い。国連での議論は、AIが難題を解く力を持つ一方、事後対応では管理できないリスクも生むという二つの事実を、各国がまだ同じ言葉で扱えていないことを示した。