京都で開催されていた「世界AI規制・安全サミット2026」は17日、最終日を迎え、高度な自律型AIシステムの開発・配備における安全性評価を義務付ける国際協定「京都合意」を採択して閉幕した。

この協定には日米欧をはじめとする35カ国の政府代表のほか、世界的な主要AI開発機関の首脳陣が署名した。合意文書では、一定の演算規模を超える次世代フロンティアモデルについて、第三者機関によるレッドチーム演習の受審、重大インシデントの報告義務、サイバーセキュリティ基準の厳格化などが盛り込まれた。

実効性とイノベーションの両立が課題

一方で、スタートアップやオープンソースコミュニティへの過度な負担を懸念する声もあり、小規模事業者向けの規制免除条項や支援枠組みも同時に策定された。議長総括では「安全性とイノベーションを両立させ、全人類に利益をもたらすAIエコシステムを築く」と宣言された。