Google DeepMindは2026年6月16日、AIエージェントの安全性研究に1,000万ドルの資金提供プログラムを発表した。数百万のエージェントが相互に作用する未来の環境を見据え、エージェント同士の連携に潜むセキュリティリスクの研究を支援する。
DeepMindが示した問題意識の核心は「不完全に整合されたAI（imperfectly aligned AI）」の扱いだ。エージェントが思い通りに動かない場合のリスクを最小化するため、自社ではAIエージェントを「内部の脅威（insider threat）」として扱い、多層的な防御設計を採用している。100万件超のエージェントタスクを使った大規模テストでも、整合が不完全なエージェントに対して「多層防御（defense-in-depth）」が有効であることを検証済みとしている。
エージェント制御のロードマップも公開されており、エージェントが取りうる行動の範囲を定義する「コントロール手法」と、エージェントの動作を継続的に監視・介入する「監督手法」の両輪で安全性を確保する方針が示された。
マルチエージェント安全研究という分野は、AIが単なるツールとして使われる段階から「自律的に行動する存在」として社会に組み込まれる段階への移行期に生まれた課題だ。研究資金の拠出は学術界との連携を深める狙いもあり、AIエージェントの信頼性と安全性を業界全体の課題として定義しようとする動きといえる。
