NVIDIA、Cisco、CrowdStrike、Hugging Face、Red Hatなどが名を連ねるOpen Secure AI Allianceは8月4日、AIエージェントに関するセキュリティインシデントの情報を業界で共有するための指針「SAFE（Shared AI Findings Exchange）」を公表した。Linux Foundation傘下で120以上の組織が参加する同アライアンスの提案内容はNVIDIA公式ブログの発表で確認できる。
SAFEは「エージェント型のセキュリティインシデントを、エコシステム全体で共有できる防御情報に変える」ことを目的に掲げる。具体的には、(1)AIインシデントとニアミス事例を機密情報として収集・分析すること、(2)影響を受ける関係者へ迅速に通知すること、(3)繰り返し発生する制御の失敗を特定すること、(4)エビデンスに基づく運用上の推奨事項を公開すること、という4つの取り組みで構成される。これはAIエージェントが自律的にツールを操作・実行するようになったことで、単発の脆弱性報告だけでは対応しきれないインシデントが増えている状況を踏まえたものだ。
ソフトウェア業界のCVEに近い発想をAIエージェントに拡張
この枠組みは、新しい脆弱性データベースを一から作るというより、ソフトウェア業界で長年運用されてきたCVE（共通脆弱性識別子）のような情報共有の仕組みを、AIエージェント特有のインシデントに拡張する試みに近い。CVEが個別ソフトウェアの脆弱性を対象にするのに対し、SAFEはエージェントが自律的にタスクを実行する過程で起きる制御失敗や誤動作、想定外の連鎖的な挙動を対象にしている点が異なる。単一のベンダーが自社製品だけを対象に公表する従来の脆弱性情報とは異なり、120以上の組織が集まって情報を持ち寄る点も特徴で、特定ベンダーのエージェント基盤に閉じない業界横断の知見が蓄積されることが期待されている。
ID管理からランタイム監視まで、多層防御を前提にした設計
Open Secure AI Allianceは、AIエージェントシステムの防御には単一の対策ではなく、ID管理・実行環境（ハーネス）・ランタイムのガードレール・監視といった複数の防御層にまたがる協調的なアプローチが必要だとしている。SAFEはこうした多層防御の各層で得られた知見を、参加組織間で共有する土台と位置付けられている。企業が生成AIのセキュリティ対策を検討する際、自社のエージェント運用がどの防御層で弱いのかを把握する参考情報としても使える枠組みになりそうだ。
