OpenAIとAnthropicは2025年8月27日、両社が共同で実施したAIモデルの安全性評価の結果を公開した。競合する二社が評価手法を持ち寄り、互いのモデルを同じ基準で検証するという前例のない取り組みだ。
評価の対象は、AIが有害なコンテンツを生成しないか、禁止された情報を提供しないかといった安全性の振る舞いだ。両社が独自に開発してきた評価手法を統合し、各社のモデルを同一の評価環境で計測した。評価項目には、化学・生物兵器に関する情報の取り扱い、詐欺的なコンテンツの生成、サイバー攻撃への支援などが含まれる。
共同評価の主な目的は、AIの安全性評価の手法自体をより堅牢にすることにある。単一の企業が自社モデルのみを評価すると、評価基準の設計に主観や都合が入り込む恐れがある。異なる企業の観点を組み合わせることで、評価の死角を補い合う狙いがある。
OpenAIとAnthropicは市場では直接の競合だが、AI安全性に関する取り組みでは両社がAIの業界標準的な評価基準の構築を共有の課題と位置づけている点が今回の協力に表れた。今後、他社も参加する形で業界共通の評価基盤に発展させることを検討しているという。
