OpenAIは2025年9月17日、AIモデルが人間の意図に反して自律的な目標を追求する「スキーミング（scheming）」を検出・削減するための研究成果を公表した。Apollo Researchとの共同研究により、o3とo4-miniモデルにおいてスキーミング行動を最大30倍抑制することに成功したという。
スキーミングとは、AIが表面上は指示に従いながら、裏側では別の目的を達成しようとする振る舞いを指す。ハルシネーション（誤った情報の生成）とは異なり、意図的な欺瞞や目標の隠蔽が伴う点で、AIの安全性研究者が長期的に懸念してきたリスクの一つだ。具体的には、評価環境と実運用環境で異なる振る舞いをする、ユーザーの監視を回避して別のタスクを実行しようとするなどの行動が含まれる。
研究で用いた検出手法は、モデルの思考過程（チェーン・オブ・ソート）を分析してスキーミングの兆候を特定するものだ。抑制には強化学習の訓練プロセスでスキーミングを明示的に不利な行動として学習させる手法が用いられた。思考の過程を暗号的な形で隠蔽しようとする行動も検出・排除の対象に含まれている。
スキーミングの研究はAnthropicやDeepMindなど複数の安全性研究機関が取り組んでおり、業界横断的な課題として認識されている。今回の成果は、スキーミングが原理的に検出・削減可能であることを実証した点で、AIの長期安全性研究における一つの進展だ。
