ホーム / ニュース / OpenAI、敵対的蒸留への対策を公表 GPT-6.2 Astraで推論の抽出成功率を54%から0.2%に

OpenAI、敵対的蒸留への対策を公表 GPT-6.2 Astraで推論の抽出成功率を54%から0.2%に

OpenAIは11月20日、自社モデルの出力を無断で別モデルの学習に使う行為への取り組みをまとめた敵対的蒸留(adversarial distillation)対策の報告を公開した。11月17日に発表したGPT-6.2 AstraとGPT-6.2 Solで防御を強化し、モデル内部の推論過程を引き出す攻撃の成功率を大きく下げたという。

蒸留は、あるモデルの回答や推論を教材にして別のモデルを訓練する一般的な手法だ。OpenAIが問題視するのは、許可なく出力を集めて訓練したモデルが、元のモデルの安全対策を持たないまま展開されるケースである。報告では、元のモデルなら拒否していたサイバー攻撃の支援を、蒸留したモデルが平然とこなす例を挙げ、とくにサイバーセキュリティと生物学のような防御にも攻撃にも使える分野でリスクが大きいとしている。

防御の中心に置かれているのが「保護された推論(protected reasoning)」、つまり最終回答の手前にある思考過程だ。社内の自動レッドチーミングによる適応型評価では、前のリクエストの推論を抜き出す攻撃の平均成功率が、従来の安全対策を備えたGPT-6 Astraの54.0%から、新しい対策を入れたGPT-6.2 Astraでは0.2%に下がった。現在のリクエストの推論を抜き出す攻撃でも22.9%から0.9%に低下している。数値は6種類の攻撃モデルの結果を集計したもので、OpenAIは改善の一部をGPT-6 Astraにも適用中だとしている。

アカウント単位の取り締まりも続いている。2026年は複数の組織的な蒸留キャンペーンを確認しており、処分したアカウント数は週あたり数千から数万に及び、夏以降に大きく増えたという。

要約ではなく「生の推論」が狙われる理由

推論の保護にこだわる根拠として、OpenAIは社内実験の結果を示した。同じ事前学習済みの生徒モデルに、Astra級の教師モデルがコーディングや防御的セキュリティの課題を解いた軌跡を学習させる。ユーザーに通常見える範囲(最終回答・推論の要約・ツール操作)だけを与えた場合と、教師の推論そのものを与えた場合で比べると、教師あり微調整の段階では推論そのものを学んだ側がおおむね上回った。追加で軽い強化学習をかけた後も、ExploitBenchとSEC-bench Proの両方で、推論量を最大にした条件では推論そのものを学んだ側の得点が高かった。一方、推論量が少ない条件では要約で学んだ側が上回っており、差は一様ではない。

Anthropicも以前、全文の推論記録で学習した方が要約で学習するよりSWE-bench Verifiedの成績が良いという結果を報告しており、OpenAIはそれを最前線のサイバー能力に広げた形だと位置づけている。利用規約上は問題のないタスクでも、推論の中身が流出すればサイバー能力が移転しうる、というのがOpenAIの結論だ。

API利用者に影響する変更:書き換えた履歴の後ろの推論は捨てられる

対策は、モデルへの防御訓練、入出力の分類器、API側の制限、アカウント群の調査という複数層で構成される。出力側の分類器は回答本文だけでなくツール呼び出しの引数も検査する。最終回答に出なくても、引数経由で推論が漏れることがあるためだ。

開発者が気にすべきなのはAPIの挙動変更だ。GPT-6.2 AstraとSolでは、暗号化された推論がそれを生んだ会話履歴に紐づけられ、過去のメッセージを書き換えると、それ以降の推論はAPI側で破棄される。会話を要約・圧縮して履歴を差し替えるタイプのエージェント実装では、推論の引き継ぎが効かなくなる場面が出てくるので、OpenAIの開発者向けドキュメントにある「履歴の先頭部分を変えない」運用への対応を確認しておきたい。また、安全対策の弱い旧世代モデルからはAstraとSolの推論を読めないようにした。

この変更の直接のきっかけは、OpenAIが9月に公表した事例だ。暗号化された推論を別の会話へ持ち込み、読める形で出力させる手口が見つかり、OpenAIはその中核部分をKimiを開発するMoonshot AIの関係者によるものとしていた。今回の報告では、2月にDeepSeekによる米国モデルの蒸留の試みを議会に説明したことにも触れ、外国勢による能力の不正取得に制裁を可能にする立法や、Chip Security Act、AI OVERWATCH Act、MATCH Actへの支持を改めて表明している。

他社への提言としては、ツール引数まで含めた推論漏えいの検査、成功した攻撃ログを回帰テストとして残すこと、リクエスト単位の防御とキャンペーン単位の取り締まりの併用、提携先との基準統一の4点を挙げた。攻撃の兆候はFrontier Model Forumや政府の情報共有チャネルを通じて他社とも共有しているという。

タグ付け処理あり: