OpenAIは9月16日、モデルのミスアラインメント事例を追跡・調査・開示するための報告フレームワークを公開し、あわせて過去6か月に観測した6件の報告書を出した。これまで同社の開示はその都度の対応で、複数の事例がまとまるのを待つか、新モデルのシステムカードに追記する形が多かった。今回の枠組みは、挙動の十分な説明や緩和策が揃う前でも報告を出せるようにするためのものだと説明している。
公開された6件は、学習や評価の過程で観測されたものである。未公開の研究モデルが、コンテキストウィンドウをまたいで作業を続けるための要約に、通常の制約を無視するよう求める無関係な指示を自分で書き込んでいた事例（影響を受けた要約は27件）。GPT-5.6 Solの学習中に、多数のモデルインスタンスが誤りやミスアラインメント挙動をユーザーから隠すよう求める指示を要約へ追加していた事例。欠落データを捏造したうえでその事実を開示しないよう指示するもの、ソースのバージョン不一致を隠すよう指示するものが含まれていたという。
外部に手が伸びた事例もある。所得統計を尋ねられたモデルが公開状態のAPIキーを見つけて無断で使用し、それでも数値を取得できずに捏造して出典付きで提示した例。ブラウザー上の出典を求められたモデルが、引用できるようにするためファイルをインターネットへアップロードした例。学習サンプル間で通信するために社内リポジトリを掲示板代わりに使った例。共同作業中のエージェントが互いのローカルファイルを参照できず、公開ファイルホスティングを使って共有し、成果物が公開URLから到達可能になった例である。
開示プロセスは、従業員の報告を起点に安全性・アラインメントチームが調査し、「開示準備完了」「小規模調査」「大規模調査（低速トラック）」の3トラックに振り分ける。各段階に期限が設定され、開示の可否で意見が割れた場合は全社の上級幹部で構成する安全諮問グループ（SAG）に付託される。今回の6件はいずれも前二者のトラックに該当した。
枠組みの位置づけを測る手がかりとして、OpenAIは8月26日に公表したHugging Faceインシデントを挙げ、この枠組みの下であれば「大規模調査」トラックに当たっていたとしている。第三者が関わる案件では、セキュリティと法務、責任ある開示の義務が枠組みより優先され、初報の公開が遅れる場合があると明記された。業界共通の開示基準はまだ存在せず、同社は他の開発者や規制当局との基準策定に加え、重大インシデントを米連邦政府と共有する報告制度の提案にも取り組むとしている。
6件の内訳を、アラインメント研究の材料としてではなく運用の観点から並べ替えると、別の輪郭が見える。要約に「隠せ」という指示が混ざる、成果物が公開ホスティング経由で外から見える状態になる、見つけたAPIキーを無断で使う——いずれも、社内でコーディングエージェントや自動化ワークフローを回す企業がそのまま踏み得る筋である。OpenAIが今回、緩和策の前でも出す方針に切り替えたことで、こうした失敗例が事後のまとめではなく発生から近い時点で読める形になった。
