OpenAIは7月29日、GPT-5.6ファミリーの効率化に関する技術解説記事を公開した。モデルの推論コストをどう下げてきたかを、推論基盤とエージェント実行基盤の両面から明らかにする内容で、最適化作業の多くをGPT-5.6自身に任せた点が特徴となっている。
OpenAIによれば、フラッグシップの「Sol」は最大推論設定でArtificial Analysis Coding Agent Indexにおいて競合のClaude Fable 5を上回りながら、コストは半分以下に抑えられているという。中位モデルの「Terra」は知能ベンチマークでGPT-5.5と同等の性能を価格半額で達成し、最軽量の「Luna」はSolに対して価格を8割抑えた最速モデルと位置づけられている。
推論を担うインフラ面では、地理・空き容量・アクセラレータの種類に応じてリクエストを振り分ける負荷分散の設計を見直した。クラスタ内でも負荷やコンテキスト長、キャッシュの有無に応じてモデルインスタンスへの割り当てを調整し、この改善だけで提供コストを大きく引き下げたという。入力トークンをまとめて処理する際に構築するKVキャッシュについても、バッチサイズやシャーディングなどワークロードごとに最適な設定が異なり、これまで人手では網羅的にチューニングできなかった領域だったが、Sol自身が候補設定を分析・評価することでワークロード単位の最適化を実用化した。
Sol自身がSolの推論コードを書き換える
OpenAIが強調するのは、これらの最適化の多くをGPT-5.6 Sol自身がCodex上で担った点だ。GPUで実行される演算コードであるカーネルについて、SolはOpenAIが公開しているGPU向けプログラミング言語TritonとGluonでの記述に習熟するよう訓練されており、Codexを介して本番用カーネルを自律的に書き換えた。この取り組みによってエンドツーエンドの提供コストは20%削減されたという。誤りを検知する独自ツール「FpSan」による検証も並行して行われた。
投機的デコーディング（小型モデルが下書きしたトークン候補を本体モデルがまとめて検証する方式）でも、Sol自身が下書き用モデルの構造を数百パターン試作し、学習プロセスの監視やハードウェア障害時の対応までを自律的に行った結果、トークン生成効率が15%以上向上した。人手による調整では追いつかない規模の試行錯誤を、モデル自身に回させる構図だ。
コンテキスト肥大化を防ぐRust製ハーネス
Codex・ChatGPT Workは1回のやり取りの中で、コード確認・履歴検索・ファイル編集・テスト実行といった複数のモデル呼び出しとツール呼び出しを繰り返す。この繰り返し部分のコストは呼び出し回数分だけ積み重なるため、OpenAIはRust製のオーケストレーション層を新設し、統合ツール・スキル・プラグインの情報を必要になるまで読み込ませない「遅延読み込み」を導入した。ツールの出力も既定で1万トークンまでに制限し、モデルが要求した場合のみ拡張する仕組みにしている。
また会話履歴を常に末尾に追記する形に固定し、ツールの提示順序も一定にすることで、プロンプトの前半部分をキャッシュから再利用できる「プロンプトキャッシュ」のヒット率を高めている。これはCodexのようなコーディング支援AIに共通する、繰り返し処理のコストをいかに抑えるかという設計課題への一つの回答だ。承認ポリシーのような実行時設定もツール定義に埋め込まず実行時に適用する形にし、キャッシュを崩さない工夫を重ねている。
OpenAIは、今回の改善の多くをGPT-5.6が自律的に実現したことが、今後の最適化ペースの加速につながるとしている。モデル自身が自らの実行基盤を改善する循環を、効率化の主要な手段として位置づけた形だ。
これまでOpenAIが公表してきた効率化は、モデルの蒸留や量子化など学習側の工夫が中心だった。今回の記事はその範囲を推論クラスタの運用設計とエージェントの実行環境にまで広げた点が異なる。GPT-5.5世代まではエンジニアが個別にチューニングしていたロードバランシングやKVキャッシュの設定を、Sol自身が本番トラフィックを分析しながら継続的に調整する体制に切り替えたことで、ハードウェアを増強せずに処理できるトークン数を積み増している。OpenAIが公表する数字はいずれも自社ベンチマークに基づくものだが、モデルの学習コストだけでなく、日々の推論・実行コストの引き下げが料金体系に波及する可能性は大きい。API利用者にとっては、モデルの選択だけでなく、Responses APIの設定やハーネス設計がコストと性能の両方を左右する要素になってきている。自前でエージェントを構築する開発者が、推論回数を減らす設計や履歴の持たせ方を工夫するだけでも、体感コストは変わってくるはずだ。
