OpenAIは8月25日、同社が自社開発した推論専用チップ「Jalapeño」の初の実測性能を公開した。消費電力あたりの処理量と応答の速さは通常どちらかを犠牲にして成り立つが、今回はその両方で比較対象の市販システムを上回ったとしている。
測定に使われたのは、半導体分析企業SemiAnalysisが公開しているベンチマーク「InferenceX」。リクエストを受け取ってから応答を返し終えるまでの一連の処理を対象とする。テストしたモデルはGPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tの3つで、いずれも公開されている重みを使っている。自社モデルではなく他社を含む公開モデルで測ることで、アーキテクチャがOpenAI製モデル専用の作りではないことを示す狙いがある。
3モデルを通した結果は、ピーク時の電力あたり処理量が比較システムの1.5〜1.9倍、エンドツーエンド遅延が1.7〜3.6分の1。応答の速さが重視される対話的な処理では2.1〜4.1倍の性能になったという。個別に見ると、GPT-OSS 120Bでは1キロワットあたりの処理量が毎秒85,448トークンで比較対象の44,960トークンの約1.9倍、エンドツーエンド遅延は1.03秒対1.80秒。DeepSeek R1では1.65秒対5.99秒、Kimi K2.5では1.56秒対5.31秒と、モデルが大きくなるほど遅延の差が開いた。
比較相手はGPT-OSSがNVIDIA GB200（公称1,200W）、DeepSeek R1とKimi K2.5がGB300（同1,400W）。Jalapeñoの公称電力は700Wで、テストした処理での実測の持続電力は550W以下だったとしている。
「チップ1枚あたり」ではなく「1キロワットあたり」で比べている
OpenAIは今回、性能をチップ単位ではなく電力単位で示すべきだという立場を明示している。電力あたりの処理量を基準にすると、消費電力の大きいシステムは同じ処理量でも数値が下がる。実際、比較対象のGB300は公称1,400WでJalapeñoの2倍にあたるため、チップ単位の比較とは順位が変わり得る。
ただし正規化に使われたのは各アクセラレータの公称電力であり、実測電力同士の突き合わせではない。Jalapeño側は実測550W以下という数字を出しているが、比較システムの実測消費電力は公開されていないため、実効的な差がこの倍率どおりかは今回の資料からは確認できない。
もう一つの指標であるTBT（トークンとトークンの間隔）では、GPT-OSSで0.69ミリ秒対1.87ミリ秒、ユーザー1人あたり毎秒1,459トークン対535トークンとなった。この指標が効いてくるのは、処理を何段階も順に重ねるエージェントの用途だ。1ステップの遅れがタスク全体で積み上がるため、1回の応答時間の差がそのまま完了までの時間差に効く。エージェントの仕組みそのものについては、別記事「AIエージェントとは？仕組みと主要サービスを解説」で整理している。
設計にAIを使い、AIが書きやすい形のチップにした
開発の進め方についても具体的な数字が出ている。初期設計からテープアウト（量産用の設計データ確定）までは9か月。実装案の探索や検証ループの短縮にAIを使い、チップ内の算術回路の最適化にもAIを充てたことで、予定どおりの日程で演算性能を積めたとしている。
逆方向の工夫もある。Jalapeñoは、人間だけでなくAIが扱いやすい構造になるよう設計された。処理をローカルなテンソル、明示的な通信、予測可能な同期として記述できる形にし、その割り当てやスケジューリングの最適化をAIに任せる。実例として、当初の生産計画に入っていなかったオープンウェイトモデル3種を、CodexとGPT-Astraを使って2か月で実用的な性能まで持ち込んだという。GPT-OSSのattentionとMoEの一部ブロックでは、AIが生成した実装が人間の専門家が書いた既存実装より1.5〜1.8倍速かった。ただしこれは選んだブロック単体の数字で、モデル全体の速度ではないと注釈されている。
なお、ここで名前の挙がったCodexを含むコーディング支援ツールの違いは、別記事「コーディングAI比較｜Claude Code・Cursor・GitHub Copilotの違い」で比較している。
年内に自社インフラへ、NVIDIA製の調達は続ける
Jalapeñoは年内にOpenAIの計算基盤への展開を始める予定で、第2世代は開発が進行中、第3世代も構想段階に入っているという。一方でOpenAIは、訓練・推論の双方でNVIDIAをはじめとするパートナーのアクセラレータを引き続き広く使うと明記している。ベンチマークの比較相手がGB200とGB300であることと、その調達を続けることは、同社の中では矛盾しない位置づけになっている。
同日にCFOのサラ・フライア氏が公開した文章では、同社の計算資源の調達先としてMicrosoftとNVIDIAに加え、AWS、AMD、Broadcom、Cerebras、CoreWeave、Oracle、SB Energy、ソフトバンクが並んだ。自社チップはこの調達網を置き換えるものではなく、処理の性質ごとに最適な系を選べるようにするための選択肢の追加として説明されている。
現時点でJalapeñoは、量産に向けた適格性検証とソフトウェアの成熟、大規模運用の準備、対応モデルを広げた性能検証を並行して進めている段階だとしている。
