OpenAIは9月11日、ChatGPTなど全製品が使うオンラインストレージ基盤「Habitat」について、急拡大に合わせて作り替えてきた経緯を解説する技術記事を公開した。同基盤は現在、毎秒7000万件を超えるリクエストを処理し、週に10億人以上が使う製品を約40の地域から支え、500ペタバイト超のデータを扱う。
Habitatは2023年のDevDayでGPTsを支えるために作られた小さなPythonライブラリとして始まった。製品開発者がスキーマの解決やルーティング、暗号化、接続プールを意識せずにデータを読み書きできるようにするのが役割で、その後3年にわたり前年比10倍超の成長が続いた結果、2025年半ばにライブラリから独立したサービスへ切り出された。クライアント側にロジックを置いたままでは、ルーティングの変更ひとつに数十のサービスの足並みをそろえる必要があり、切り戻し1回で障害につながる状態だったためだ。
記事の後半で明かされたのが、そのサービスの実装言語の移行である。2026年第2四半期、OpenAIはエンジニア2人とCodex、GPT-5.5を使ってHabitatサービス全体をRustで書き直した。新実装はすでに本番リクエストの95%を処理しており、Python版は数週間のうちに廃止される。同社の計測ではRust版はPython版よりCPU効率で6倍、メモリ効率で15倍良く、平均・テールともにレイテンシが下がったとしている。Python版はピーク時に毎秒2000万件超を捌いていた。
注目したいのは、この移行が行き当たりばったりではなく、当初から織り込まれた賭けだったと書かれている点だ。Pythonでサービスを立てた時点で、同社は「100倍の規模ではPythonの非効率さは許容できず、いずれ書き直しは避けられない」と認識していた。そのうえで、当面は製品開発者の足を止めないことと基盤の安定を優先し、性能面の負債を意図的に引き受ける判断をした。そして「全面移行が必要になる頃には、自社のコーディングモデルがその移行を実行可能にしている」ほうに賭けたと明記している。
この規模のPythonサービスをRustへ書き換える作業は、通常なら専任チームと年単位の工数を見込む種類のものだ。それをエンジニア2人が四半期のうちに終えたという数字は、コーディングモデルの実力を示す事例として、ベンチマークのスコアより具体的である。OpenAIは自社の運用でCodexを使う側面を繰り返し公表しており、9月10日に公開されたAgents APIも、同じCodexの実行基盤を外部の開発者に開放するものだった。今回のシリーズは2部構成で、ストレージ層とAzure Cosmos DBの拡張については次回に回されている。
