NVIDIAは7月21日、次世代のAI推論基盤「Vera Rubin NVL72」を発表した。CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructureなど300社以上のパートナーがすでに導入を進めているという。「NVL72」という名称は、NVLinkで72基のGPUを1つのドメインとして接続する構成に由来する。前世代の「Grace Blackwell NVL72」から接続規模の考え方は据え置きつつ、GPU・CPU・ネットワークそれぞれの世代を引き上げた構成になる。
CoreWeaveはNVIDIA製GPUのレンタルに特化したクラウド事業者で、NVIDIA自身も出資しており、新世代ハードウェアのベンチマーク発表元として名前が挙がることが多い。そのCoreWeaveによるベンチマークでは、前世代の「Grace Blackwell NVL72」と比べて消費電力あたりのトークン処理数が10倍になったと報告されている。Google Cloudの「A5X」環境での計測では、トークンあたりの推論コストが10分の1、消費電力あたりのスループットが10倍という結果も示された。NVIDIAはさらに、Blackwell世代と比べて100万トークンあたりのコストを100分の1に抑えられるとしている。CPU単体の性能についてもDeepInfraの計測結果が示されており、オーケストレーション処理が2.2倍高速化し、同時に扱えるAIエージェントの数が1.6倍に増えたという。採用企業にはMistralやTesla、DeepInfraも名を連ねている。
単体チップではなく「ひとつのシステム」として設計
NVIDIAはVera Rubin NVL72について、GPU・CPU・ネットワークスイッチ・DPUを「個別の既製品として組み合わせるのではなく、システム全体として設計した」と説明している。具体的には、GPU「Vera Rubin」、独自コア「Olympus」を搭載したVera CPU、Groq 3 LPX、ネットワークスイッチ「Spectrum-6 SPX」、DPU「BlueField-4 STX」を含む7種のチップを、5種類のラックトレイに一体設計した構成だ。GPU・CPU・ネットワーク機器をそれぞれ別のベンダーから調達して組み合わせる従来型のデータセンター構築では、コンポーネント間のインターフェースを合わせ込む検証作業がボトルネックになりやすかった。Vera Rubinはこの検証負荷を運用側から取り除く狙いがある。GPU単体の性能競争から、ラック単位・データセンター単位での効率競争へと比較の軸が移ってきていることの表れでもある。
供給網の再設計でラック組み立てを「数時間から1分」に
NVIDIAは今回、性能だけでなく供給体制も刷新した。世界30カ国、350カ所以上の工場を分散配置し、これまで数時間かかっていたラックの組み立て時間を1分程度まで短縮したとしている。データセンター向けチップは需要急増に対して製造・組み立てがボトルネックになりやすく、Blackwell世代でも供給が需要に追いつかない状況が続いていた。Vera Rubinでは設計段階から量産体制を織り込むことで、この課題への対応を図った形だ。冷却面でも液冷システムの採用により、メガワットあたり年間数百万ガロンの水を節約できるとしている。
欧州データ主権を意識したMicrosoft・Mistralの提携拡大
NVIDIAはMicrosoftとMistralの提携拡大にも触れており、欧州のデータ主権要件を満たす形でAI基盤を構築する計画があるとしている。域外へのデータ移転に厳格な規制を持つ欧州では、米国企業のクラウド基盤をそのまま使うことに慎重な企業も多く、現地でデータを処理・保管できる基盤の需要が高まっている。フランス発のAI企業であるMistralは、欧州域内での学習・推論基盤を求める企業との親和性が高く、Vera Rubinの供給網拡大と合わせて欧州展開の受け皿になる可能性がある。両社の提携拡大は、性能競争だけでなく「どこでデータを処理するか」という規制対応の面でもAI基盤企業間の差別化点になりつつあることを示している。
トークンあたりのコストが下がれば、CoreWeaveやGoogle Cloud経由でモデルを提供する企業のサービス価格にも影響しうる。ChatGPT・Claude・Geminiの料金比較を振り返っても、各社はこれまで推論コストの低下を新機能追加や価格改定の原資にしてきた経緯があり、今回のような基盤側のコスト低減が今後のプラン改定にどう波及するかが注目される。値下げという形で消費者に還元されるか、各社の利益率改善に回るかは、次の決算やプラン発表を見なければ判断できない。
