NVIDIAは8月24日、他社が設計した独自アクセラレータ（XPU）を自社のラック基盤に接続する「NVLink Fusion」の構成を公開した。Vera Rubin NVL72の本格生産と同じHot Chipsでの発表で、主眼は自社GPUを売ることではなく、独自チップを作る側にNVIDIAのラック規格・ネットワーク・運用ソフトを使わせる点にある。
技術面では、第6世代NVLinkが72基のXPUを1つのドメインとして束ね、ロードマップ上はコパッケージ光学を用いて1,152基規模まで広げるとしている。NVIDIAの主張では、NVLinkは汎用Ethernet構成に対してエンドツーエンド遅延が3分の1、パケットレートが10倍。XPUとCPUを直結するNVLink-C2Cは、PCIe接続とくらべて最大6倍の電力効率になるという。物理設計も流用でき、リファレンスの計算トレイはファンもケーブルもホースも持たない100%液冷で、800VDC給電に対応する。
ソフトウェアも同じものが使える。分散処理のNCCL、prefillとdecodeを分離するDynamoとNIXL、クラスタ運用のMission Control、データセンターのデジタルツインを作るOmniverse DSX AIファクトリー・ブループリントが挙げられている。ASIC設計、CPU、IP、光インターコネクトの各パートナーも対象に含め、基盤をゼロから設計せずに「セミカスタムのAIファクトリー」を組めるという位置づけだ。
この提案が向いているのは、NVIDIAにとって顧客であると同時に競合でもある層である。GoogleのTPU、AmazonのTrainium、MetaのMTIAのように、大手クラウドはいずれも自前の学習・推論チップを持ち、その分だけGPUの購入を減らす立場にある。NVLink Fusionは、そうしたチップを締め出すのではなく、NVIDIAのラック規格とネットワークの内側に置いてもらう設計になっている。GPUの販売数を失っても、NVLink・Spectrum-X・BlueFieldと運用ソフトの側で収益が残る、という組み立てだ。
Hot Chipsでは、インテルでバイスプレジデントを務めるTim Wilson氏が、NVLink Fusionによって顧客が自社のニーズに最も合うCPUアーキテクチャや性能水準、ソフトウェア機能を選べるようになる、とコメントした。製造委託側からはQCT（Quanta）のJack Luoh氏が、Vera Rubin NVL72向けに行った製造設備への投資をXPUベースのシステムにも転用できると述べている。NVIDIAはVera Rubin NVL72で「システム組み立てのほぼ100%自動化」を実現したとしており、同じ生産ラインに他社設計のXPUを流せることが、この構想を実務面で支える。
なお、GPUやXPU、推論といった本稿の前提になる基礎用語は、別記事「AI用語総覧」でカテゴリ別に整理している。
