NVIDIAは10月15日、オープンモデル群「Nemotron 3.5」に、視覚言語モデル「Nemotron 3.5 Super VL」とエッジ向けの「Nemotron 3.5 Bolt」を追加した。画面やPDFを読み取りながら複数手順の業務をこなすエージェント用途に照準を合わせ、データセンターからノートPCまでを同じ系列のモデルでカバーする狙いだ。
Super VLは総パラメータ1,200億のモデルで、Hugging Face上の名称「120B-A12B」から、推論時に動くのは約120億パラメータのMoE（専門家混合）構成と読み取れる。NVIDIAは、自社最大の推論モデルと同等の精度を約5分の1の規模で出し、同クラスのオープンモデルの中ではArtificial Analysis Intelligence Index上のスループットが次点の5倍になるとしている。OCR、表やグラフの読み取り、Webページ・PDFのような構造を持つ文書の理解を1つのモデルで扱えるため、テキスト用と画像用でモデルを振り分ける必要がない。推論サーバーのNVIDIA Dynamoと組み合わせると、同じ環境で最大8倍のユーザーを捌き、レイテンシを85%下げられるという。
学習には事前学習と継続事前学習あわせて約26兆トークン、事後学習に約380万サンプルと数十種類の環境での強化学習を使った。重みに加えて、ツール利用・金融・指示追従・長文脈・視覚言語理解などの学習データセットと学習レシピも公開し、強化学習環境はNeMo Gymで提供する。Super VLはHugging Face、OpenRouter、ModelScope、NVIDIA NIMで同日から利用できる。
Boltはローカル実行を前提にした系列で、今回は2モデルが示された。「Bolt 74B-A9B 24GB」は総740億・アクティブ90億パラメータで、ネイティブの2ビット量子化により24GBのメモリに収まる。PinchBenchで同クラスのオープンモデル1位、BrowseCompで2位としており、Hugging Faceで公開済み、llama.cpp・Ollama・LM Studio・Unsloth・vLLMが対応する。もう1つの「Bolt E4B 4GB」は4GBに収まる小型版で、会話型エージェントの応答速度を重視したモデルとして10月23日に公開される予定だ。
8月のLightningから続く4系統のラインアップ
Nemotron 3.5は8月に、300億パラメータのMoEモデル「Lightning」とルーティングライブラリ「NeMo Switchyard」から始まった。Lightningは同規模のモデル比で出力速度最大4倍をうたう高スループット向けで、発表の中心は速度とコストだった。今回の追加で、高スループットのLightning、最難関の推論を担うUltra、文書や画面を読むSuper VL、手元のGPUで動くBoltという4系統が揃い、用途ごとにサイズと特性を選び分ける形になった。
Super VLの導入先として挙がっている企業も、文書を読む業務に寄っている。Scale AIはEYのM&Aデューデリジェンス用エージェントを、AfterQueryはHebbiaの融資契約書分析を、それぞれSuper VLの追加学習で構築した。Rampは財務書類の処理に、Atlassianは JiraとConfluenceを横断するエージェント検索に使う。重みを自社環境に置けるため、データの所在地要件がある金融・医療・政府系の用途を前面に出している。
「24GB」はRTX 4090／3090に収まるサイズ
Bolt 74Bの24GBという数字は、GeForce RTX 4090やRTX 3090のビデオメモリ容量と同じだ。740億パラメータを一般的な16ビットで保持すると重みだけで約148GBが必要になるが、2ビットなら約18.5GBに縮む。残りをKVキャッシュなどに充てて1枚のコンシューマーGPUに収める設計とみられる。量子化を後処理で施すのではなく、最初から2ビットで動く前提のモデルとして出している点が、既存のオープンモデルを各自で量子化して使うやり方との違いになる。対応GPUにはGeForce RTX搭載PCのほか、DGX Spark、DGX Station、10月16日に発売されたRTX Sparkノートが含まれる。
オープンな視覚言語モデルでは、AlibabaのQwen3-VLの最大構成が総2,350億・アクティブ220億パラメータで、Super VLは総数・アクティブ数ともその約半分の規模になる。Super VLはOpenRouter経由で日本からもAPIとして試せるほか、重みをダウンロードして社内サーバーで動かせるため、海外クラウドに文書を送れない国内企業がPDFや帳票の読み取りエージェントを内製する際の候補になる。
