電力制約が生む「ワット当たり性能」という絶対指標#
AIインフラにおいて電力は逃れられない制約であり、固定された電力予算の中でどれだけのトークンを生成できるかが、AIファクトリーの収益と収益性を左右する——NVIDIAはこの考え方を出発点に、「ワット当たり性能（Performance per Watt）」をAIインフラ効率の根本的な指標と定義しています。
エージェント型AIの普及によってトークン需要がさらに高まる中、今日のインフラ選択が電力制約の時代における競争力を決定づけると同社は主張しています。
MoEアーキテクチャとGPUドメインサイズの重要性#
現在のフロンティアAIモデルのほぼすべてが「Mixture-of-Experts（MoE）」アーキテクチャを採用しています。MoEとは、複数の専門的なサブモデル（エキスパート）を状況に応じて使い分けることで、高い知能を効率的に実現するアーキテクチャの一種です。
このような大規模モデルを効率よくサービスするうえで、超高速なスケールアップ・インターコネクトで接続されたGPUの数（＝GPUドメインサイズ）が重要な要素となります。NVIDIAによれば、前世代のHopperが8GPUドメインを標準としていたのに対し、現在のフロンティアAIのスケールはそれを超えており、72GPUドメインでMoEをサービスするにはフルスタックの協調設計（コデザイン）と実運用での実績が必要だとしています。
GB300 NVL72の具体的な性能データ#
NVIDIAが発表したデータ（出典：SemiAnalysis InferenceX）によると、NVIDIA GB300 NVL72はHopper世代と比較して以下の性能向上を達成しています。
- DeepSeek V4 Pro：ワット当たり性能で最大25倍
- GLM5.1：ワット当たり性能で最大20倍
- Kimi K2.6（長期エージェントタスク向けモデル）：ワット当たり性能で最大10倍
これらの数値は、GPUドメインサイズを8から72へ拡大したことがMoE性能向上に寄与することを示すものとされています。また、単一の数値では運用の実態を表しきれないため、NVIDIAはレイテンシ重視・スループット重視といった異なる動作点を「パレート曲線」として提示しており、DynoSimというツールを活用することで、GPUを実際に稼働させる前に最適な動作点を探索できると説明しています。
コデザインとソフトウェアが生む複合的な効率向上#
Blackwellが実現するワット当たり性能は、シリコンからソフトウェアまでをラックスケールで一体設計した「極限のコデザイン」の成果だとNVIDIAは述べています。
注目すべき要素として、NVIDIA NVLink Switch（第6世代）は汎用ネットワークを転用したものではなく、AI専用に設計されており、スイッチ内でのインネットワーク演算（SHARP）によってGPUの負荷を軽減します。
ソフトウェア面では、NVIDIA DynamoやTensorRT LLM、SGLang、vLLMといった推論ソフトウェアスタックがNVFP4量子化、分散サービング、大規模エキスパート並列処理、KVキャッシュオフロードなど多数の最適化を積み重ねて機能します。実際にDeepSeek V4では、わずか1か月でワット当たり性能が最大5倍向上したとされています。
また、AIファクトリーでは電力の約60%しか実際のAI処理に使われないという非効率が存在します。これを解消するのがNVIDIA DSX MaxLPSであり、GPU間・ラック間のリアルタイムな電力配分やウォームウォーター液冷サポート、パワーステアリングなどの手法により、同一電力予算内で最大40%多くのGPUを稼働させることが可能になるとしています。
実運用での実績が次世代の競争力を生む#
ラックスケールの信頼性は実運用を通じてのみ獲得できるとNVIDIAは強調しています。Anthropic、OpenAI、SpaceXAIといった主要AIラボがNVIDIA Blackwell NVL72システムで推論を実行しているほか、以下の事業者が本番環境での採用を公表しています。
- CoreWeave：GB300 NVL72上でKimi K2.6を展開（NVFP4量子化とEAGLE3スペキュラティブデコーディングを組み合わせて活用）
- Perplexity：GB200 NVL72上でQwen3 235BおよびQwen3.5-397B-A17Bを稼働させ、日々数百万件のクエリを処理
- Fireworks AI：Blackwellプラットフォーム上でGLM 5.2を展開し、CursorやFactory AIを含む顧客向けに提供
こうした実運用の積み重ねが、次世代プラットフォームであるNVIDIA Vera Rubinの優位性の基盤となると説明されています。
まとめ#
NVIDIAはワット当たり性能をAIインフラ効率の根本指標と定め、GB300 NVL72がHopper世代比で最大25倍の改善を達成したことを示しました。シリコン・ネットワーク・ソフトウェアの一体設計、電力管理の高度化、そして実運用から得られた知見の積み上げが、この数値を支えています。
筆者の見解: 「ワット当たり性能」という指標は、単なるマーケティング上の訴求にとどまらず、電力コストが事業経済性に直結するAIファクトリー運営においては極めて実務的な判断基準です。ソースに示されたデータや実運用事例の厚みは、次世代プラットフォームへの移行を検討する組織にとって無視しにくい根拠となるでしょう。
出典: Why Performance per Watt Is the Ultimate Metric for AI Infrastructure Efficiency
