NVIDIAが公開した技術ブログは、エージェントAIの本格的な事業展開に伴うインフラ要件の変化と、それに対応する新設計思想を具体的に示した。1回のリクエストが多数のモデル呼び出しやメモリ参照、ポリシーチェックを連鎖させるエージェント型の推論では、GPUの計算能力だけでなく、データ移動とセキュリティ処理の高速化が収益に直結するからだ。

エージェントAIが露呈させるCPUボトルネック

エージェントAIでは、1つのリクエストが複数のモデル呼び出し、ツール実行、メモリ参照、ストレージアクセス、ネットワーク転送を引き起こし、応答が完了するまでに大量のインフラ処理が発生する。従来のようにCPUにこれらの制御を担わせると、GPUが計算待ちになる時間が増え、トークンあたりのコスト上昇と消費電力増加を招く。NVIDIAの技術ブログは、この構造的な非効率が多数のエージェントを同時稼働させるほど深刻化すると指摘している。

GPUと並走する専用プロセッサの設計思想

NVIDIA BlueField-4 DPUは、最大800Gb/sのEthernetまたはInfiniBand接続、64コアのGrace CPU、PCIe Gen6、高帯域幅LPDDR5Xメモリを単一チップに統合し、ネットワーキング、ストレージ、セキュリティ、テレメトリといったインフラ処理をホストCPUから分離・オフロードする。これによりGPUが本来の計算に専念でき、レイテンシの予測性向上やマルチテナント環境での分離強化が可能になる。同時に発表されたVera BlueField-4 STXストレージプロセッサは、DOCA Memosを通じてAI推論中のKVキャッシュ管理を高速化し、長期文脈の保持と再利用を支える。

事業収益に直結するエコノミクスの変化

このアーキテクチャ変更は、AIサービスを提供する事業者の収益構造に直接作用する。NVIDIAが掲げる成果指標は「GPU稼働率の向上」「トークンあたりコストの低下」「トークンあたり消費電力の改善」といった項目であり、技術的な優位性をコスト競争力と電力効率に翻訳している点が特徴だ。特にエージェントAIの商用展開では、1セッションで複数エージェントが同時に動き、外部ツールやデータベースとのやり取りが増大するため、CPUに依存したインフラ設計のままでは損益分岐点を悪化させる可能性がある。

AI工場の産業構造と日本企業への示唆

NVIDIA Vera RubinプラットフォームとDSXアーキテクチャの中核にBlueFieldとDOCAが位置づけられたことは、AIインフラ市場がGPUの性能競争から「データセンター全体の協調設計」へ移行していることを示す。この動きは、クラウド事業者や大規模データセンター運営企業だけでなく、AIエージェントを自社システムに組み込もうとする日本企業のインフラ選択にも波及する。GPU調達時のコスト評価に、CPUオフロードによる総合的な稼働率改善と電力効率の要素を加える必要が出てくるためだ。現時点では具体的な導入時期やパートナー企業は明らかにされていないが、エンタープライズ向けのAI基盤調達において、DPUの有無が投資判断の要素に加わる可能性がある。