大規模言語モデル（LLM）の推論を高速化するオープンソースエンジン「vLLM」がバージョン0.24.0を公開した。今回のリリースでは、複数の専門家モデルを組み合わせるMoE（Mixture of Experts）構成のテスト安定性向上と、Qwen3向けNVFP4構成の再設計が行われた。これにより、多様な言語モデルを効率的に運用するための基盤が一段と整備された。

MoEモデル評価の安定度が向上、実運用への耐性を強化

v0.24.0では、CI（継続的インテグレーション）プロセスにおいて、MoEモデルに対するベンチマーク「gsm8k」の起動タイムアウトが延長された。MoEは巨大なパラメータ群を部分起動させるため、テスト環境で予期せぬ遅延が発生しやすかった。タイムアウト値の調整は、テストの誤検知を減らすだけでなく、実サービスで同種のモデルを動かす際の安定性向上を示唆する。運用者が安心してMoEを採用できる環境に近づいたと言える。

Qwen3向けNVFP4構成を見直し、次世代GPUとの整合性を確保

Qwen3モデル向けのNVFP4設定がリファクタリングされた。NVFP4はFP4精度の数値フォーマットで、次世代GPUでの推論効率を大幅に高める可能性を秘めるが、その分構成の複雑さが課題だった。今回の整理は、今後のハードウェア進化を見据えた事前適応と解釈できる。アリババクラウド発のQwenシリーズのような中国発LLMの活用がグローバルで進む中、vLLMの対応強化は開発者コミュニティの選択肢を広げる動きだ。

推論エンジンの競争は「多様なモデルへの対応力」へ移行

LLM推論エンジンはスループット競争から、多様なモデルアーキテクチャへの対応力へと競争軸が移っている。vLLMがMoEやNVFP4といった先端的構成への適合を着実に進めている背景には、サービス事業者が単一の巨大モデルではなく、コストや用途に応じたモデルを使い分ける傾向がある。SGLangやTensorRT-LLMとの差別化要素として、モデルカバレッジの広さが重要な評価基準になっていく。