オープンソースの大規模言語モデル推論エンジン「llama.cpp」の最新ビルドで、統合GPU（iGPU）の利用をデフォルトで1基に制限する変更が加えられた。複数GPUを搭載するノートPCやワークステーション環境で、意図しないデバイスへの負荷分散による性能低下やシステム不安定化を回避する狙いがある。

この記事を一言でいうと

llama.cppが、複数の統合GPUを持つ環境でデフォルトで利用するiGPUを1基だけに制限する仕様変更を行った。マルチGPU環境でユーザーが意図しないデバイス割り当てによるパフォーマンス問題を防ぐための現実的な対応である。

なぜ話題なのか

llama.cppはローカル環境で動作するLLM推論エンジンとして、開発者やAI愛好家の間で広く利用されている。近年のノートPCやミニPCでは、CPU内蔵GPUとディスクリートGPU（dGPU）の両方を搭載する構成が一般化したが、ソフトウェアが自動的にすべてのGPUを認識して利用しようとすると、想定外のメモリ割り当てや演算負荷の偏りが発生し、かえって推論速度が低下するケースが報告されてきた。

特にIntel Core UltraシリーズやAMD Ryzen APUなど、強力なiGPUを内蔵するプロセッサの普及により、「iGPUが使われていることに気づかず推論が遅くなる」現象が増加していた。今回の変更は、そうした混乱を減らす実用的な判断である。

一般読者や企業にどう関係するのか

ローカルLLM推論は、プライバシー保護やデータ主権の観点から企業での導入検討が進んでいる。金融機関や医療機関など機密性の高いデータを扱う組織では、クラウドにデータを送信せず、自社のハードウェアでAIを動かすニーズが高まっている。

日本市場では、個人情報保護法の厳格な運用や、製造業・地方自治体でのオンプレミスAI導入が進む中、llama.cppのようなローカル推論エンジンの安定性向上は実務的な価値が大きい。今回の変更により、企業のIT部門がAI推論環境を構築する際の「思わぬトラブル」が一つ減ることになる。

AI業界の構造で見ると何が変わるのか

この変更は、AI推論の「ハードウェア抽象化レイヤー」の成熟度を示している。かつては「より多くのGPUを使えば高速になる」という単純な前提があったが、現実の多様なハードウェア構成では、デバイス選択の自動化が逆効果になるケースが増えている。

llama.cppの今回の対応は、ソフトウェア側が「何を最適化するか」をより細かく制御する方向へのシフトを象徴する。NVIDIAのCUDAエコシステムではドライバレベルでGPU選択が最適化されるが、Apple SiliconやIntel、AMDなど多様なバックエンドをサポートするllama.cppでは、こうした現実的なデフォルト設定の積み重ねが競争力を左右する。

また、AI推論エンジンが特定ハードウェアに依存せず、macOS/iOS、Linux各種ディストリビューション、Windows、Androidまで単一のコードベースで広がる構造は、AI推論の「コモディティ化」を加速させる要素である。

一次情報から確認できる事実

  • llama.cppのリリースb9439において、「llama: only use one iGPU device by default」という変更がマージされた（プルリクエスト #23897）。
  • このリリースでは、macOS Apple Silicon版、iOS XCFramework、Linuxの各種CPU・Vulkan・ROCm・OpenVINOビルド、Android arm64版、WindowsのCPU・CUDAビルドが提供されている。
  • macOSのKleidiAI対応版（#23780）とLinuxのSYCL FP32対応版（#23705）は無効化（DISABLED）されている。
  • CUDAビルドはWindows向けにCUDA 12.4と13.3の両方が提供されている。

関連企業・関連技術

  • llama.cpp（ggml-org）: Meta社のLLaMAモデルを皮切りに、多数のLLMをローカル環境で動作させるC++製推論エンジン。
  • Apple Silicon: Mac/iPad向けシステムオンチップ。統合GPUを含む設計で、今回のiGPU制御の主な適用対象。
  • Intel Core Ultra: 強力なArc統合GPUを搭載する新世代プロセッサで、同様のiGPU制御が重要になる。
  • ROCm（AMD）: AMD GPU向けのオープンソースコンピュートプラットフォーム。llama.cppはROCm 7.2対応ビルドを提供。
  • OpenVINO（Intel）: IntelのAI推論最適化ツールキット。llama.cppはバージョン2026.0対応ビルドを提供。

今後の論点

  • iGPU制限をデフォルトにすることで、逆に意図的にiGPUを活用したいユーザーにとっての設定ハードルが上がらないか。
  • 無効化されたKleidiAI対応やSYCL FP32対応ビルドの再開時期と、それらがもたらすARM系デバイスやIntel GPUでの性能改善。
  • LLM推論エンジンがマルチGPU戦略をより細かく制御できるようになる流れは、NVIDIAのCUDAエコシステム中心の開発と、マルチプラットフォーム派のllama.cppの設計思想の分岐をどう広げるか。