Llamaの新たなコード変更が、融合演算(Fused Ops)のリファクタリングを中心に、macOSのApple SiliconからAndroidのarm64まで、かつてないほど広範なデバイスとバックエンドに対応した。単なる内部整理に見えるこの動きは、特定のGPU性能に依存せず、あらゆる端末上で推論を高速化しようとするエッジAI競争の本格化を示している。

Apple Siliconで有効化されたKleidiAIの意味

今回の更新で特筆すべきは、macOSのApple Silicon環境において、Armが提供するKleidiAIライブラリが初めて明示的に有効化された点だ。KleidiAIは、Armアーキテクチャ向けに高度に最適化されたニューラルネットワーク計算用のカーネル群であり、これがデフォルトで動作することにより、Mac上のLlama推論はCPUレベルでさらなる高速化が期待できる。これは、開発者がMetalなどのGPU固有APIを駆使しなくても、ある程度のパフォーマンス向上を自動的に享受できる基盤を意味し、アプリケーション開発のハードルを大きく下げる。

消えた「DISABLED」が映すLinux/Android対応の現実

Ubuntuのs390xメインフレーム向けビルドや、Androidのarm64ビルドから「DISABLED」の表記が消えた事実は、これまで検証や最適化の優先順位が低かった領域にも、実用レベルのパフォーマンス最適化が及んできたことを示す。特に、サーバー用途とは異なる消費電力と発熱の制約が厳しいAndroid端末での融合演算対応は、クラウドを介さないオンデバイス推論の実用性を一段階引き上げる。これらの環境での動作が「有効」であるという事実確認は、モデル提供側がスケールさせる市場の裾野を明確に広げる動きだ。

WindowsとOpenEulerの分岐が示す、基盤ソフトウェアの戦略地図

Windows環境ではCUDA 12と13、Vulkan、OpenVINO、SYCL、HIPといった多彩なバックエンドがサポートされ、NVIDIA、Intel、AMDそれぞれのエコシステムを横断する意図が読み取れる。一方、OpenEuler(オイラー)環境では、特定のアクセラレータ(310pや910b)とACL Graphに特化した構成が取られている。この対比は、汎用的なGPU向けの広範な互換性確保と、特定のハードウェア構成で徹底的に性能を引き出す垂直統合的な最適化という、AI推論基盤における二つの主要戦略が並行して進行している産業構造の縮図と言える。

融合演算が変える開発者とチップメーカーの力学

カーネル融合(複数の計算操作を一つにまとめる最適化)をリファクタリングする今回の改修は、ソフトウェアの抽象化レイヤーを再設計する行為に等しい。これにより、モデルを動作させるフレームワーク側が特定のハードウェア特性を吸収しやすくなり、開発者はチップの違いを深く意識せずに推論パイプラインを構築できるようになる。この変化は、チップメーカーにとっては「独自SDK囲い込み」から「ソフトウェアスタックへの迅速な統合」へと競争のルールが変わりつつあることを示唆している。