ローカルで大規模言語モデル（LLM）を動かすツールとして普及が進むOllama。その最新のビルド対応状況からは、単なるソフトウェアアップデートを超え、AI推論の実行環境がCPU、GPU、NPUを問わず急速に多様化している現状が浮かび上がる。このリストは、特定企業に依存しないオンデバイスAIのエコシステムが、既に実用段階に入ったことを示す客観的な証左だ。

Apple Siliconで進む専用命令活用とその限界

OllamaのmacOS向けビルドでは、Apple Silicon（arm64）向けに、Arm社のAI向け計算ライブラリ「KleidiAI」を有効化したバージョンと無効化したバージョンが併存していることが確認できる。これは、単一のハードウェア上でも、ソフトウェア最適化の有無によって推論パフォーマンスが変化することを開発者に意識させ、選択肢を提供する動きだ。Appleの独自GPUコアを活用するMetal APIに加え、より低レイヤーのCPU拡張命令まで活用の幅が広がっている。一方で、Intel版Macのサポートが継続されていることも、Mシリーズへの完全な移行が完了していないユーザー層の厚さを示している。

Linux環境で激化するGPUアクセラレータ競争

Linux向けビルドの多様さは、AI推論アクセラレータ市場の現在地を如実に表している。汎用的なCPU（x64, arm64, s390x）に加え、Vulkan APIによるベンダー非依存のGPU推論、AMDのROCm 7.2、IntelのOpenVINO、そしてマルチベンダー対応を目指すSYCL（FP32とFP16を個別に用意）と、主要な選択肢が出揃った。クラウドからエッジまでLinuxが主戦場となる中、Ollamaが特定のGPUベンダーにロックインされない抽象化レイヤーを提供し始めたことは、NVIDIAのCUDAが持つ事実上の標準的地位に対し、ソフトウェア側から公平な競争環境を生み出そうとする潮流の一環だ。

Windows on ArmとモバイルGPUがつなぐ新たなクライアント

Windows対応では、x64向けのCUDA 12/13、Vulkan、SYCL、HIPといった多彩なGPUバックエンドに加え、Arm64向けにQualcomm Adreno GPU用のOpenCL対応が追加されている点が目を引く。これは、Copilot+ PCに代表されるWindows on Armデバイスが、単なる省電力CPUマシンではなく、ローカルAI推論機としての実力を問われる段階に入ったことを示す。また、Androidのarm64向けCPUビルドも継続されており、モバイルデバイス上でLLMを動かすという、プライバシー保護やオフライン動作の需要に応える開発の裾野が拡大している。

オープンソースの潮流と国産プロセッサへの波及

このリストのもう一つの特徴は、中国HuaweiのAscendプロセッサを対象としたopenEulerビルドの存在だ。310pや910bといった特定のAIチップと、ACL（Compute Library）を用いたグラフ最適化が明示的にサポートされている。地政学的な半導体規制を背景に、独自のAIスタックを構築せざるを得ないプレイヤーにとっても、Ollamaのようなオープンソースツールが実用的なソフトウェア基盤として機能し始めている。これは、AI開発が一部の企業による垂直統合から、より分散的で多極的なエコシステムへと移行する構造変化の一端を捉えた動きだ。