AIモデルをスマートフォンやパソコン上で直接動かす「オンデバイスAI」の処理効率を左右する新しい技術が、主要なオープンソースプロジェクトに組み込まれようとしている。今回確認された一次情報は、kleidiaiと呼ばれる動的なチャンクベース・スケジューリング機能がハイブリッド実行環境向けに実装され、複数プラットフォームでのビルド構成が明らかになったものだ。macOSのApple SiliconやAndroidのArm系CPUを含む幅広い環境が対象となっており、オンデバイス推論の性能向上が次の競争軸になることを示している。

この記事を一言でいうと

AI推論をCPUやGPU、専用アクセラレータで効率的に振り分ける「kleidiai」の動的スケジューリングが、Apple SiliconやAndroidを含む多様なデバイス向けに実装された。端末側でのAI処理を実用的にする基盤技術のひとつとして注目されている。

なぜ話題なのか

今回の一次情報で話題の中心にあるのは、AIの推論処理を「チャンク（かたまり）」単位で動的にスケジューリングするkleidiaiという仕組みの導入だ。従来、オンデバイスAIの推論はCPUだけ、あるいはGPUだけといった単一の実行単位に依存しがちだった。しかし実環境では、デバイスによってCPUコア数やGPU性能、専用の機械学習アクセラレータ（AppleのNeural EngineやArmのACLなど）の有無が異なる。

kleidiaiが目指すのは、モデルの演算を小さなチャンクに分割し、その時点で最適なプロセッサに動的に割り当てるハイブリッド実行だ。これにより、同じモデルでもデバイスの実際の負荷状況や熱状態に応じて処理効率を最大化できる。今回のビルド構成一覧には「KleidiAI enabled」と明記されたmacOS Apple Silicon向けバイナリが含まれており、Appleの独自シリコン上でこの技術が有効化されていることが確認できる。

一般読者や企業にどう関係するのか

オンデバイスAIの性能向上は、クラウドにデータを送らずにスマートフォンやPC上で翻訳や画像生成、文章要約を完結させる体験に直結する。個人ユーザーにとっては、応答速度の短縮やプライバシー保護の強化という恩恵がある。

企業視点では、オンデバイス処理の効率化が進むほど、クラウドAIサービスへの依存度を下げる選択肢が生まれる。とくに日本の製造業や小売業では、工場内の検査装置や店舗端末にAIを組み込むケースが増えている。クラウド通信が不要になれば、通信遅延やセキュリティリスクの低減、ランニングコストの抑制につながる。今回のkleidiai実装は、多様なハードウェア構成に対応するため、特定ベンダーに縛られないAI導入を後押しする可能性がある。

AI業界の構造で見ると何が変わるのか

この動きは、AI推論の「実行レイヤー」における競争が本格化していることを示している。従来のAI競争はモデルの精度やパラメータ数、学習インフラ（GPUクラスタ）の規模に焦点が当たりがちだった。しかし今後は、モデルをいかに効率よく多様なデバイス上で実行するかが差別化要因になる。

kleidiaiのようなスケジューリング技術は、モデル開発とハードウェア実行の間にある「推論ランタイム」の進化を象徴する。これが成熟すれば、モデル開発者はハードウェアの違いを深く意識せずに、単一のモデルをクラウドからエッジまで幅広く展開できるようになる。NVIDIAのCUDAに依存しない実行環境が拡大すれば、AI処理のハードウェア選択肢が広がり、半導体業界のパワーバランスにも影響を与えうる。

一次情報から確認できる事実

一次情報からは、以下のプラットフォームでkleidiaiを含むビルド構成が確認できる。

  • macOS Apple Silicon (arm64): KleidiAI enabledビルドが存在。Apple独自シリコン上で動的スケジューリングが有効化されている。
  • macOS Intel (x64): KleidiAI enabledの表記はなく、通常ビルドのみ。
  • iOS XCFramework: iOS向けビルドも用意。
  • Linux (Ubuntu): x64 CPU、arm64 CPU、s390x CPUに加え、Vulkan（x64/arm64）、ROCm 7.2（x64）、OpenVINO（x64）が確認できる。SYCL FP32はdisabled。
  • Android: arm64 CPU向けが存在。
  • Windows: x64 CPU、arm64 CPU、CUDA 12（12.4 DLLs）、CUDA 13（13.3 DLLs）、Vulkan（x64）が確認できる。SYCLとHIPはdisabled。
  • openEuler: 310p（x86/aarch64）と910b ACL Graph（x86/aarch64）向けがすべてdisabled。

特筆すべきは、Apple SiliconにおいてKleidiAIが明示的に有効化されている点、そしてLinuxのROCm（AMD GPU向け）やVulkan、WindowsのCUDAといった複数のGPUバックエンドが並列してサポート対象となっている点だ。

関連企業・関連技術

  • kleidiai: 動的チャンクベース・スケジューリングによるハイブリッド実行技術。Armを中心に開発が進められているとみられる。
  • Apple: Apple Silicon（Mシリーズチップ）上でkleidiaiが有効化。Neural Engineとの連携が今後の焦点。
  • Arm: Android端末やLinux arm64環境向けのCPU最適化でkleidiaiの中核を担う。
  • AMD: ROCm 7.2経由でのサポートがLinux環境で確認できる。
  • NVIDIA: Windows環境でCUDA 12およびCUDA 13向けビルドが用意されている。
  • Intel: OpenVINO経由でのサポートがLinux環境で確認できる。
  • Huawei（Kunpeng/Ascend）: openEuler上の310p/910b向け構成が存在するが、現時点ではdisabled。
  • オンデバイスAIランタイム全般: TensorFlow Lite、ONNX Runtime、ExecuTorchなどとの競合・補完関係が今後の論点。

今後の論点

第一に、kleidiaiの動的スケジューリングが実際にどの程度の性能向上をもたらすのか、定量的なベンチマークの公開が待たれる。第二に、Apple Siliconにおける「KleidiAI enabled」ビルドがNeural Engineをどの程度活用できるのか、Appleの公式サポートとの関係性が不明だ。第三に、openEuler向け（310p/910b）がdisabledとなっている理由と、今後有効化されるタイムラインも注視する必要がある。第四に、モデル開発者がこのスケジューリング機能を意識せずに利用できる抽象化レイヤーの整備が進むかどうかが、実用普及の鍵となる。