QualcommのAIエンジン「Hexagon」向けのコード変更が公開された。一見するとマイナーなパッチに見えるが、画像や動画を扱うマルチモーダルAIモデルで重要となる「位置情報エンコーディング(RoPE)」のビジョン領域対応である点が注目に値する。
ビジョンモデルに必要な位置情報処理とは
今回追加された「VISION RoPE」は、Transformer系モデルが画像や動画のピクセルの位置関係を把握するための技術だ。従来、Hexagonプロセッサ上ではテキスト用の位置エンコーディング処理が中心だったが、今回のコード追加により、画像のブロックや動画フレームの空間的情報を効率的に扱えるようになる。これは、端末上で画像認識や動画理解のAIを動かすための基本的な算術演算のアップデートである。特に、メモリから演算ユニットへのデータ移動を最小化する「DMAコピーサイズの分離」や、メモリ配置が連続していない出力データへの対応といった低レベル最適化が含まれており、電力効率がシビアなモバイル環境での実用性を高める設計変更だ。
幅広いプラットフォームテストが示す戦略意図
この機能追加のテストは非常に広範な環境で実行されている。macOSのApple Silicon、Windows on ARM、Android、Linuxのx64/arm64に加え、VulkanやROCm、SYCLといった多様なGPU・アクセラレータAPIが対象だ。特筆すべきは、Apple Siliconで有効化される「KleidiAI」や、中国のopenEuler OS上の「Ascend 310p/910b」チップ向けテストも含まれている点である。これは、Qualcommが自社のHexagonプロセッサの高速化ライブラリを単なる自社チップ専用の閉じたコードとして開発しているのではなく、複数ベンダーのAIハードウェアにまたがる推論エンジンを志向していることを示唆する。ユーザーがどのチップを使っていても、一貫したAPIで最新のAIモデル機能を利用可能にするための布石と読める。
非連続メモリ対応が端末AIの実用度を左右する
コード変更の詳細を見ると、「non-contiguous dst(非連続な出力先)」への対応に複数の修正が集中している。AIモデルがテンソルを処理する際、メモリ上でデータが常に整列しているとは限らない。特に複数のモデルを連続実行したり、カメラからのデータを直接扱ったりするユースケースでは、データのレイアウト変換を省くことがレイテンシと消費電力の削減に直結する。今回の「strided half-dim views」や「dst spad pitch」の修正は、開発者がデータレイアウトを意識せずにモデルをデプロイできる自由度を高める。これは、端末上で常時稼働するAIエージェントやリアルタイム翻訳、高度なカメラフィルターといったアプリケーションの普及を、ライブラリの底辺から支える改良と言える。