機械学習モデルの内部で繰り返し実行される「最大内積探索（MIPS）」の計算負荷を、事前学習によって劇的に削減する手法をAppleの研究者らが発表した。クエリ分布を学習したニューラルネットワークが直接答えを予測することで、検索コストを「償却」するアプローチは、大規模検索システムの設計思想を根底から変える可能性がある。

MIPSを「解く」から「予測する」への転換

最大内積探索は、与えられたクエリベクトルに対してデータベース内の最適なキーを見つけ出す操作で、推薦システムや検索エンジンの中核を担う。従来はクエリが来るたびに近似計算を実行していたが、この研究は発想を逆転させる。クエリが特定の分布から生成されることに着目し、ニューラルネットワークにMIPSの解そのものを回帰させる。これにより、クエリ処理時の計算コストは推論一回分に置き換わる。問題を解くのではなく、解き方を学習しておくという「償却（Amortized）」の考え方が、検索技術の新たな地平を開いた。

SupportNetとKeyNet、補完し合う二つの推論モデル

研究チームは数学的な洞察から二つのネットワークを設計した。MIPSの値関数が凸関数である「支持関数」に一致するという性質を利用し、入力凸ニューラルネットワークで構成されたSupportNetは、クエリが属するべきデータベースの区分を高速に特定する「クラスタルーター」として機能する。一方、KeyNetは最適なキーベクトルを直接出力し、既存の検索パイプラインにドロップイン可能なクエリ変換器として振る舞う。両者は競合ではなく、粗い絞り込みと精密な置き換えを分担する関係にある。

BEIRベンチマークが示す計算効率の優位性

文書埋め込みを用いたBEIRベンチマークでの実験では、計算リソースあたりの検索一致率において従来手法を大きく引き離した。評価指標が単なる速度や精度ではなく、FLOPs、探索回数、実時間といった多面的な「計算努力」対効果で測定されている点が実用的な意義を示す。限られた計算予算の中で最大のリコールを得たい実サービスにとって、この特性は直接的なコスト削減と応答品質の両立を意味する。コードはGitHubで公開されており、研究コミュニティによる追試と改善が期待される。

検索インフラのコスト構造を変える償却アプローチ

この技術の本質は、クエリ処理のたびに発生する計算コストを、モデルの事前学習という固定費に転嫁できる点にある。クエリ分布が安定しているサービスほど恩恵は大きく、大規模言語モデルの埋め込み検索や推薦基盤のように、同一データベースに類似クエリが大量に流れる環境との親和性が高い。検索インフラの設計は今後、オンライン計算の最小化と、オフライン学習による知識の圧縮という二軸で競われることになる。機械学習が検索アルゴリズム自体を置き換え始めた瞬間と言える。