Appleの機械学習研究チームは、大規模言語モデル（LLM）が外部ツールを実行する「関数呼び出し」において、実行前の信頼性を評価する不確実性定量化（UQ）手法の初の評価結果を公開した。自然言語のQ&Aタスクで有効とされてきたマルチサンプルUQ手法が、関数呼び出しでは単純なシングルサンプル手法に対して明確な優位性を持たないという発見は、LLMのエージェント化を進める開発者にUQ手法の再考を迫る内容である。

Q&Aで有効なUQ手法が関数呼び出しでは通用しない

研究チームは、LLMが関数を呼び出す際の信頼度を定量化するUQ手法の評価を初めて実施した。自然言語のQ&Aタスクでは、複数回の推論結果から意味の多様性を測るSemantic EntropyのようなマルチサンプルUQ手法が高い性能を示してきた。しかし関数呼び出しの文脈では、こうしたマルチサンプル手法がシングルサンプル手法に対して明確な利点を持たないことが明らかになった。この結果は、UQ手法の有効性がタスクの種類に強く依存することを示しており、LLMの適用領域ごとに最適な信頼性評価の設計が必要であることを示唆している。

抽象構文木と意味的トークンでUQ精度が向上

研究では、関数呼び出し特有の出力構造を活用することで既存UQ手法の性能を改善できることも判明した。マルチサンプルUQ手法では、関数呼び出しの出力を抽象構文木（AST）で解析しクラスタリングすることで精度が向上する。一方、シングルサンプルUQ手法では、ロジットベースの不確実性スコアを計算する際に意味的に重要なトークンだけを選択することで改善が見られた。これらの手法改良は、LLMが金融取引やデータ削除といった不可逆的な操作を実行する前に、誤作動のリスクをより正確に見積もるための実装上の指針を提供する。

エージェント化するLLMの安全性基盤に影響

関数呼び出しは、LLMにツール利用能力を付与する標準的な手法として、金融、製造、クラウドサービスなど幅広い領域で実装が進んでいる。本研究成果は、LLMをAPI経由で外部システムと連携させるアプリケーション開発者に直接的な影響を与える。特に、LLMが自律的に送金やデータ削除を行うような高リスクのユースケースでは、関数実行前の信頼度評価の精度がビジネス上の損害を左右する。既存のQ&A向けUQ評価をそのまま流用する開発手法には限界があることを示した点で、エージェント型AIの安全性設計に見直しを迫る内容である。

UQ評価指標のバイアス問題も並行して進展

Appleの研究チームは関連研究として、UQ手法の評価に用いられるAUROCなどの指標が、UQ手法と正解判定関数の双方に共通するバイアスによって歪められる問題も指摘している。具体的には、応答の長さのような要素が双方に影響を与える場合に評価が系統的に歪むことが数学的に証明された。この成果は2025年6月のACLで発表されており、UQ手法そのものの改良に加えて、評価の枠組み全体の信頼性を高める動きが加速している。関数呼び出し向けUQの評価設計においても、こうした指標バイアスの考慮が不可欠になる。

日本企業のLLM導入におけるUQ実装の論点

国内企業がLLMを業務システムに組み込む際、外部APIや社内データベースとの連携に関数呼び出しを用いるケースが増えている。金融機関での口座操作や、製造業での在庫管理システムとの連携など、誤作動が直接的な損害につながる領域では、LLMの不確実性を実行前に評価する仕組みの重要性が高い。本研究で示されたシングルサンプルUQ手法の有効性は、推論コストを抑えつつ信頼性を確保したい国内の導入企業にとって実装上の選択肢を広げる。一方で、日本語の関数呼び出し文脈でのUQ評価は現時点では明らかにされておらず、言語依存の検証が今後の課題となる。