韓国LGグループのAI研究組織が開発した大規模言語モデル「EXAONE 4.5」が、オープンソースの推論フレームワーク「llama.cpp」に正式対応した。画像とテキストを同時に扱うマルチモーダル機能を含めて、個人のパソコンやスマートフォン上での動作が可能になる。

この記事を一言でいうと

LGの最新AIモデル「EXAONE 4.5」が、MacやiPhone、Linuxマシン上で動かせるようになった。クラウドを介さずに画像認識と文章生成を組み合わせた処理がローカルで完結する環境が整い、企業の機密データを外部に出さないAI活用の選択肢が広がる。

なぜ話題なのか

llama.cppは、MetaのLLaMAモデルを効率的に動作させる目的で開発されたC++実装の推論エンジンで、現在は多様なモデルをサポートする事実上の標準基盤となっている。ここにLGのEXAONE 4.5が加わったことで、韓国発の大規模言語モデルがグローバルなエコシステムに本格参入したことになる。

EXAONE 4.5は画像とテキストを同時に解釈できるマルチモーダルモデルであり、今回の対応では画像の境界を示す特殊なマーカー（<|vision_start|> と <|vision_end|>）を用いたビジョン機能のルーティングが実装された。Qwen2.5-VLと同様のウィンドウアテンション方式を採用し、画像投影のための重み変換も整備されている。

一般読者や企業にどう関係するのか

企業がAIを業務で使う際、顧客情報や社外秘の文書をクラウドにアップロードすることへの抵抗は根強い。llama.cpp上でEXAONE 4.5が動作するということは、インターネット接続なしに画像付き文書の解析や報告書の自動生成が可能になることを意味する。

日本企業においては、機密性の高い図面や契約書の読み取り、社内FAQの自動応答といった用途で、データを社外に出さないAI活用の選択肢が一つ増えた。LGエレクトロニクスの日本法人を通じた製品展開との接点も、今後の法人向けソリューションとして注目される。

対応プラットフォームは幅広く、macOSのApple SiliconおよびIntel版、iOS向けXCFramework、Ubuntuのx64・arm64・s390xに加え、VulkanやROCm 7.2を利用したGPUアクセラレーション版も提供される。

AI業界の構造で見ると何が変わるのか

今回の対応は、モデル開発と推論基盤の分業がさらに進んでいることを示している。LGのような大手企業が独自モデルを開発し、llama.cppのようなコミュニティ主導の推論エンジン上で動作させることで、モデルの普及速度が飛躍的に高まる。

同時に、マルチモーダル機能を持つモデルをローカルで動かすための技術的ハードルが着実に下がっている。画像のエンコード方式やプロジェクター重みの変換を標準化することで、異なるモデルアーキテクチャ間の相互運用性が向上しており、ベンダーロックインを避けたい企業にとって好材料となる。

一次情報から確認できる事実

llama.cppのリポジトリにマージされたプルリクエスト（#21733）では、以下の実装が行われた。

  • EXAONE 4.5のモデル定義の追加
  • マルチモーダル機能のための画像境界マーカー処理
  • Qwen2.5-VL方式のエンコードパスへのルーティング
  • プロジェクター重みの変換とGGUFフォーマットへのエクスポート対応
  • EXAONE4テンソルのNextN/MTPスロットへの正しい読み込み
  • 重複するrope_freqsのスキップフラグ伝播を防止する修正

共同開発者としてLG AI研究組織（exaonemodels@lgresearch.ai）がクレジットされている。

関連企業・関連技術

  • LG AI Research：EXAONEシリーズを開発するLGグループのAI研究組織
  • llama.cpp：オープンソースのモデル推論フレームワーク、ggml.orgが主導
  • Qwen2.5-VL：Alibaba Cloudの視覚言語モデル、今回のビジョンエンコード経路の参照実装
  • GGUFフォーマット：llama.cppが採用するモデルファイル形式、変換ツール群が整備されている

今後の論点

ローカル推論の性能が商用クラウドAPIとどこまで競合できるかは、実際のベンチマーク結果を待つ必要がある。特に画像を含むタスクではメモリ使用量とレイテンシが課題となる。

また、LGがEXAONEシリーズをどのようなライセンスで提供するかも、企業導入の可否を左右する。llama.cpp対応によって技術的な障壁は下がったが、商用利用の条件が明確にならなければ、日本企業の本格採用には至らない可能性がある。