オープンソースの推論エンジンllama.cppの最新リリースで、DeepSeek OCR v1のマルチタイル推論機能が実装された。複数タイルに分割された高解像度の文書画像を一括処理する基盤が整い、クラウドAPIに依存しないオンデバイスOCRの実用精度が一段上がる。企業の文書デジタル化戦略におけるコスト構造とデータ主権の考え方に影響を与える更新だ。

動的解像度と統合前処理がもたらす実装の変化

今回のllama.cpp更新では、DeepSeek OCR v1とv2の両バージョンで画像前処理パイプラインが統一された。v1向けには画像を長尺の単一画像に変換せず、マルチタイルのまま動的解像度に対応する方式へ移行している。複数行・複数列の画像でタイル脱落を防ぐ修正も加わり、複雑なレイアウトの文書でもOCR精度を維持しやすくなる。これにより、アプリケーション開発者はモデルバージョンに依存しない共通の前処理APIで動作させられる可能性がある。

多様な実行環境が示すエッジ推論の現在地

このリリースは、Apple SiliconやWindows x64 CUDAからAndroid arm64、OpenVINOやVulkan対応まで、極めて広範な実行環境向けにバイナリが提供されている点も特徴だ。特にmacOS向けにはKleidiAIを有効化したApple Silicon向けビルドが用意され、アーム系プロセッサでの推論最適化が進んでいる。クラウドGPUに頼らず、ノートPCやモバイル端末上で高度なOCRモデルを動かすための環境整備が着実に進行していることを示している。

企業の文書処理、API依存からの構造転換を後押し

マルチタイルOCR推論のローカル実行が安定すれば、金融機関での帳票処理や医療機関でのカルテ電子化、行政での申請書類処理など、機密性の高い文書を扱う現場にとって現実的な選択肢となる。クラウドOCR APIの従量課金に依存せず、社内GPUサーバーやエッジ端末で処理を完結できるため、処理量が増えるほどコスト差が開く構造だ。特にデータを外部送信できない規制業種では、オンデバイス推論の精度向上が業務適用の閾値を下げる要因になり得る。

今後見るべきグラフ簡素化と推論制御の進捗

リリースノートには「deepseekocr graph simplify」や「DRY opt-in」「model-specific n_predict」への言及がある。計算グラフの簡素化は推論速度とメモリ効率に直結し、モデル固有の予測長設定は出力品質の調整余地を広げる。これらが安定すれば、エンタープライズ向けのドキュメント理解パイプラインに組み込む際の性能チューニングの幅が拡大する。OSSスタックによるOCRが商用SaaSと競合する領域が、着実に広がっている。