AI推論サービスGroqCloudが、大規模ワークロード向けのバッチ処理APIを正式に提供開始した。従来の即時応答型に加え、24時間以内の完了を前提とした非同期処理に対応し、価格は通常料金から25%割り引かれる。これにより、大規模データの分類や文書要約、画像・音声の一括処理といった企業ユースケースでの導入障壁が下がる。

即時応答から一括処理へ、二つの処理モードが並立

GroqCloudはこれまで、複雑なAIソリューションに即時の応答性を提供する高速推論を中核としてきた。今回のバッチ処理API追加により、即時性を求めない大規模ワークロードを、通常料金の25%割引で実行できるようになった。対象はDevelopper TierおよびEnterprise Tierの顧客で、24時間以内の処理完了が保証される。大規模データセットの分類や文書翻訳、画像キャプション生成など、一括処理に適した作業が主な用途として想定されている。

対応モデルが拡大、Llama 3.3 70BやDeepSeek派生版も

バッチ処理で利用可能なモデルとして、新たにLlama 3.3 70B、DeepSeek-R1-Distill-Llama-70B、Llama 3.2 90B Visionが追加された。テキスト生成に加え、画像認識モデルをバッチ処理できる点は、大量の画像データを扱う企業にとって選択肢の拡大を意味する。現時点で対応モデルの全リストは明らかにされていないが、Groqのプレスリリースは今回の追加を、より広範なバッチ処理モデルへのアクセス提供の一環と位置づけている。

Whisper対応で音声処理の自動化が加速する可能性

音声認識モデルWhisperのバッチ処理対応も発表された。Whisper Large v3、Distill-Whisper、Whisper Large v3 Turboの三バージョンすべてが利用可能になり、単語レベルのタイムスタンプ出力にも対応する。YouTube動画やソーシャルメディア向けの字幕生成、大量の音声・動画ファイルの文字起こしを自動化したい企業にとって、ワークフローの効率化につながる機能だ。ただし、音声認識とチャット補完を連続的に処理するパイプラインのバッチ処理は現時点でサポートされておらず、二つのバッチジョブに分割して実行する必要がある。

4月末までの期間限定で5割引き、導入加速を促す

Groqは、バッチ処理の料金割引率を4月末までの期間限定で25%から50%に倍増すると発表した。すべての有料顧客が対象となる。大規模なチャット補完や文字起こしタスクを計画している企業にとって、短期間でのコスト半減は検証や初期導入のハードルを大きく下げる。この期間限定施策は、バッチ処理の利用を促進し、GroqCloud上でのワークロード定着を図る戦略とみられる。

AI産業構造における推論レイヤーの多様化

今回の発表は、AIの産業構造においてモデル開発から推論実行への重心移動が進む流れに沿ったものだ。GPUを中核とした学習基盤に対し、実際のアプリケーションに組み込まれる推論のコストと処理形態は、利用企業の導入判断を左右する。高速即時処理と割安なバッチ処理の二軸提供は、クラウド事業者間の競争が単なる速度競争から、ワークロードの性質に応じた価格・時間の最適化へと進んでいることを示唆する。日本企業においても、大規模な文書デジタル化や多言語翻訳、コールセンター音声分析といった業務でのバッチ推論活用が検討しやすくなる可能性がある。