Jina AI が低コストGPU向けの MoE と推測デコード搭載文書パーサー jina-ocr-v1 を発表

Jina AI は、PDF、スキャン画像、表、チャート、請求書といった多種多様な文書を、構造化された Markdown 形式へと変換する文書パーサー jina-ocr-v1 の提供を開始しました。このモデルは Elastic との統合の一環としてリリースされており、既存の検索や分析パイプラインにシームレスに組み込むことが可能です。

jina-ocr-v1 は総計 34 億パラメータを有しますが、Mixture‑of‑Experts（MoE）アーキテクチャを採用しているため、トークンごとに有効化されるパラメータは約 5.7 億に限定されます。この選択的活性化が、低価格帯 GPU における推論コスト削減の根幹を成しています。

効率的なビジュアルエンコーディング

jina-ocr-v1 のエンコーダは、最大 1 024 × 1 024 ピクセルのページ画像を 256 個のビジュアルトークンへと圧縮します。ダイナミックモードを有効化すると、最大で 9 枚のローカルタイルが追加され、トークン数は最大 1 156 に増加します。この柔軟なトークン予算により、複雑なレイアウトでも細部情報を保持しつつ、メモリ使用量を抑えることができます。

FastMTP による推測デコード

新たに導入された推測デコードヘッド FastMTP は、3 トークン先を予測しながら貪欲に検証を行う方式です。この手法は従来のデコーダと同等の最終出力品質を保証しつつ、デコードステップ数を約半分に削減します。

OmniDocBench v1.6 スイートで実施したベンチマークでは、jina-ocr-v1 が 91.14 点、olmOCR‑Bench では 83.4 点を取得しました。純粋な品質ランキングの上位ではないものの、ドル当たりのスループットが最大の魅力となっています。

Nvidia A100 40 GB GPU 上で測定した結果、1 秒あたり 2.57 ページ、コストは時間あたり 32 米ドルという数値が得られました。このスループットは社内比較で 14 系統中最高であり、高性能ハードウェアでも効率の高さが実証されました。

単一の Nvidia L4 GPU で実行した場合、FastMTP によりトークン生成速度が 42.7 から 83.1 トークン/秒へと 1.95 倍に向上しました。低予算 GPU でも適切なデコード戦略を組み合わせることで、ほぼリアルタイムの文書パースが可能です。

モデルサイズとライセンス

モデルの BF16 重みは約 6.8 GB を占め、Hugging Face 上で CC BY‑NC 4.0 ライセンスの下で提供されています。学術・研究利用は無償ですが、商用展開には Jina AI との別途契約が必要です。

• 34 億総パラメータ
• トークンごとに約 5.7 億アクティブパラメータ
• ページあたり 256〜1 156 ビジュアルトークン
• FastMTP 推測デコード（3 トークン先読み）

公式シートによると、jina-ocr-v1 は 108 言語に対応しています。ただし、極度に劣化したスキャン画像は依然として課題であり、重要文書では人手による確認を推奨しています。

日本企業への意味合い

大量の契約書、請求書、研究資料など多様な文書を取り込む必要がある企業にとって、jina-ocr-v1 は中価格帯の GPU（例：Nvidia L4）でも動作するコスト効率の高いソリューションです。MoE によるパラメータ効率と FastMTP 推測デコードの組み合わせにより、抽出された Markdown の忠実度を保ちつつスループットが向上します。これにより、クラウド計算費用を大幅に削減しつつ、最も問題のあるスキャンだけを人手でレビューし、出力を Elastic ベースの検索や分析基盤に直接統合できます。