Jina AI apresenta jina-ocr-v1, parser barato de documentos com MoE

A Jina AI, agora integrante do ecossistema Elastic, anunciou a disponibilização do jina-ocr-v1, um modelo especializado na análise de documentos que converte PDFs, imagens digitalizadas, tabelas, gráficos e faturas em texto Markdown estruturado. A integração nativa com a Elastic simplifica a inserção do modelo em pipelines de pesquisa e análise já existentes nas empresas.

Com um total de 3,4 mil milhões de parâmetros, o jina-ocr-v1 utiliza a arquitectura de Mixture of Experts (MoE) que ativa apenas cerca de 570 milhões de parâmetros por token processado. Esta activação seletiva constitui o principal motor da redução de custos de inferência, permitindo a execução em GPUs de gama económica sem perder qualidade significativa.

Codificação visual eficiente

O codificador do modelo comprime cada página de 1 024 × 1 024 píxeis em 256 tokens visuais. Quando o modo dinâmico está ativado, é possível acrescentar até nove blocos locais, elevando o número máximo de tokens para 1 156. Esta flexibilidade garante a preservação de detalhes finos em layouts complexos, ao mesmo tempo que controla o consumo de memória.

Decodificação especulativa com FastMTP

A nova cabeça de decodificação especulativa, designada FastMTP, prevê três tokens à frente e valida‑os de forma gananciosa. O método assegura que o texto final corresponda ao produzido por um decodificador tradicional, mas reduz aproximadamente à metade o número de passos de decodificação necessários.

Na suite de avaliação OmniDocBench v1.6, o jina-ocr-v1 alcançou uma pontuação de 91,14, enquanto no olmOCR‑Bench registou 83,4. Embora estas métricas não o coloquem no topo dos rankings de qualidade pura, o ponto forte do modelo reside no elevado rendimento por dólar gasto.

Em uma GPU Nvidia A100 de 40 GB, a equipa de testes mediu uma velocidade de 2,57 páginas por segundo a um custo de 32 USD por hora. Este desempenho foi o mais alto entre os quatorze sistemas comparados no estudo interno, evidenciando a eficiência do modelo mesmo em hardware de alta gama.

Quando executado numa única GPU Nvidia L4, o FastMTP aumentou a taxa de geração de tokens de 42,7 para 83,1 tokens por segundo em modo eager, representando um ganho de 1,95×. O resultado demonstra que GPUs de orçamento limitado podem alcançar uma análise quase em tempo real quando combinadas com a decodificação especulativa adequada.

Tamanho do modelo e licenciamento

Os pesos BF16 do modelo ocupam aproximadamente 6,8 GB e estão hospedados no Hugging Face sob a licença CC BY‑NC 4.0. Esta licença permite uso académico e de investigação sem custos, mas qualquer implementação comercial requer um acordo separado com a Jina AI.

• 3,4 mil milhões de parâmetros totais
• ≈570 milhões de parâmetros ativos por token
• 256‑a‑1 156 tokens visuais por página
• Decodificação especulativa FastMTP com previsão de 3 tokens

O jina-ocr-v1 suporta 108 idiomas, de acordo com a ficha oficial do modelo. Contudo, os desenvolvedores reconhecem que digitalizações muito degradadas continuam a ser um ponto fraco e recomendam uma revisão humana para documentos críticos.

Impacto para organizações portuguesas

Para empresas que precisam de ingerir grandes volumes de documentos heterogéneos — contratos legais, faturas, artigos científicos — o jina-ocr-v1 oferece uma solução rentável que pode ser executada em GPUs de gama média, como a Nvidia L4. A combinação da eficiência de parâmetros impulsionada pela MoE e da decodificação especulativa FastMTP traduz‑se em maior rendimento sem sacrificar a fidelidade do Markdown extraído.

Ao automatizar a primeira fase de extração documental, as organizações podem reduzir drasticamente os custos de computação na nuvem, reservando a revisão humana apenas para os casos mais problemáticos. Esta abordagem permite integrar a saída directamente em pilhas de pesquisa ou análise baseadas na Elastic, facilitando a indexação e a pesquisa de conteúdo textual extraído.

Além do ganho económico, a capacidade de gerar Markdown estruturado simplifica a posterior transformação dos dados em formatos como JSON, CSV ou bases de dados relacionais, acelerando fluxos de trabalho de Business Intelligence e compliance regulatório.

A disponibilidade dos pesos no Hugging Face também favorece a adopção por startups e instituições académicas portuguesas, que podem experimentar o modelo sem investimento inicial em licenças, bastando dispor de hardware compatível.

Em termos de sustentabilidade, a redução do número de parâmetros ativos por token implica menor consumo energético durante a inferência, alinhando‑se com as metas de neutralidade carbónica estabelecidas por várias empresas portuguesas.

Para quem pretende integrar o modelo nos seus sistemas, a documentação oficial fornece exemplos de chamadas API compatíveis com o Elastic Stack, bem como guias de optimização para GPUs Nvidia L4 e A100.

Em Lisboa, várias empresas de tecnologia já iniciaram projetos piloto com o jina-ocr-v1, reportando reduções de até 60 % nos custos de processamento de faturas mensais, ao mesmo tempo que mantêm uma taxa de erro inferior a 2 % nos campos críticos.