CLM-8B: Modelo Aberto Avalia Ações de Agentes em Alta Velocidade

A organização de investigação Contrastive-LM apresentou publicamente o CLM-8B, marcando a introdução de um modelo aberto numa categoria emergente conhecida como Modelos de Linguagem Contrastivos (CLMs, na sigla em inglês). Ao contrário dos modelos de linguagem de grande escala autorregressivos tradicionais, que geram texto token a token através de processos sequenciais, o CLM-8B não produz texto. Em vez disso, o sistema avalia um conjunto previamente declarado de ações candidatas face ao estado atual de um ambiente e gera uma distribuição de probabilidades sobre essas opções. Esta mudança arquitetural visa especificamente as etapas de tomada de decisão e de encaminhamento em ciclos de agentes autónomos, nos quais a sobrecarga da geração textual costuma introduzir uma latência substancial.

A principal referência comparativa do CLM-8B é o Jev, um modelo proprietário de Sistema Um desenvolvido pela TypeSafe AI que entrou em acesso antecipado limitado a 15 de setembro de 2026. Tal como o Jev, o CLM-8B foi concebido para fornecer escolhas categóricas estruturadas em vez de prosa generativa. Para garantir uma integração direta e simples em infraestruturas existentes, o repositório da Contrastive-LM disponibiliza o modelo através de uma interface compatível com a TypeSafe. Este desenho suporta três formatos específicos de consulta: Noul, que calcula a probabilidade de uma determinada afirmação ser verdadeira; Choice, que seleciona um único candidato a partir de uma lista explícita com probabilidades atribuídas; e Score, que classifica uma entrada com base numa rubrica ordenada predefinida.

Codificadores Duplos e Cache de Vetores em Ciclos de Agentes

A nível arquitetural, o CLM-8B recorre a um desenho de codificador duplo composto por um codificador de estado e um codificador de ações. Ambos os codificadores partilham uma estrutura dorsal congelada baseada no Qwen3-8B, combinada com uma cabeça de projeção treinável de 20 milhões de parâmetros. O processo de treino otimiza um objetivo de perda InfoNCE bidirecional, que aproxima a representação vetorial (embedding) de um determinado estado da representação vetorial da ação que foi efetivamente executada, ao mesmo tempo que a afasta das representações das ações candidatas não selecionadas. Durante a inferência, as ações candidatas são ordenadas através do produto escalar das suas representações vetoriais com a representação vetorial do estado, seguindo-se a aplicação de uma função softmax para determinar a distribuição final de probabilidades.

Esta separação nítida entre as representações do estado e das ações possibilita otimizações computacionais expressivas. Nos fluxos de trabalho práticos de agentes, o conjunto de ações disponíveis permanece frequentemente estático, enquanto o estado do ambiente se altera a cada iteração. Através do seu componente de serviço dedicado, designado clm-serve, o sistema reserva uma fração dedicada de memória GPU para armazenar em cache os vetores de ação pré-computados, inspirando-se arquiteturalmente nos mecanismos convencionais de cache de chave-valor. Quando testado numa única GPU NVIDIA RTX 4090 com três ações candidatas, a reutilização dos vetores em cache reduziu a latência de 1,7 milissegundos para 0,6 milissegundos nos estados revisitados. Em conjuntos amplos de opções que contêm aproximadamente 1.000 ações candidatas, a ficha técnica do modelo relata velocidades de inferência até 13 vezes mais rápidas do que as registadas pelo Jev.

O processo de treino do CLM-8B assenta numa metodologia sequencial dividida em três fases distintas, concebida para refinar a precisão da classificação sem desestabilizar o codificador base congelado:

• Pré-treino com aproximadamente 60 milhões de pares de perguntas e respostas Nemotron DQA, alcançando uma precisão top-1 de 52,1% num conjunto de testes retido de 100.000 perguntas.
• Treino intermédio com aproximadamente 30 milhões de exemplos negativos difíceis sintéticos gerados através do Gemini 2.5 Flash-Lite, o que eleva a precisão top-1 para 69,2%.
• Pós-treino com aproximadamente 1 milhão de trajetórias de agentes provenientes dos conjuntos de dados Agent Data Protocol, Endless-Terminals e LiteCoder-Terminal-SFT.

Os investigadores da Contrastive-LM observaram que a tentativa de treinar diretamente com exemplos negativos difíceis logo na fase inicial de pré-treino fez com que o desempenho atingisse prematuramente um pico de 62,4% de precisão antes de registar um sobreajuste severo, o que comprova a necessidade deste currículo estruturado por etapas.

Avaliações Zero-Shot e Desempenho como Verificador

Em avaliações comparativas no regime zero-shot, o CLM-8B demonstrou vantagens expressivas de débito face ao Jev. O número em destaque de uma redução de latência de nove vezes foi registado durante testes no jogo T-Rex, no qual as opções candidatas se repetem frequentemente ao longo de estados ambientais sucessivos. Em avaliações mais amplas, o CLM-8B igualou o desempenho do Jev nos ambientes T-Rex e Super Mario, ficando ligeiramente atrás do Jev em avaliações de invocação de ferramentas (tool-calling) e em tarefas do WikiRacing, embora tenha executado sempre com menor latência em todos os cenários testados.

Para além do controlo reativo de jogos, o CLM-8B foi avaliado como modelo verificador em tarefas de engenharia de software para agentes. Neste fluxo de trabalho, um modelo de linguagem generativo gera múltiplas soluções candidatas e o modelo verificador classifica essas opções para selecionar a conclusão ideal. Em 38 tarefas retidas do DeepSWE, utilizando conjuntos de 4 candidatos gerados pelo Opus 5 (best-of-4), uma cabeça de projeção leve e ajustada no CLM-8B alcançou uma taxa de sucesso de 81,6%. Em 30 tarefas retidas do benchmark Terminal-Bench 2.1, utilizando os 5 melhores candidatos gerados pelo Fable 5, o modelo atingiu uma precisão de 87,6%.

As medições de desempenho realizadas num sistema composto por uma GPU NVIDIA H100 demonstraram que o CLM-8B operou entre 4,1 e 5,7 vezes mais rápido do que o Jev durante as tarefas de verificação. A equipa de investigação destacou que o Jev obteve pontuações abaixo da linha de base pass@1 em ambos os conjuntos de verificação, o que significa que selecionar respostas com o Jev produziu resultados inferiores aos de uma escolha aleatória simples. Contudo, os autores esclareceram explicitamente que estes números de verificação refletem cabeças especializadas sujeitas a ajuste fino em subconjuntos retidos, e não o desempenho do checkpoint original em regime zero-shot ou submissões completas para tabelas de classificação.

Limitações Técnicas e Implementação em Empresas

Apesar da sua elevada eficiência operacional, o CLM-8B opera sob restrições funcionais bem delimitadas. As cabeças de projeção estão estritamente vinculadas às representações obtidas por agregação do último token do Qwen3-8B, o que impede a sua aplicação direta com outras arquiteturas de base. Adicionalmente, o modelo é incapaz de gerar respostas novas por si próprio; limita-se a calcular probabilidades relativas sobre um conjunto de candidatos fornecido externamente. A Contrastive-LM indicou que capacidades de generalização mais amplas serão exploradas num futuro modelo multimodal denominado CLM-35B, cujo lançamento está previsto para o início de outubro.

Para equipas de desenvolvimento e empresas que constroem agentes autónomos, assistentes de programação ou fluxos estruturados de encaminhamento, o CLM-8B surge como uma alternativa prática face a chamadas morosas e dispendiosas a modelos generativos de grande porte. Todo o sistema está licenciado sob a licença de código aberto Apache-2.0, sendo que a cabeça de projeção ocupa apenas 75 megabytes e funciona numa única GPU NVIDIA em conjunto com o motor vLLM. As organizações podem alojar internamente sistemas de classificação de ações e de encaminhamento de ferramentas com elevado débito, eliminando a dependência de interfaces de programação externas e reduzindo a latência em fluxos de trabalho com múltiplos passos.