CLM-8B：エージェントの行動候補を高速評価するオープンなSystem 1モデル

研究組織のContrastive-LMは、対照言語モデル（Contrastive Language Models: CLM）と呼ばれるカテゴリに属するオープンモデル「CLM-8B」を発表した。トークン単位で文章を逐次生成する従来の自己回帰型大規模言語モデルとは異なり、CLM-8Bはテキストを一切生成しない。その代わりに、現在の環境状態に対して提示された行動候補のセットを評価し、それらの選択肢全体に対する確率分布を出力する。このアーキテクチャの転換は、自律型エージェントのループ処理における意思決定やルーティングの工程を明確に対象としており、従来のテキスト生成オーバーヘッドに伴う大幅な遅延を解消することを目的としている。

CLM-8Bの直接的な比較対象となるのは、TypeSafe AIが開発し、2026年9月15日に限定早期アクセスが開始されたプロプライエタリなSystem 1モデル「Jev」である。Jevと同様に、CLM-8Bは生成的な文章作成ではなく、構造化されたカテゴリカルな選択を提供することに特化して設計されている。既存システムへの円滑な統合を確保するため、CLMのリポジトリはTypeSafe互換のインターフェース経由でモデルを提供する。この設計により、命題の真偽確率を算出する「Noul」、確率が付与された明示的なリストから単一の候補を選択する「Choice」、順序付けられた評価基準に基づいて入力を評価する「Score」という3種類のクエリ形式がサポートされている。

エージェントループにおけるデュアルエンコーダーとベクトルキャッシュ

アーキテクチャ面において、CLM-8Bは状態エンコーダーと行動エンコーダーで構成されるデュアルエンコーダー設計を採用している。両エンコーダーは、凍結されたQwen3-8Bのバックボーンと、学習可能な2000万パラメータの射影ヘッドを共有している。学習では双方向InfoNCE損失関数を最適化し、特定状態の埋め込みベクトルを実際に実行された行動の埋め込みベクトルへ近づけ、選択されなかった行動候補からは遠ざけるように調整する。推論時には、状態の埋め込みと各行動候補の埋め込みとの内積を計算し、続いてソフトマックス関数を適用して確率分布を決定する。

状態表現と行動表現の分離は、計算の最適化を可能にする。実際のエージェントワークフローでは、環境状態がターンごとに変化する一方で、利用可能な行動セットは静的なまま維持されるケースが多い。専用の配信コンポーネントであるclm-serveを通じて、システムは標準的なKey-Valueキャッシュ機構に着想を得た手法を用い、事前計算された行動ベクトルをキャッシュするために専用のGPUメモリ領域を確保する。単一のNVIDIA RTX 4090 GPU上で3つの行動候補を用いて検証した際、キャッシュされたベクトルを再利用することで、再訪問された状態における遅延は1.7ミリ秒から0.6ミリ秒へと短縮された。約1,000件の行動候補を含む大規模な選択肢セットでは、モデルカードによるとJevと比較して最大13倍の推論速度が記録されている。

CLM-8Bのトレーニングパイプラインは、凍結されたベースエンコーダーの安定性を損なうことなくランキング精度を向上させるため、3段階の逐次的なカリキュラムに基づいている。

• 約6,000万件のNemotron DQA質問応答ペアを用いた事前学習。これにより、10万件の独立したテストセットで52.1%のTop-1精度を達成。
• Gemini 2.5 Flash-Liteで生成された約3,000万件の合成ハードネガティブ（紛らわしい負例）を用いた中期学習。Top-1精度は69.2%まで向上。
• Agent Data Protocol、Endless-Terminals、LiteCoder-Terminal-SFTデータセットから収集された約100万件のエージェント実行軌跡を用いた事後学習。

Contrastive-LMの研究者は、初期の事前学習段階からハードネガティブを導入して学習を試みた場合、深刻な過学習に直面する前に精度が62.4%で早期に頭打ちになったことを指摘しており、段階的なカリキュラムの重要性を裏付けている。

ゼロショット評価と検証モデルとしての性能

ゼロショットの比較評価において、CLM-8BはJevに対して顕著なスループットの優位性を示した。9倍の遅延削減という代表的な数値は、環境状態の遷移に伴って同一の候補が繰り返し現れる「T-Rex」ゲームのテストで記録された。より広範な評価において、CLM-8BはT-RexおよびSuper Marioの環境でJevと同等のスコアを記録した一方、ツール呼び出し評価やWikiRacingタスクではJevに及ばなかった。ただし、評価されたすべてのシナリオにおいて一貫して低遅延での実行を維持している。

リアクティブなゲーム制御にとどまらず、CLM-8Bはソフトウェアエンジニアリングエージェント向けの検証モデル（Verifier）としても評価された。このワークフローでは、生成型言語モデルが複数の候補コードを出力し、検証モデルがそれらの選択肢をランク付けして最適な完了コードを選択する。Opus 5によって生成されたBest-of-4の候補セットを用いたDeepSWEの38の独立タスクにおいて、CLM-8Bに軽量な微調整ヘッドを適用した構成は81.6%の成功率を達成した。また、Fable 5によるBest-of-5の候補を用いたTerminal-Bench 2.1の30の独立タスクでは、87.6%の精度に達した。

NVIDIA H100システムで実施されたベンチマーク測定では、CLM-8Bは検証処理中にJev比で4.1倍から5.7倍高速に動作した。研究チームは、Jevが両方の検証スイートでpass@1の基準値を下回ったこと、すなわちJevによる選択がランダムに1つのサンプルを選ぶよりも悪い結果をもたらしたことを強調した。ただし著者らは、これらの検証モデルの数値は独立サブセット上で特化した微調整ヘッドによる結果であり、ゼロショットのチェックポイント性能や公式リーダーボード全体のスコアを表すものではないことを明記している。

技術的制約と企業における導入の展望

その優れた運用効率にもかかわらず、CLM-8Bには明確な機能的制約が存在する。射影ヘッドはQwen3-8Bのラストトークンプールされた埋め込みに固定されており、他のベースアーキテクチャへの流用はできない。さらに、モデルは新たな応答を生成できず、外部から与えられた候補セット全体にわたる相対確率を計算することしかできない。Contrastive-LMは、10月上旬にリリースが予定されているマルチモーダル対応の「CLM-35B」モデルにおいて、より広範な汎化性能の獲得を模索する意向を示している。

自律型エージェント、コーディングアシスタント、あるいは構造化されたルーティングパイプラインを構築する企業の開発チームにとって、CLM-8Bは低速かつ高コストな生成型LLMの呼び出しに対する現実的な代替手段となる。システム全体がApache-2.0ライセンスで提供され、射影ヘッドのサイズはわずか75メガバイトであり、vLLMとともに単一のNVIDIA GPU上で稼働できる。企業は高スループットな行動ランキングやツールルーティングを自社インフラ内で完結させることができ、外部APIへの依存を排除しながら複雑なマルチステップ処理の遅延を大幅に削減できる。