Qwen3.8-Flash-Next：アリババがQwen4アーキテクチャの一端を公開

アリババのQwenチームは2026年8月26日、オープンウェイトのマルチモーダルMoE（混合エキスパート）モデル「Qwen3.8-Flash-Next」を公開した。MarkTechPostによれば、このモデルは「トークンあたりのコスト」を重視して設計されているという。チェックポイントは1250億パラメータのバックボーンを持つが、トークンごとに活性化するのはわずか60億パラメータにとどまる——Qwenチームはこの比率を、Qwen4を支えるアーキテクチャの早期プレビューと位置づけており、MarkTechPostによれば、これはQwen3.5に先立ちQwen3-Nextが果たしたのと同じ役割だという。

MarkTechPostの報道によれば、メインのバックボーンに510億パラメータのN-gram埋め込みテーブルと40億パラメータのマルチトークン予測モジュールを加えると、ディスク上の総パラメータ数は1800億に達する。The Decoderは、このN-gram層を、よく使われる単語のまとまりを独立したエントリとして保存する一種の「フレーズ辞典」だと説明しており、GPUメモリではなく通常のシステムRAMに置くことができ、その追加コストはQwenいわく「比較的低い」という。

リリースを支える4つの変更

MarkTechPostは、Qwen3.8-Flash-Nextを支える4つのアーキテクチャ上の変更を挙げている。1つ目はハイブリッド型のアテンション方式だ。4層のうち3層はGated DeltaNet——履歴情報を固定サイズの再帰状態へと圧縮する線形アテンション機構——を実行し、残る1層はQwen Sparse Attention（QSA）を実行する。QSAは軽量なインデクサーによりマイクロブロック単位でコンテキストを選択する仕組みだ。モデル全体48層のうち、この配置は「Gated DeltaNet3層+QSA1層」というブロックが12回繰り返される形をとり、QSAの予算は512ブロックまたは2048トークンに上限が設けられている。

2つ目の変更であるGated Residualは、残差ストリームを4本の並列な分岐に拡張し、要素ごとの読み出しゲートと分岐ごとの書き込みゲートによって制御される。ボトルネックのランクは320だ。3つ目は前述のN-gram埋め込みである。4つ目は訓練手法で、MarkTechPostによれば、特定の重みカテゴリに対してMuonオプティマイザをAdamWと併用し、バッチサイズのウォームアップを廃止したうえでスケーリング則を再調整したという。MoE層自体は512個のエキスパートの中からルーティングを行い、トークンごとにルーティングされた10個のエキスパートと共有エキスパート1個を活性化する。エキスパートの中間次元は640である。

• メインバックボーンの総パラメータ数1250億のうち、トークンごとに活性化するのは60億のみ
• 510億パラメータのN-gram埋め込みテーブルと40億パラメータのマルチトークン予測モジュール——ディスク上の総パラメータ数は合計1800億
• MoE層のエキスパート数は512個、トークンごとにルーティング10個+共有1個が活性化
• ネイティブのコンテキストウィンドウは26万2144トークン、YaRNにより100万トークンまで拡張可能
• FP8チェックポイント：172.78 GiB、BF16チェックポイント：335.28 GiB

ベンチマークでは大型のライバルを上回るが——全面的ではない

The Decoderによれば、エージェント型コーディングにおいてQwenはFlash-NextがDeepSWE 1.1で58.7点、SWE-bench Proで62.5点を記録し、いずれもDeepSeek-V4-FlashおよびClaude Opus 4.6（Max）を上回ったと報告している。オフィス業務やプロフェッショナルなワークフロー系タスクでは差はさらに広がる。The Decoderによれば、Flash-NextはCoWorkBenchで73.9点を記録し、DeepSeek-V4-Flashの45.1点を大きく上回った。JobBenchでも55.7点を記録し、Qwen3.7-Plusの27.6点のほぼ2倍だという。The Decoderが伝えるアリババ自身のベンチマーク比較によれば、Qwen3.7-Plus自体は総パラメータ数3970億でトークンごとに170億が活性化する——Flash-Nextの活性化パラメータ数のほぼ3倍にあたる——一方、DeepSeek-V4-Flashは総パラメータ数2840億でトークンごとに130億が活性化するという。

このモデルはあらゆる面で勝っているわけではない。MarkTechPostによれば、Humanity's Last ExamではClaude Opus 4.6（Max）が40.0点でQwenの35.9点を上回り、NL2Repo-BenchではDeepSeek-V4-Flash-0731が54.2点で48.1点を上回っているという。The Decoderは、比較対象のClaude Opus 4.6は2026年2月付けの「やや古い」Anthropicモデルであると付け加えたうえで、ベンチマークのスコアと実際の性能は乖離しうると注意を促している。

訓練コストは9分の1、価格は数分の一

MarkTechPostによれば、QwenはFlash-Nextの訓練コストがQwen3.7-Plusのおよそ9分の1だったとしている。提供速度に関しては、2つの情報源で具体的な数値が食い違っている。MarkTechPostの報道では、Qwen自身の発表がQSAカーネルにより100万トークン規模でプリフィル最大7.6倍、デコード最大4.9倍の高速化を実現したと主張する一方、同じMarkTechPostの記事内で引用されているSGLangとvLLMの別々のデプロイ資料では、それぞれ10.2倍、6.6倍という改善幅が示されているという。MarkTechPostはこの食い違い自体を指摘し、「独立した測定が行われるまでは、この幅をベンダー発表の数値として扱うべき」だと促している。MarkTechPostによれば、Qwenはさらに、プレフィックスキャッシュのヒット率90%の条件下でQwen3.7-Plusの8.6倍のプリフィルスループットを主張しているという。

価格については、The Decoderの報道によれば、製品版のQwen3.8-FlashはQwenCloud経由で提供され、入力トークン100万あたり0.16ドル、出力トークン100万あたり0.47ドルという設定で、対応APIは近く提供される見込みだという。The Decoderによれば、これはアリババの現行フラッグシップであるQwen3.8-Max（8月初旬にリリースされ、Claude Opus 4.8、Gemini 3.1 Pro、GPT-5.6 Solを念頭に位置づけられたモデル）の価格のおよそ12分の1に相当する——アリババ自身のベンチマークでは、Flash-Nextの性能はこのフラッグシップをわずかに下回るにもかかわらずだという。

デプロイは可能だが、ワークステーションでは動かない

活性化パラメータ数が効率的であるとはいえ、Flash-Nextは個人の開発者が気軽に動かせるモデルではない。MarkTechPostによれば、FP8チェックポイントのサイズは172.78 GiB、BF16版は335.28 GiBに達するという。vLLM自身のデプロイ資料によれば、Nvidia GB300上で検証済みの最小FP8構成にはテンソル並列でGPU2基が必要で、4基が推奨されるという。また8基のH200からなるノードでは、標準的な8ウェイのテンソル並列がこのチェックポイントの128幅の量子化ブロックと互換性がないため、テンソル並列とエキスパート並列を組み合わせた構成が必要になるという。MarkTechPostは、スパースな活性化は計算量を削減するが、ストレージ容量は削減しないと指摘する。このモデルはApache 2.0ではなく、アリババ独自のqwen-community-1.0ライセンスのもとで提供されており、商用利用に際しては事前に条件を確認する必要があるとMarkTechPostは付け加えている。

アリババがFlash-Nextで打っている賭けは、単なる数字の勝負ではなく構造的なものだ。MoEによるルーティングと補助的な参照テーブルによって総容量を拡大しつつ活性化パラメータ数を低く抑えることで、はるかに大規模で高コストなシステムに迫る推論品質を、クエリあたりの計算コストのごく一部で提供できるようになる。だからこそQwenは今回のリリースを完成品としてではなく「アーキテクチャのプレビュー」として位置づけている——アリババがQwen4シリーズ全体へと展開しようとしているアイデアを、より小規模なモデルで公に予行演習しているというわけだ。

ClaudeやGPTといった西側の専有APIを使うか、それとも中国発のオープンウェイトモデルに乗り換えるかを検討している企業にとって、Qwen3.8-Flash-Nextはその選択をより明確なものにする。最先端の専有モデルのごく一部の価格で、コーディングやオフィス業務の自動化ベンチマークにおいてはるかに大規模なシステムに匹敵、あるいは上回る性能を発揮するオープンウェイトモデルが、自前でホストするか、QwenCloud経由でレンタルするかの形で利用可能になった。ただし、動かすにはノートパソコンではなく複数GPUを備えたサーバーが依然として必要であり、ライセンスもApacheではないため、商用導入の前にはその条件をよく確認しておく必要がある。