九章雲極、GLM-5.3向け投機的デコーディング「Alaya-DFlash2」を公開 32k文脈で3.41倍と主張
InfoQの2026年10月20日の報道によると、九章雲極はGLM-5.3向けの投機的デコーディング高速化手法「Alaya-DFlash2」を発表した。並列で起草できるドラフトモデルと経路選択の仕組みからなり、重みを公開している。ベンダー自己評価では、8×H200・TP=8環境で同時実行数1のデコード速度がネイティブ自己回帰の3.41倍、1kから32kまでの低エントロピー文脈で受理長が比較2手法をいずれも上回るとしている。これらの数値と比較はいずれもベンダー自測であり、第三者による再現はまだ待たれる。
主な変更
InfoQの2026年10月20日の報道によると、九章雲極はGLM-5.3向けの投機的デコーディング高速化手法「Alaya-DFlash2」を打ち出した。並列起草が可能なドラフトモデルと経路選択の仕組みで構成され、重みはAlayaNeW/GLM-5.3-DFlash2名義で公開されているが、報道は具体的なオープンソースライセンス条項には言及していない。報道によれば、この手法は九章雲極のAlayaNeW知能コンピューティングエンジンを基盤にGLM-5.3向けのドラフトモデルを学習したものだという。評価面では、8×H200・TP=8環境でのデータとして、同時実行数1のデコード速度が約288.2 tokens/s、ネイティブ自己回帰が約84.5 tokens/sで3.41倍、対応する総出力スループットが78.95から236.47 tokens/sへ上昇したとしている。同時実行数が上がると優位は縮小し、同時実行数4のスループットはネイティブ自己回帰の2.24倍、同時実行数64のスループットは608.71 tokens/sで、ネイティブ自己回帰の420.13 tokens/sに対して44.9%の向上だった。報道はさらに低エントロピー文脈の受理長として、1k、2k、8k、16k、32kがそれぞれ4.74、4.97、5.28、5.50、5.39で、いずれも同報道で比較対象となったIncoAI-DFlash2とRedHat-DSparkを上回り、11種類のタスクのうち9種類で受理長が先行し、コードとロールプレイの2種類ではIncoAI-DFlash2に近いとしている。
開発者への影響
投機的デコーディングが開発者にとって実質的に意味するのは、モデル能力そのものではなく、同じハードウェア上での生成コスト構造を変える点である。報道の口径に従えば、長文脈の場面でドラフトの受理長が5前後で維持されることは、1回の主モデル順伝播で約5個の候補トークンを検証・通過できることを意味し、主モデルが繰り返しデコードする回数を減らして、初回トークン以降の継続出力の待ち時間を直接圧縮する。GLM-5.3の推論サービスを自前で構築するチームにとっては、主モデルを差し替えず出力分布も変えずにデコードスループットを得ることに相当し、その代償はドラフトモデルの重みを追加で読み込む分のVRAMとスケジューリングのオーバーヘッドである。報道は同時に、利得が同時実行数によって変わることも示している。同時実行数1で速度向上が最大となり、同時実行数64では総スループットの向上が44.9%まで縮小する。このことは、この手法の利益が低同時実行の対話場面により色濃く現れ、高同時実行サービスでは単位スループットの増分が相対的に限られることを示唆する。注意すべきは、すべての数値がベンダー自測に由来し、テスト環境がTP=8・8×H200に固定されていること、受理長は具体的なデータ分布に依存し、低エントロピー文脈以外の分布では挙動が異なりうること、重みの公開はライセンス条項の明確化と等しくなく、商用前にリポジトリのライセンス情報を確認する必要があることだ。
導入と評価の提案
評価結論をそのまま流用するのではなく、次の条件で取捨選択することを勧める。第一の判断は、このドラフトモデルを導入するかどうかである。推論負荷が長文書QAやRAG要約など長文脈・低〜中同時実行を主体とするなら、報道が示した16k〜32kの受理長が5を超えるというデータは、実トラフィックでの対照テストを一度行う根拠になる。負荷が高同時実行の短いリクエスト主体なら、報道では同時実行数64のスループット向上が44.9%にとどまるため、ドラフトモデルによる追加のVRAM占有とスケジューリングコストが見合うかをまず試算する必要がある。評価基準は、自前の32k長サンプルで実測の受理長とトークン間遅延を測り、受理長が報道水準を明らかに下回る場合や、VRAM増加で同時実行上限が下がる場合には導入しない、と設定できる。第二の判断は、ドラフト位置数と検証バッチの設定である。報道はドラフト後段でも受理率がなお相応に高いこと（32kで第5位置49.43%、第8位置29.51%）を示しており、これは検証の深さを既定より深くすることを支持する。ただしこの利益が成立する前提は、バックエンドの受理率が自前データでも同様に保たれることであり、コードやロールプレイなど報道で先行を得られなかったタスク種別で受理率が急速に減衰するなら、ドラフト長を増やすことは計算資源の浪費にしかならない。評価基準は、位置ごとに通過率を集計し、受理率が設定したしきい値を割り込む位置を見つけてドラフト長をそこで打ち切る、と設定できる。以上はいずれも報道データに基づく条件付きの提案であり、ベンダーが示した展開結論ではない。
制限と未確認事項
報道の性能データはすべて九章雲極の自測で、第三者による再現はなく、テストデータセット、プロンプトテンプレート、デコードパラメータも開示されていない。受理長はデータ分布に強く依存するため、自前のトラフィックに移して再現するとは限らない。評価環境は8×H200・TP=8に固定されており、他のハードウェアや並列構成での挙動は不明である。報道の言うオープンソースは重みのアドレスを示すのみで、ライセンス種別には言及していない。重みが利用可能であることは、任意の商用利用や再配布をライセンス条項が許すことと等しくなく、リポジトリの宣言に従う必要がある。加えて、Alaya-DFlash2はGLM-5.3向けの独立したドラフトモデル手法であり、主モデルそのものとは別物である。GLM-5.3はKimiSeekの現在のカタログに対応する項目が確かにあるが、この高速化手法であるAlaya-DFlash2自体は呼び出し可能なモデルとしてKimiSeekに登録されておらず、関連する可用性はベンダーと重みリポジトリに基づく。
元の報道の図版
