vLLM Semantic Routerがd3-ultraを公開：27Bのマルチモーダル意思決定モデル、1回の入力で全問に回答
MarkTechPostが2026年10月26日に報じたところによると、vLLM Semantic Routerチームは27Bのマルチモーダル意思決定モデルd3-ultraをApache-2.0で公開した。テキストを生成せず、入力を1回読み込むだけで各質問の回答確率を返し、ルーティング、分類、視覚的ボックス選択、動画検査をカバーする。
主な変更
MarkTechPostが2026年10月26日に報じたところによると、vLLM Semantic Routerチームはd3-ultraを公開した。26.09Bパラメータの密なマルチモーダル意思決定モデル（0.46Bの視覚エンコーダを含む）で、重みはApache-2.0ライセンスで公開され、Decision 3.0ファミリー（0.6Bから27B）に属する。生成型モデルと異なり、d3-ultraはテキストを出力しない。呼び出し側が状態（テキストまたはJSON、加えて画像または動画）と型付きの質問群——Choice、Yes/No、Score、Box、Track——を送ると、モデルは入力を一度だけ読み込み、各質問の各候補回答に対する確率を返す。報道によると、設定ではバックボーンがQwen3.5アーキテクチャ、64層（48層の線形注意と16層の全注意）と示されているが、モデルカードはベースチェックポイントを名指ししておらず、vLLMのレシピは同門のd3がQwen3.8-27Bに基づいて訓練されたと述べているため、d3-ultra自身の基盤の出所は不明である。各質問のコンテキストは131,072トークンで、長すぎるリクエストは静かに切り捨てられるのではなくmax_length_exceededで直接失敗する。Box型は常に1つのボックスと信頼度を返し、信頼度がほぼ0の場合は対象が存在しないとみなされる。報道が示すデプロイ手段には、Transformers（transformers==5.17.0が必要）とオプションのflash-linear-attentionカーネル、2026年10月25日にPR #5449でマージされたvllm-sr serveコマンド、無料キーを提供するとモデルカードが述べるホスト型インターフェース、公式Hugging Face Spaceのデモがある。性能面では、チームが2つの自社私有テストセットでGLiDE V1.2、d1-ultra、d3-turbo、d3、Jev 1.14と比較した。SR-Textは10,411件のリクエスト、73,495問（機会補正精度）で、d3-ultraが87.2で首位となり、GLiDE V1.2の85.1、同門のd3-turboの83.1を上回った。ただし「芸術と人間の嗜好」領域ではd3-ultraが89.6、d1-ultraが90.8で、報道はこの差は誤差範囲内としている。SR-Boxは4,984枚の画像の5,678問のボックス選択を対象とし、IoU 0.5を正解として、d3-ultraは10領域で58.2%、9領域で54.6%となり、d3-turboの60.0%と59.6%を下回った。チームはd3-turboが自然画像でより強く、d3-ultraがチャートで先行すると述べている。レイテンシについては、報道によると単一のAMD Instinct MI325X上でAutoModelとBF16重みを用いてテストし、写真1枚の単一質問で304 ms、255問で2.16 s、質問が1問増えるごとに平均約7.3 msかかった。公式の量子化版はまだ示されていない。すべてのベンチマーク数値はチームが私有テストセットで自己報告した結果であり、公開指数では「提出済み、未ランクイン」と表示されている。
開発者への影響
このモデルの形態は、個々の能力よりも統合方法への影響が大きい。通常の生成型インターフェースは出力トークンで課金し、同時実行数で容量を計画するが、d3-ultraのコストとレイテンシ構造は「入力ごとに1回のフォワードパスを行い、質問が増えても増分は平坦」である。報道の7.3 ms/問は、複数の判断を同じ呼び出しにまとめる場合、主なオーバーヘッドがその1回の読み込みに集中することを示す。すでにセマンティックルーターでリクエスト振り分けを行っているチームにとって、これは代替経路を提供する。「このリクエストはどのモデルに送るべきか」「このチケットはどのキューに属するか」「このコンテンツは違反か」といった判断を、汎用LLMにJSON出力を促して解析する方式から、制御された型付き質問で確率を得る方式に変えれば、出力は本質的に構造化された確率値であり、解析失敗のリスクが1層減る。代償は柔軟性である。モデルは自由生成を行わず、質問の型と選択肢を事前に設計する必要があり、これらの型を超えるタスクには使えない。ライセンス面では区別が必要だ。報道は重みがApache-2.0で公開されていると述べており、これは単に重みがダウンロード可能というだけでなくライセンス条項である。原則として商用利用と再配布に有利だが、実際の利用ではモデルカードとリポジトリのライセンスファイルを確認すべきであり、「重みがダウンロード可能」からライセンス権利を推測してはならない。デプロイ面では、26.09Bの密なパラメータをBF16で実行するには相応のVRAMが必要で、報道のテストは単一のAMD MI325X上でのみ完了しており、公式の量子化版はまだない。より小さなVRAMのデバイスでセルフホストしたいチームには現在公式な経路がない。2つの主要能力のデータは逆方向を示す。テキスト系の判断は同門を全面的に上回る一方、視覚的ボックス選択はd3-turboに劣る。これは「より大きく新しいほど良い」という一律の選択ができず、ワークロードごとに取捨選択する必要があることを示す。基盤の出所は依然として情報の空白である。設定はQwen3.5アーキテクチャを示すが、レシピは同門のd3がQwen3.8-27Bに基づくと述べるのみで、モデルカードはd3-ultraの基礎チェックポイントを名指ししていない。これは訓練データの出所、ライセンスの継承、今後の微調整の余地の判断に影響する。すべてのベンチマークはチームの私有テストセットでの自己報告であり、公開指数にはまだランクインしていないため、第三者が再現するまでは87.2と58.2%をベンダー自己報告として扱うべきである。
導入と評価の提案
以下は報道に基づく条件付きの分析と提案であり、確認済みの事実ではない。第一に、チームが生成型LLMでリクエストルーティングや分類を行っている場合、まず「同一入力の対照」を行う。既存のルーティングログから実際のリクエスト群を取り、現在のプロンプト方式とd3-ultraのChoiceまたはYes/No質問形式でそれぞれ実行し、同じ人手ラベル付き回答を基準に精度とエンドツーエンドのレイテンシを比較する。トリガー条件は、意思決定カテゴリが有限で列挙可能、回答を固定選択肢に書けることである。判断に自由な説明や多段推論が頻繁に必要な場合は置き換えに適さない。測定指標は同じラベルセットでの精度とP95エンドツーエンドレイテンシで、d3-ultraが既存方式を下回らず総レイテンシがより低い場合にのみ切り替えを検討する。第二に、負荷が視覚的定位中心の場合、SR-Textが先行するからといってd3-ultraを既定で採用しない。報道はd3-turboが自然画像のボックス選択でより強く、d3-ultraがチャートで先行すると述べているため、自社の画像タイプ別（自然写真とチャートの2類を分ける）に、両モデルをIoU 0.5の基準でそれぞれ正確率を測り、「信頼度がほぼ0を返したが対象が実際に存在する」見逃し率を別途集計したうえで、画像タイプの比率に応じてどちらを使うか決めることを勧める。チャート類の画像比率が高い場合にのみ、d3-ultraの定位優位が実現しうる。第三に、セルフホスト前にVRAMとスループットを試算する。26.09Bの密なBF16に視覚エンコーダとKVキャッシュを加えてVRAM需要を見積もり、対象ハードウェア上で単一リクエストの255問回答が報道の2.16 s程度に近いか実測し、「単一質問304 ms」を初回読み込みオーバーヘッドの容量ベースラインとする。VRAMが不足し公式の量子化版がまだない場合は、その経路を現時点で実行不可と標記すべきで、独自に量子化したうえで品質が変わらないと仮定してはならない。第四に、質問設計では131,072トークンのハード上限を制約とする。長い文書や多フレーム動画は事前に分割し、max_length_exceededエラーを別途記録して、リクエスト失敗を低信頼度と誤って数えないようにする。第五に、モデルカードは無料キーを提供するホスト型インターフェースがあると述べているが、報道は割り当て、安定性、データ条項を説明していないため、本番利用前に利用規約を自ら確認すべきである。
制限と未確認事項
報道の精度はすべてチームが私有テストセットで自己報告した結果であり、第三者による再現はなく、公開指数は「提出済み、未ランクイン」と表示されている。レイテンシデータは別種の情報である。報道は単一のAMD Instinct MI325X上でAutoModelとBF16重みを用いて測定したと述べており、私有ベンチマークではないが、他のハードウェアや推論スタックでの性能は不明で、報道も他モデルとの同一ハードウェア上でのレイテンシ比較を公開していない。報道は2つの私有テストセットのサンプル構成がこのファミリーの得意なタスク類型に偏っているかどうかを説明していない。基盤の出所には情報の空白がある。設定はQwen3.5アーキテクチャを示すが、レシピは同門のd3がQwen3.8-27Bに基づくと述べるのみで、モデルカードはd3-ultraの基礎チェックポイントを名指ししていないため、Qwen系バックボーンという説を確認済みの事実として扱えない。デプロイテストは単一のAMD Instinct MI325XとBF16重みに限られ、公式の量子化版はまだない。ホスト型インターフェースの無料キー条項、制限、可用性は報道で触れられておらず、こうした取り決めは随時変わりうる。今回のカタログ確認（2026年10月27日）時点で、d3-ultraはKimiSeekの利用可能モデルカタログに含まれていない。報道のAPI可用性はベンダー独自のインターフェースを指し、当サイトとは無関係である。利用可能なモデルと課金に関心がある読者は、サイト内の価格ページを参照されたい。