StartLux-Decision、推論の要否をモデル自身が判断、ただし選別後の確率は歪む
機器之心が2026年11月4日に報じたところによると、StartLuxは香港大学、南方科技大学と共同でStartLux-Decisionを提案した。InstantとAutoThinkの2組の重みは選択肢確率の読み出しを共有し、AutoThinkは最高選択肢確率が0.9を下回る場合にのみ推論を生成する。論文はあわせてRLCD²の学習法とDecisionPivot評価を示し、コードリポジトリとHugging Faceの重みのアドレスも添えている。
主な変更
これはチャットモデルではない。StartLux-Decisionはリクエストを「入力状態+問題+候補選択肢」として書き、モデル最終層のlogitsからA、B、Cなどの文字に対応する位置を取り出し、温度スケーリングとsoftmaxを経て各選択肢の確率を得る。追加の分類ヘッドは設けない。Instantは1回のフォワードのみ、AutoThinkは推論の前後で1回ずつ読み出す。両者は注意の向きが異なる。InstantはFull Attention層で因果マスクを外してプロンプト内のトークンを双方向に相互作用させ、Linear Attention層では因果計算を保つ。AutoThinkは因果注意を維持し、推論軌跡の生成を支える。論文は両者が同一の公開重みの組ではなく、互いに代替できないことを明記している。 論文のデフォルト評価設定では、AutoThinkはまず初期分布p₀を計算し、最高選択肢確率が0.9に達すればそのまま返す。0.9を下回る場合のみ推論軌跡を生成し、軌跡の末尾からp₁を読み出し、最終出力は約75%の重みで推論後の分布に寄せる。学習は3段階だ。全パラメータの教師あり微調整、アダプタ学習と注意方向の分化、その後AutoThinkに推論の教師あり学習とRLCD²の強化学習を行う。RLCD²の報酬は、凍結した評価モデルが与える確率スコアの増分と過長ペナルティからなり、ソフト長予算は3072トークン、生成上限は4096トークンである。 評価セットのDecisionPivotは13種類のプログラム生成タスクからなり、各種600問、計7800問。多くは答えを変えるのに十分な1つの細部だけを変えた対照問題対で構成され、中心指標は対の両方を正解したペア正解率だ。論文の報告では4B、9B、27BのAutoThinkがそれぞれ59.9%、59.9%、86.9%、対応するInstantが41.5%、47.5%、75.4%。同じ表でDecision 3.0 d3が71.3%、Perplexity Decider v1.1が70.1%、低推論強度設定を有効にしたGLM-5.3が82.2%となっている。これらはいずれも論文が自ら報告した数値と実行設定である。
開発者への影響
接続方式への影響はスコアより直接的だ。第一に、出力はテキストではなく確率である。Instantは自己回帰生成を行わないため、チャットや要約モデルとしては使えない。デプロイ環境で選択肢ごとのlogitsや確率が取れない場合、このモデル群の中核インターフェースは使えない。第二に、遅延は二峰性になる。論文は単一のH200、BF16、256トークンのプロンプト、単一リクエストの条件で、Instantの1回読み出しの中央値遅延を24〜52ミリ秒と測定したが、AutoThinkは推論が発火すると、エンドツーエンドで軌跡生成と2回目の読み出しが加わり、p50は長い裾を覆い隠す。第三に、確率の意味は下流の戦略に依存する。論文は9Bを検証器として使い、単一予測で80〜90%の信頼度が付与された回答の実際の正解率が92%だったのに対し、32個の候補から最高スコアを選んだ後は同じ信頼区間が78%に下がることを見いだした。選択操作が返される予測の条件分布を変えるためだ。第四に、ローカル配備にはメモリの壁がある。27BのBF16版は64GBユニファイドメモリのM5 Proで利用可能メモリを超え、8ビットまたは4ビット量子化でなければ動かない。第五に、タスクによる利得は均一でない。4Bと9Bの改善は選別、目標状態の検証、シフトの衝突といった項目ごとの計算が必要なタスクに集中し、ポリシー解釈、条項の変更、依存関係の処理では強い単発予測モデルが依然優位だ。
導入と評価の提案
以下は論文の報告に基づく条件付きの分析であり、論文が示した推奨ではない。 判断一:InstantかAutoThinkか、閾値をどこに置くか。報告から根拠にできる変化はAutoThinkの信頼度によるゲーティングだ。27BはDecisionPivotで約39%の問題に直接回答し、単問正解率は約96%、残り約61%が推論に入り、正解率は約57%から約93%に上がる。負荷がリクエストルーティングや検索結果の判定のように選択肢が少なく、文脈がすでに揃った判断なら、Instantの価値は生成を省くことにある。ルールに例外条項や閾値の境界が多いならAutoThinkを選び、閾値は自分で走査すべきだ。前提は配備側が選択肢ごとの確率を読めること。検証可能な基準は、自前の対照問題対でペア正解率を測りつつ、推論に入るリクエストの割合とp95遅延を数え、閾値を0から1まで動かして、正解率が上がらずトークンだけが増え続ける区間を見つけることだ。 判断二:推論長の予算をいくつにするか。報告から根拠にできる変化はRLCD²の長さペナルティだ。4Bのペア正解率はペナルティが512トークンから効く設定で60.4%から52.9%に落ち、3072トークンに緩めると59.9%に戻る。ペナルティを完全に外すと61.7%になるが、その評価では推論の約3分の1が生成上限内で自ら終了できなかった。選択は、ソフト予算を自分の推論長分布の上端に合わせることであり、3072をそのまま持ち込むことではない。前提は軌跡長と自力終了の有無を記録できること。検証可能な基準は、正解率だけでなく自力終了率と1問あたりのトークン消費だ。自力終了率が明らかに低いなら、本当に長い計算が必要な問題まで一緒に押しつぶしていないかをまず確認する。 判断三:確率校正を戦略ごとにやり直すか。報告から根拠にできる変化は戦略を意識した校正だ。best-of-N、推論ゲーティング、カスケード、選別してから推論する形を覆う184組の設定で、符号付きの信頼度と正解率の差は−11.7〜+20.5ポイントから−2.7〜+2.1ポイントに縮んだ。選択は、実際の選別やルーティングの後に、返されたその予測で校正を当てはめることであり、個々の候補を校正してそのまま流用することではない。前提はラベル付きの校正データがあり、候補数、平均候補スコア、またはルーティングを発火させた信頼度を記録できること。検証可能な基準は、固定した信頼度区間で予測信頼度と実際の正解率を比べ、設定した自動実行閾値で誤って通した割合を数えることだ。戦略を変えたら、校正マッピングと受け入れ閾値はどちらも測り直す必要がある。
制限と未確認事項
StartLux-DecisionのInstantとAutoThink(0.8B〜27B)は現在KimiSeekのモデルカタログにない。報道もホスト型APIには触れておらず、コードと重みの可用性はプロジェクト側のGitHubリポジトリとHugging Faceページに依拠し、当サイトが提供するものではなくプロジェクト側の経路である。情報源は重みがどのライセンスで公開されたかを示していない。重みがダウンロード可能であることはオープンソースライセンスを意味せず、商用利用、再配布、改変の許容範囲はモデルカードとライセンスファイルで確認する必要があり、「重みが公開された」ことから推測してはならない。 数値自体にも境界がある。DI 0.3の公開部分は完全なリーダーボードスコアの20%にしか対応せず、論文はこれが本研究のデータレシピとモデル選択に使われたことを説明しており、独立したテストセットではない。AutoThinkのこのリーダーボード上のスコアは、推論軌跡を排除した単発予測のリーダーボードに加わったとは見なせない。2986件の保留サンプルでは、3規模の最終的な意思決定正解率の変化区間がいずれもゼロを含み、この対照が最も支持するのは推論の終了と生成効率の改善であって、正解率の一般的な向上ではない。論文自身も次の点を注記している。48.0%はAutoThinkの推論を切った成績であり、Instantの75.4%と混同できない。校正マッピングを未見のデータセットに移すと最大約6.1ポイントの過信が残る。固定の0.9閾値は問題ごとの最適な計算配分に等しくない。単一H200・単一リクエストの遅延数値は並行サービスに外挿できない。タスクファミリー間の転移の証拠は依然限られている。