Lev、問題ごとにループ回数を変える意思決定モデル:同じ重みで複数の深さに対応
Machine Heartの2026年11月2日の報道によると、リーハイ大学などの研究チームがリカレント型意思決定モデルLevを提案した。ループごとに選択肢の確率を読み、同じ重みのまま異なる深さで回答でき、ストッパーが問題ごとにループ回数を決める。JevBenchでLev-2.6Bは1ループの63.2%から4ループで76.2%に上昇した。
主な変更
Machine Heartの2026年11月2日の報道によると、リーハイ大学、ブリティッシュコロンビア大学、Vector Instituteの研究者が、思考の連鎖ではなくリカレントで思考を深める意思決定モデルLevを提案した。Levは、JevやKevのような意思決定モデルのタスク形式を踏襲する。1回のリクエストに状態と候補付きの複数の質問が含まれ、モデルは各選択肢の確率を直接出し、テキストを生成しない。違いはベースにあり、Levは事前学習段階からリカレント構造を持つOuroまたはNanbeige4.2にベースを替える。同じデコーダ層群を繰り返し実行し、各ループの後に共有ポインタヘッドが選択肢確率を1回読む。ポインタヘッドとLoRAアダプタはループ間で共有され、損失は全ループで平均する。そのため同じチェックポイントがどの深さでも使える意思決定モデルになる。深さごとのロジスティック回帰ストッパーが各問題の停止ループを決める。著者らはこの計算方式をSystem 1.5と呼ぶ。インターフェースは依然として決定を直接返すが、難しい問題にはより多くの計算をかけられる。 論文は3つのモデルを示す。Lev-1.4B(Ouro-1.4B、最大4ループ)、Lev-2.6B(Ouro-2.6B、4ループ)、Lev-3B(Nanbeige4.2-3B、2ループ)だ。このうちNanbeigeは事前学習時に最終ループにのみ損失があり、Levが監督済みの中間ループに依存するかを検証するために使われた。公開されているJevBenchの231問で、Lev-2.6Bは1ループの63.2%から4ループで76.2%へ、13.0ポイント向上した(95%信頼区間7.4~19.0)。重みは変えず、変わったのはループ深度だけだ。ストッパーの予測対象は「正解したか」ではなく「現在の回答が最深ループの回答とすでに一致するか」で、しきい値は最終回答の少なくとも98%が最深ループの回答と一致する最小値だ。したがってキャリブレーションに人手ラベルは不要である。論文、コード、3モデル、3データセットはすべて公開済みだが、報道は重みのライセンスや商用条件を示していない。報道はまた、Levはタスク形式がOpenAI Decisionsに似た独立実装にすぎず、その重み、アーキテクチャ、APIを再現しておらず、同製品との性能比較も行っていないと強調している。
開発者への影響
開発者にとっての変化はパラメータ数ではなく、「どれだけ深く計算するか」を学習時からサービング時に移したことにある。意思決定モデルの1回のフォワードパスは安いが、計算量は学習時に固定され、簡単な問題も難しい問題も同じコストになる。思考の連鎖で難しい問題の精度を上げる代わりに、すべての問題で推論テキストの分を支払う。報道が引用した比較では、同じ26Bベースで思考を有効にすると難しい問題が9~13ポイント向上し、難しい問題の中央値レイテンシは3~4倍になった。Levは同じ重みでループ数ごとに異なる動作点を出す。報道によれば、オンデマンド深度は2つのホールドアウトテストセットで最深ループの76%~85%のループ計算しか使わず、精度差は0.3~0.8ポイントだった。 利点の境界も具体的だ。浮動小数点演算量(FLOPs)で見ると、報道はLevがdense方式と同等か、それ以上に不利だとしている。各ループでベース全体を実行する必要があるためで、利点は計算能力ではなく遅延に現れる。39~46ミリ秒の範囲では、オンデマンドのLev-1.4BとLev-3Bは同じ遅延のカスケードより7.0~8.8ポイント高く、最良のdense方式より5.4~7.5ポイント高い。ただしLev-2.6Bは約150ミリ秒ではKev-4Bを直接使う場合を上回らない。深さは正解だけをもたらすわけではない。LevBenchでは最初の追加ループが20.4%を正解に変え、8.6%を誤答に変えた。さらに12.6%の問題は浅いループでは正解だったが最深ループでは誤答で、「最深ループと一致」を目標とするストッパーでは救えない。タスク種別でも差があり、言語理解系は19.0ポイント向上したが、ユーモアや色の好みのような嗜好判断には利益がなかった。著者らは、追加のループが複数の事実を組み合わせるのに必要な逐次計算を提供し、嗜好判断にはその計算が不要だと推測している。このメカニズムの説明は独立に検証されておらず、確認済みの因果結論としては扱えない。
導入と評価の提案
以下は条件付きの提案であり、報道された事実ではない。 第一に、まずモデルを替えるのではなく、オンデマンド深度を採用するかどうかを決める。報道が示す変化は、最深ループに対してオンデマンド深度が計算を15%~24%減らせるというものだ。ただし「同等コストで固定深度を混ぜる」方式に対する優位は小さく、Lev-2.6Bはホールドアウトセットで0.2ポイント高いだけ、Lev-3Bは1.0ポイント高いだけだった。ループ回数の削減をオンラインスループットに変えるには、異なる深度のリクエストをバッチ化・スケジューリングするサービング側の対応が必要だが、論文ではこの部分を行っていないと明言している。推論スタックが深度別のバケット分けや早期終了に対応していないなら、まず固定2ループで運用することを勧める。難しい問題にテール予算を確保し、スケジューリングを改造する用意がある場合に限り、ストッパーに投資すればよい。前提は、同一バッチ内で異なるループ数のパディングとスケジューリングのオーバーヘッドが許容できることだ。測定可能な判断基準は、自社トラフィックのサンプルで、オンデマンド深度が固定2ループの同等コストのフロンティアを下回らず、同時にp95ループ回数が15%以上下がることだ。改造後にp95遅延が改善しないなら、ボトルネックはループ回数ではなくスケジューリングにある。 第二に、ストッパーのしきい値は自社トラフィックで再設定する必要がある。報道によれば、ラベル付きデータで「正解したか」を目標にしきい値を調整すると、2つのOuroモデルはいずれも固定深度のフロンティアを下回る。一方、「最深回答と一致するか」を目標に、ラベルなしの対象リクエストでキャリブレーションすると、単純な最大確率しきい値でも完全なストッパーとの差は0.2ポイントにとどまり、各フォールド500問で足りる。方法は、自社業務リクエストの各ループ出力を記録し、「全深度の回答と一致するか」をラベルとしてしきい値を選び直すことだ。論文のしきい値をそのまま持ち込まない。前提は、オフラインで全深度を一度実行できることだ。ラベルなしはゼロコストではない。判断基準は、ホールドアウトトラフィックで早期終了した回答と全深度回答の一致率が98%以上であること。下流のアクションが取り消せないなら、この基準を引き上げ、業務上の損失に応じてしきい値を再設定すべきだ。 第三に、決定インターフェースで生成型推論を置き換える前に、層別の比較を行う。報道は、Levが候補確率だけを出力して説明テキストを出さないこと、一方で思考を有効にすると難しい問題で9~13ポイント増えるが所要時間が数倍になることを指摘している。ツールルーティング、分類、アクションランキングのようなタスクは、小規模サンプルで2つの経路を比較してよい。理由や監査可能な軌跡が必要な場面では生成型の経路を残すべきだ。前提は、タスクを候補集合に列挙できることだ。判断基準は、同じ評価セットで精度が下がらないこと、p50遅延が予算内に収まること、そして純増だけでなく誤答に変えた割合を別途集計することだ。 第四に、denseベースにリカレントを後付けしない。報道によれば、Qwen3.5-0.8Bの中間8層をゲート付きリカレントとして接続し、Kevのレシピで訓練すると、精度変化は0.5ポイント未満で、ゲートは常にほぼゼロだった。深さのつまみが欲しいなら、ネイティブのリカレントベースから始めるべきだ。それでも試すなら、まずゲート値がゼロから離れるか、ループごとの精度曲線に傾きがあるかを見る。曲線が平坦ならリカレントは使われていない。
制限と未確認事項
論文のリカレントベースは1.4B~3Bのみで、これは現在公開されている規模だ。より大きなモデルで深度曲線が成立するかは不明である。JevBenchの結論は公開されている231問だけに基づく。オンデマンド深度の「計算削減」はオフラインで集計したループ回数であり、オンラインの所要時間ではない。遅延の数値は単一のH200、bf16、1回1リクエストで得たもので、融合演算子、グラフキャプチャ、状態キャッシュを使わず、サービング最適化も行っていない。本番環境では値が変わる。12.6%の「浅い層では正解、深い層では誤答」は、深くすれば単調に良くなるわけではないことを示す。ライセンス面では、報道はコード、モデル、データが公開済みと述べるだけで、重みのライセンスには触れていない。重みの公開はオープンソースライセンスと同義ではなく、商用利用前にリポジトリの条項を自分で確認する必要がある。Lev-1.4B、Lev-2.6B、Lev-3Bはいずれも現在KimiSeekのモデルカタログにない。報道におけるモデルの可用性は著者が公開したリポジトリと重みを指し、KimiSeekでの提供状態ではなく、既存のベンダーAPIがあることも意味しない。将来ホスト型サービスが登場した場合、その可用性は各提供事業者に従う。上記の数値はMachine Heartの報道と論文の公開記述に基づくもので、独立した再現や実測は行っていない。