NVIDIA、Nemotronの特化手法を公開：IOIとIMOで金メダル相当、重みと手順を同時公開
NVIDIAの2026年10月7日の公式ブログによると、チームはNemotron 3を基盤に、SFT、RL、生成・検証・リファインの推論ループを通じて、IOI 2026で535.4/600、IMO 2026で30/42を達成し、いずれも報道では金メダルラインを越えたとされる。関連するチェックポイント、データセット、評価パイプラインはHugging FaceとNeMo-Skillsで公開されている。
主な変更
NVIDIAチームが2026年10月7日に公開した公式ブログによると、Nemotron 3を基盤に2種類の特化システムを構築した。競技プログラミング向けのNemotron-3-Ultra-CC（総パラメータ5500億、活性550億、SFT済み）は、GenCorrectによる反復的な生成・評価・リファイン戦略と組み合わせ、リアルタイムで非公式・公式ランキングに含まれないIOI 2026の先行実行において535.4/600を取得し、報道で示された361.12の金メダルラインと人間最高分498.27を上回った。これに対応するNemotron-3-Nano-CC（総パラメータ300億、活性30億、SFTとRL済み）も対照実験に用いられ、報道ではNanoがポストトレーニング前の130点からSFT後280点、RL後291点に向上し、GenCorrectを加えると468点に達したとされる。数学分野ではNemotron 3 Ultraの汎用・SFT・RLチェックポイントで生成・検証・リファインシステムを構成し、SFTコーパスには414,890件のサンプル、15,818問の重複しない証明問題を含み、RL訓練には能力の境界に近い9,597問を使用した。システムは完全に自然言語で動作し、形式化証明器、外部ツール、インターネットを使用せず、最終的に公式IMO採点者による採点で30/42を取得した。ブログは同時に、関連モデル、2セットの訓練データセット、Nemotron-IMO-Bench（200問のオリンピック級問題）、NeMo-Skills内の推論パイプラインとプロンプトが公開されたと述べている。
開発者への影響
開発者にとっての直接的な意味は、この結果が「基盤＋ポストトレーニング＋推論ループ」という役割分担をより明確にしたことである。報道によれば、同一基盤でも規模やポストトレーニングの組み合わせを変えることで、コードと証明という2種類の高難度タスクに適応でき、向上は微調整だけやサンプリングだけに依存しない。同様の手順が企業場面に複製されれば、評価対象は単一モデルの出力からパイプライン全体へ移り、候補生成、採点、批評、リファイン、最終選択の各段階が共同で成績を決める。重みの公開とオープンソースライセンスは区別が必要であり、ブログはモデルとデータがHugging Faceで公開され、再現可能なパイプラインを提供するとしているが、具体的なライセンス条項は示されていないため、ダウンロード可能であることは自由な商用利用を意味せず、採用前にモデルのライセンスとデータ利用条件を自身で確認する必要がある。また、IOIの成績は明確に非公式で人間の監督なしのベンチマーク実行であり公式ランキングとは無関係で、IMOは公式採点者による採点と説明されており、両者の結果の比較可能性は異なる。リソース面では、データはNanoがSFTとRLを用い、Ultraは1エポックのSFTのみで完全なポストトレーニングのNanoを上回ることを示し、特化の計算予算は規模間で線形ではなく、微調整コストと推論コストを分けて計算する必要があることを示唆する。
導入と評価の提案
提案1（条件付き分析であり報道事実ではない）：厳密な出力形式や隠れたテスト通過率が必要なタスクでは、まず「ポストトレーニングチェックポイント＋フィードバックループ」が純粋なプロンプト方式より優れるかを検証できる。判断根拠は、出典で報告されたNanoがポストトレーニング後に大幅に向上し、GenCorrect追加でさらに向上したことで、利得が微調整と複数回のリファインの重ね合わせから生じることを示す。ただし、タスクで信頼できる採点器を自動構築できない場合、この路線の前提は成立しない。評価基準は、同一の自前隠しテスト上で基盤、単一のポストトレーニングチェックポイント、生成・評価・リファインの3回追加後の通過率の差と単一タスク推論時間の倍率を比較する。提案2：数学や長い連鎖推論の場面では、単一チェックポイントでサンプリング回数を増やすのではなく、SFTとRLのチェックポイントを同時に保持し相補的にサンプリングすることを検討する。出典は、SFTチェックポイントが第1ラウンドの探索で最強、RLチェックポイントが単一チェックポイントで総合最良とし、最終システムは両者を併用すると述べており、パイプラインが多モデルルーティングと統合スコアリングをサポートする必要がある。評価基準は、固定の総計算予算下で、単一チェックポイントの複数サンプリングと二重チェックポイントの相補サンプリングを、自前の証明問題集での検証通過率と完全と誤判定する割合で比較する。提案3：NeMo-Skillsパイプラインを再利用する場合、まずその依存関係とプロンプトが自身のモデルバージョンに適合するかを確認し、最終選択段階の計算予算を置き換える準備をする。出典はこの段階が単独で多くの計算を消費すると述べている。評価基準は、同一ハードウェア上でパイプライン全体のエンドツーエンド遅延と1問あたりコストを測定し、業務の時間制限内で完了できることを確認する。
制限と未確認事項
出典ブログは2026年10月7日公開で、競技成績はNVIDIAチームの自己報告である。IOI部分は明確に非公式で人間の監督なしの実行であり、公式ランキングに含まれず、IMO部分は公式採点者による採点とされるが、本記事は点数、問題バージョン、採点詳細を独立に検証できない。出典はNemotron 3関連チェックポイントの具体的なライセンス条項を開示しておらず、重みの公開とオープンライセンスは同一ではないため、商用利用と再配布の前に自身で確認する必要がある。Nemotron-3-Ultra-CCなどのバージョンは現在KimiSeekのリアルタイムカタログに正確に一致する項目がないため、このバージョンは現時点でKimiSeekに掲載されていない。報道で言及された公開入手経路はベンダー自身の公開場所を指す。今後第三者のAPIやホスティングサービスが現れた場合、その価格と可用性は当該提供者の価格ページに従うべきで、本記事は具体的な価格数字を引用しない。上述の2つのポストトレーニングと複数回のリファインの路線は、領域固有の問題、高品質な推論軌跡、信頼できる採点器に依存しており、出典はそのようなデータが不足する一般的な企業場面でも同様に有効かは説明していない。訓練と推論のコストは「小さくない」と説明されているが、再利用可能なコストデータは示されていない。
元の報道の図版
