← すべてのニュース

NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え

NVIDIAの2026年11月6日の開発者ブログによると、TensorRT LLM VisualGenはFLUX 3 Image Kleinのデプロイ構成を提示している。B200を1枚使った2048×2048のテキストからの画像生成は未コンパイルのBF16比で最大3.46倍、画像編集は4.45倍になるが、その代償としてNVFP4、キャッシュ、スパースアテンションによる画質のずれが生じる。

公開 更新
元の報道のカバー画像 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道のカバー画像元の報道 ↗

主な変更

NVIDIAの開発者ブログは2026年11月6日に、TensorRT LLMのVisualGenランタイムでBlack Forest LabsのFLUX 3 Image Kleinを設定する方法を解説するデプロイチュートリアルを公開した。記事の説明によれば、このモデルではQwen3-VL-4B-Instructがテキスト条件を担い、拡散Transformerが画像の潜在変数を精細化し、オートエンコーダがデコードし、画像編集時には参照画像をエンコードする。Baseと蒸留の2つのチェックポイントがあり、VisualGenは公開時点でBF16、FP8、NVFP4の3つのバリアントをサポートする。記事ではコンテナイメージ、YAML設定、オフライン推論スクリプト、そしてtrtllm-serveでOpenAI互換の/v1/images/generationsエンドポイントを公開する方法が示されている。報告されたテスト条件はB200を1枚、2048×2048で、Baseは50のデノイズステップとCFG 3.5、蒸留版は16ステップでCFGなし。未コンパイルのBF16推論に対し、組み合わせ最適化によりテキストからの画像生成が22.36秒から6.46秒(3.46倍)、画像編集が54.64秒から12.28秒(4.45倍)に短縮された。RTX PRO 6000 Blackwell Server Editionを1枚使う場合は1.73〜3.25倍と報告されている。記事のレイテンシ表では、デノイズがBaseのテキストからの画像生成の総時間の96.8%、蒸留版の84.0%を占め、画像編集ではそれぞれ97.8%と89.0%となっており、記事が最適化の重点を拡散Transformerに置く理由でもある。

開発者への影響

接続する側にとって、このチュートリアルの要点は速度と画質を設定可能なトレードオフの組として結びつけていることだ。FLUX 3 Image Kleinをデザインツールや画像エディタに組み込もうとするチームにとって、最も直接的な変化は推論スタックの選択肢が増えることである。同じチェックポイントをBF16、FP8、NVFP4で動かせ、さらに量子化アテンション、スパースアテンション、ステップ間キャッシュ、マルチGPU並列を重ねられる。区別すべきは、記事が量子化アテンション、スパースアテンション、Cache-DiTについてLPIPSのずれを示している一方、FP8精度段階とマルチGPU並列については画質変化のデータを報告していない点だ。画質の勘定はデータのある項目だけで行うべきで、すべての最適化項目が等しく忠実度を失うと決めつけてはならない。つまり性能予算と品質予算は一緒に決める必要があり、最速構成で先にリリースしてから画質を補うわけにはいかない。次に、報告されたボトルネックの分布が最適化の順序を決める。B200を1枚使ったパイプラインの計時ではデノイズが時間の大部分を占め、テキストエンコードとデコードおよび後処理は数百ミリ秒にすぎない。したがってプロンプト処理やトークン化レベルの最適化を先に行っても、拡散Transformerの精度とアテンションを変えるより効果ははるかに小さい。第三に、OpenAI互換エンドポイントにより接続コストは通常の画像APIに近いが、このエンドポイントはTensorRT LLMランタイムが提供するもので、デプロイ、VRAM、運用は依然として自社側にあり、ホスト型サービスとは別物である。第四に、プロンプトのアップサンプリングは報告されたレイテンシに含まれておらず、製品パイプラインがBFLのアップサンプラーに依存するなら、エンドツーエンドの時間は自分で再測定する必要がある。

導入と評価の提案

以下は記事の報告に基づく条件付きの提案であり、検証済みの結論ではない。 提案1:精度段階はGPU型番ではなく、LPIPSのずれを受け入れられるかで選ぶ。記事はNVFP4がBF16比でBlackwell上で最大1.62倍(テキストからの画像生成)と1.58倍(画像編集)と報告するが、例ではNVFP4のこの段階の出力がBF16比で既にLPIPS 0.044のずれを持つ。ワークロードがバッチで下書きを出し人が選ぶものならNVFP4を既定にし、100枚中何枚が人手で却下されるかの比率を受け入れ指標にできる。出力が顧客納品に直接入る場合や既存素材とスタイルを合わせる必要がある場合は、まずBF16でベースラインを作り、最適化を一つずつ有効化して各段階のLPIPSと人手レビュー結果を記録する。前提として、ハードウェアが記事が明確に対象とするBlackwellデータセンターカードまたはRTX PRO 6000 Blackwell Server Editionであることが必要で、他のハードウェアの数値は当てはまらない。 提案2:キャッシュを有効にするかはBaseか蒸留版かで決まる。記事は閾値0.24でCache-DiTによりNVFP4 Baseのテキストからの画像生成レイテンシがほぼ半減(1024×1024で1.97倍、2048×2048で1.94倍)した一方、16ステップ蒸留版では1.26倍と1.20倍にとどまり、対応するLPIPSはそれぞれ0.038、0.036と0.033、0.022だったと報告する。条件判断は具体的で、Baseを使いインタラクティブなプレビューを求めるなら効果は大きい。蒸留版で既に1枚を数秒に短縮しているなら相対効果は小さく、さらに画質のずれを負担することになる。測定可能な判断基準は、同じプロンプト群での受け入れ率がキャッシュなし版の取り決めた比率を下回らないこと、そして1枚あたりのP95レイテンシが実際に下がるかどうかであり、平均値だけを見てはならない。 提案3:マルチGPUはデノイズ比率が高い場面でのみ割に合う。記事はBaseの正負分岐を別々のGPUグループに分け、Ulyssesでシーケンスを分割し、1枚から8枚でDGX B200上の2048×2048テキストからの画像生成の中央値レイテンシを14.90秒から3.00秒に短縮、デノイズ自体は6.01倍高速化した。蒸留版は2.73秒から1.08秒に短縮されたが、記事自身が8枚の蒸留版では約半分の時間がデノイズ段階にないと指摘し、エンドツーエンドの効果は限定的だとする。測定可能な判断基準は、自分のプロンプト集で同じリクエスト群のエンドツーエンドP95レイテンシ倍率を測ることだ。1枚から8枚のエンドツーエンド加速が報告されたデノイズ加速を大きく下回るなら、非デノイズ段階の比率が既に高く、GPU追加は割に合わない。まず小さい解像度でCUDA Graphsがカーネル起動オーバーヘッドを補えるか検証してから、GPU拡張を決めるとよい。 見落としやすい設定の詳細も接続前に揃えておくべきだ。VC-AttentionはコンテナでTLLM_FMHA_LIBS=+prims_tsを設定しないと関連カーネルが使えない。Sol-Attentionのdisabled_until_timestepはステップ数ではなくノイズレベルを指定するもので、記事によれば0.96はパッケージされたスケジューラ下で50ステップBaseの最初の12密集ステップ、16ステップ蒸留版の最初の4ステップに相当し、16密集ステップにするには0.94に設定する必要がある。設定を誤ると画質と速度のバランスが直接変わる。

制限と未確認事項

まず可用性の境界を述べる。FLUX 3 Image KleinおよびそのBase、蒸留チェックポイントは現在KimiSeekのモデルカタログになく、完全一致する項目はない。記事に登場するOpenAI互換画像エンドポイントとtrtllm-serveのサービス方式はいずれもTensorRT LLMランタイムがベンダー側で提供するもので、その可用性、バージョン、ライフサイクルはKimiSeekのモデル一覧とは無関係であり、接続前に原文とベンダーの発表に基づく必要がある。 次に、記事の加速比とLPIPSの数値は条件の異なる複数の実験から来ており、同じ前提条件を一律に当てはめることはできない。表1の1枚構成パイプラインのレイテンシは明確にB200を1枚、2048×2048、NVFP4にVANILLAアテンションとtorch.compileを加えたもので、2回のウォームアップ後に10リクエストの平均を取るという統計方法はこの表にのみ当てはまる。エンドツーエンドの3.46倍(テキストからの画像生成)と4.45倍(画像編集)も同様にB200を1枚、2048×2048の結果であり、RTX PRO 6000 Blackwell Server Edition上の1.73〜3.25倍は別プラットフォームに属する。マルチGPUのデータはDGX B200で1枚から8枚に拡張したもので、報告されているのは2048×2048テキストからの画像生成の中央値レイテンシである。CUDA Graphsの2.25倍と2.16倍は8枚のB200、1024×1024、VANILLAアテンションの独立した実験だ。キャッシュの節は1024×1024と2048×2048の両解像度の結果を同時に報告しており、出典は各実験について統計方法とハードウェア構成を逐一再確認していない。したがってハードウェア、解像度、GPU枚数、並列方式を変えれば、これらの数値は成立しない可能性がある。 第三に、実験は既定でseed 0を使用し、プロンプトは要約されており、報告されたレイテンシにはプロンプトのアップサンプリングが含まれない。LPIPSは対応するベースラインとの知覚的類似度を測るだけで、編集指示への追従度、文字描画の正確さ、製品の受け入れ基準とは等しくない。自分のタスクセットで別途評価する必要がある。 第四に、記事のコンテナタグにはブランチ名と開発バージョン番号が付いており、正式使用前にイメージとカーネルバージョンの安定性を確認すべきだ。最後に、このチュートリアルは推論構成のみを扱い、重みのライセンス条項には触れていない。チェックポイントはHugging Faceで取得できるが、商用利用や再配布の可否はモデルカードとライセンス文面に従う必要があり、オープンウェイトはオープンソースライセンスと等しくない。

元の報道の図版

元の報道の図 1 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 1元の報道 ↗
元の報道の図 2 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 2元の報道 ↗
元の報道の図 3 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 3元の報道 ↗
元の報道の図 4 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 4元の報道 ↗
元の報道の図 5 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 5元の報道 ↗
元の報道の図 6 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 6元の報道 ↗
元の報道の図 7 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 7元の報道 ↗
元の報道の図 8 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 8元の報道 ↗
元の報道の図 9 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 9元の報道 ↗
元の報道の図 10 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 10元の報道 ↗
元の報道の図 11 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 11元の報道 ↗
元の報道の図 12 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 12元の報道 ↗
元の報道の図 13 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 13元の報道 ↗
元の報道の図 14 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 14元の報道 ↗
元の報道の図 15 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 15元の報道 ↗
元の報道の図 16 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 16元の報道 ↗
元の報道の図 17 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 17元の報道 ↗
元の報道の図 18 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 18元の報道 ↗
元の報道の図 19 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 19元の報道 ↗
元の報道の図 20 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 20元の報道 ↗
元の報道の図 21 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 21元の報道 ↗
元の報道の図 22 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 22元の報道 ↗
元の報道の図 23 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 23元の報道 ↗
元の報道の図 24 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 24元の報道 ↗
元の報道の図 25 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 25元の報道 ↗
元の報道の図 26 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 26元の報道 ↗
元の報道の図 27 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 27元の報道 ↗
元の報道の図 28 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 28元の報道 ↗
元の報道の図 29 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 29元の報道 ↗
元の報道の図 30 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 30元の報道 ↗
元の報道の図 31 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 31元の報道 ↗
元の報道の図 32 — NVIDIA、TensorRT LLM VisualGenでFLUX 3 Image Kleinを高速化——単カードでテキストからの画像生成3.46倍・画像編集4.45倍、キャッシュとスパースアテンションはLPIPSの悪化と引き換え
元の報道の図 32元の報道 ↗

3分で最初の呼び出しまで

登録後に API キーを作成してください。利用料金はアカウント残高から引き落とされます。初回チャージ30%オフ。¥500チャージ、お支払い ¥350、入金額 ¥500。¥1000チャージ、お支払い ¥850、入金額 ¥1000 最低チャージはこれまでどおり ¥10 で、試用にも使えます。

出典と編集方針

在 NVIDIA Blackwell GPU 上使用 FLUX 3 Image Klein 加速图像生成

引用元を基にAIが分析と翻訳を補助し、自動品質チェックを行っています。提案は実測結果ではありません。提供状況と料金は最新カタログをご確認ください。