← Todas las noticias

NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa

Según un blog para desarrolladores de NVIDIA del 6 de noviembre de 2026, TensorRT LLM VisualGen ofrece una configuración de despliegue para FLUX 3 Image Klein: en una sola B200, texto a imagen a 2048×2048 alcanza hasta 3,46 veces y imagen a imagen 4,45 veces frente a BF16 sin compilar, a cambio de desviaciones de calidad por NVFP4, caché y atención dispersa.

Publicado Actualizado
Portada de la noticia original — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Portada de la noticia originalNoticia original ↗

Qué ha cambiado

Un blog para desarrolladores de NVIDIA publicado el 6 de noviembre de 2026 presenta un tutorial de despliegue sobre cómo configurar FLUX 3 Image Klein de Black Forest Labs en el runtime VisualGen de TensorRT LLM. Según el texto, el modelo usa Qwen3-VL-4B-Instruct para el condicionamiento de texto, un transformer de difusión que refina los latentes de imagen y un autoencoder que decodifica y, en imagen a imagen, codifica la imagen de referencia; ofrece checkpoints Base y destilado, y VisualGen lo admite desde su lanzamiento en variantes BF16, FP8 y NVFP4. El artículo incluye imagen de contenedor, configuración YAML, scripts de inferencia offline y el uso de trtllm-serve para exponer un endpoint compatible con OpenAI en /v1/images/generations. Las condiciones reportadas son una sola B200 a 2048×2048; Base con 50 pasos de eliminación de ruido y CFG 3.5, y la versión destilada con 16 pasos sin CFG. Frente a inferencia BF16 sin compilar, las optimizaciones combinadas reducen texto a imagen de 22,36 s a 6,46 s (3,46x) e imagen a imagen de 54,64 s a 12,28 s (4,45x); en una sola RTX PRO 6000 Blackwell Server Edition se reportan 1,73-3,25x. La tabla de latencia indica que la eliminación de ruido ocupa el 96,8 % del tiempo total de texto a imagen en Base y el 84,0 % en la destilada, y el 97,8 % y el 89,0 % en imagen a imagen, lo que explica por qué el artículo centra la optimización en el transformer de difusión.

Impacto para desarrolladores

Para quien integra el modelo, la clave del tutorial es que ata velocidad y calidad en un conjunto configurable de compromisos. Para los equipos que planean poner FLUX 3 Image Klein en herramientas de diseño o editores de imagen, el cambio más directo es que hay más opciones de pila de inferencia: el mismo checkpoint puede usar BF16, FP8 o NVFP4 y sumar atención cuantizada, atención dispersa, caché entre pasos y paralelismo multi-GPU. Hay que distinguir que el texto da desviaciones LPIPS para la atención cuantizada, la atención dispersa y Cache-DiT, mientras que para el nivel de precisión FP8 y el paralelismo multi-GPU no reporta datos de cambio de calidad; la cuenta de calidad solo puede hacerse con los elementos que tienen datos, y no debe suponerse que todas las optimizaciones pierden fidelidad por igual. Es decir, el presupuesto de rendimiento y el de calidad deben definirse juntos, no lanzar primero con la configuración más rápida y corregir la calidad después. En segundo lugar, la distribución de cuellos de botella reportada determina el orden de optimización: según los tiempos de la canalización en una sola B200, la eliminación de ruido ocupa la mayor parte del tiempo y la codificación de texto más la decodificación y el posprocesamiento solo cientos de milisegundos, así que optimizar primero el procesamiento de prompts o la tokenización aporta mucho menos que cambiar la precisión y la atención del transformer de difusión. Tercero, el endpoint compatible con OpenAI acerca el coste de integración al de una API de imagen normal, pero lo proporciona el runtime de TensorRT LLM, así que el despliegue, la memoria de GPU y las operaciones siguen del lado propio, y no es lo mismo que un servicio gestionado. Cuarto, el upsampling de prompts no está incluido en la latencia reportada; si la cadena de producto depende del upsampler de BFL, el tiempo extremo a extremo debe medirse de nuevo.

Integración y evaluación

Las siguientes son recomendaciones condicionales basadas en lo reportado en el artículo, no conclusiones verificadas. Recomendación uno: elegir el nivel de precisión según si se tolera la desviación LPIPS, no según el modelo de GPU. El texto reporta que NVFP4 frente a BF16 alcanza hasta 1,62x (texto a imagen) y 1,58x (imagen a imagen) en Blackwell, pero en el ejemplo la salida de NVFP4 ya presenta una desviación LPIPS de 0,044 frente a BF16. Si la carga es generar borradores por lotes y que una persona elija, se puede usar NVFP4 por defecto y tomar como criterio de aceptación la proporción de cada 100 imágenes rechazadas por revisión humana; si la salida va directa a entrega al cliente o debe mantener el estilo del material existente, conviene crear primero una línea base en BF16 y luego activar las optimizaciones una por una registrando el LPIPS y la revisión humana de cada paso. La premisa es que el hardware sea una tarjeta de centro de datos Blackwell o una RTX PRO 6000 Blackwell Server Edition, el foco explícito del artículo; las cifras no aplican a otro hardware. Recomendación dos: activar o no la caché depende de usar Base o la versión destilada. Con umbral 0,24, el texto reporta que Cache-DiT casi reduce a la mitad la latencia de texto a imagen en NVFP4 Base (1,97x a 1024×1024 y 1,94x a 2048×2048), mientras que en la destilada de 16 pasos solo da 1,26x y 1,20x, con LPIPS de 0,038, 0,036 y 0,033, 0,022 respectivamente. La condición es concreta: con Base y búsqueda de vistas previas interactivas el beneficio es grande; si la versión destilada ya reduce una imagen a unos segundos, el beneficio relativo es pequeño y además hay que asumir la desviación de calidad. Un criterio medible es que la tasa de aceptación con el mismo lote de prompts no sea inferior a una proporción acordada respecto a la versión sin caché, y comprobar si el P95 de latencia por imagen realmente baja, no solo la media. Recomendación tres: el multi-GPU solo compensa cuando la eliminación de ruido pesa mucho. El texto reparte las ramas positiva y negativa de Base en distintos grupos de GPU y luego corta la secuencia con Ulysses; de 1 a 8 GPU en DGX B200 reduce la latencia mediana de texto a imagen a 2048×2048 de 14,90 s a 3,00 s, con una aceleración de 6,01x en la propia eliminación de ruido; la destilada baja de 2,73 s a 1,08 s, pero el propio artículo señala que en la destilada con ocho GPU cerca de la mitad del tiempo no está en la fase de eliminación de ruido y la ganancia extremo a extremo es limitada. Un criterio medible es probar con el propio conjunto de prompts el factor de latencia P95 extremo a extremo del mismo lote de solicitudes: si la aceleración extremo a extremo de 1 a 8 GPU es claramente inferior a la aceleración reportada en la eliminación de ruido, significa que la fase no de ruido ya pesa mucho y añadir GPU no compensa; se puede validar primero a baja resolución si CUDA Graphs cubre el coste de lanzamiento de kernels antes de decidir ampliar GPU. Dos detalles de configuración fáciles de fallar deben alinearse antes de la integración: VC-Attention requiere que el contenedor defina TLLM_FMHA_LIBS=+prims_ts, o los kernels correspondientes no estarán disponibles; el disabled_until_timestep de Sol-Attention especifica el nivel de ruido, no el número de pasos, y el texto indica que 0,96 corresponde a los primeros 12 pasos densos de Base de 50 pasos y a los primeros 4 de la destilada de 16 pasos con el scheduler empaquetado; para 16 pasos densos hay que poner 0,94, y una configuración errónea cambia directamente el equilibrio entre calidad y velocidad.

Límites y cuestiones pendientes

Primero, los límites de disponibilidad: FLUX 3 Image Klein y sus checkpoints Base y destilado no están actualmente en el catálogo de modelos de KimiSeek, sin una entrada que coincida exactamente; el endpoint de imagen compatible con OpenAI y el servicio trtllm-serve mencionados los proporciona el runtime de TensorRT LLM del lado del fabricante, y su disponibilidad, versión y ciclo de vida no tienen relación con la lista de modelos de KimiSeek; antes de integrar hay que guiarse por el texto original y los anuncios del fabricante. Segundo, las cifras de aceleración y LPIPS del texto provienen de varios experimentos con condiciones distintas y no pueden aplicarse con un mismo conjunto de premisas. La latencia de canalización de una sola GPU de la tabla 1 corresponde explícitamente a una sola B200, 2048×2048, NVFP4 con atención VANILLA y torch.compile, con promedio de 10 solicitudes tras dos calentamientos, y ese criterio estadístico solo vale para esa tabla; el 3,46x (texto a imagen) y el 4,45x (imagen a imagen) extremo a extremo también son resultados de una sola B200 a 2048×2048, mientras que el 1,73-3,25x en RTX PRO 6000 Blackwell Server Edition pertenece a otra plataforma. Los datos multi-GPU provienen de DGX B200 al pasar de 1 a 8 GPU y reportan la latencia mediana de texto a imagen a 2048×2048; el 2,25x y el 2,16x de CUDA Graphs son experimentos independientes con ocho B200, 1024×1024 y atención VANILLA. La sección de caché reporta resultados tanto a 1024×1024 como a 2048×2048, y la fuente no reitera para cada experimento el criterio estadístico y la configuración de hardware. Por lo tanto, al cambiar de hardware, resolución, número de GPU o forma de concurrencia, estas cifras pueden no sostenerse. Tercero, los experimentos usan seed 0 por defecto, los prompts están resumidos y la latencia reportada no incluye el upsampling de prompts; LPIPS solo mide la similitud perceptiva con la línea base correspondiente y no equivale al cumplimiento de instrucciones de edición, la tasa de acierto en renderizado de texto ni criterios de aceptación de producto; el propio conjunto de tareas requiere evaluación aparte. Cuarto, las etiquetas de contenedor del texto incluyen nombre de rama y número de versión de desarrollo; antes de un uso formal hay que confirmar la estabilidad de la imagen y de las versiones de kernels. Por último, este tutorial solo trata la configuración de inferencia y no aborda los términos de la licencia de los pesos; los checkpoints están disponibles en Hugging Face, pero el uso comercial y la redistribución deben regirse por la model card y el texto de la licencia, y pesos abiertos no equivalen a una licencia de código abierto.

Ilustraciones de la noticia original

Ilustración de la noticia original 1 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 1Noticia original ↗
Ilustración de la noticia original 2 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 2Noticia original ↗
Ilustración de la noticia original 3 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 3Noticia original ↗
Ilustración de la noticia original 4 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 4Noticia original ↗
Ilustración de la noticia original 5 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 5Noticia original ↗
Ilustración de la noticia original 6 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 6Noticia original ↗
Ilustración de la noticia original 7 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 7Noticia original ↗
Ilustración de la noticia original 8 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 8Noticia original ↗
Ilustración de la noticia original 9 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 9Noticia original ↗
Ilustración de la noticia original 10 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 10Noticia original ↗
Ilustración de la noticia original 11 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 11Noticia original ↗
Ilustración de la noticia original 12 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 12Noticia original ↗
Ilustración de la noticia original 13 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 13Noticia original ↗
Ilustración de la noticia original 14 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 14Noticia original ↗
Ilustración de la noticia original 15 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 15Noticia original ↗
Ilustración de la noticia original 16 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 16Noticia original ↗
Ilustración de la noticia original 17 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 17Noticia original ↗
Ilustración de la noticia original 18 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 18Noticia original ↗
Ilustración de la noticia original 19 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 19Noticia original ↗
Ilustración de la noticia original 20 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 20Noticia original ↗
Ilustración de la noticia original 21 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 21Noticia original ↗
Ilustración de la noticia original 22 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 22Noticia original ↗
Ilustración de la noticia original 23 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 23Noticia original ↗
Ilustración de la noticia original 24 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 24Noticia original ↗
Ilustración de la noticia original 25 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 25Noticia original ↗
Ilustración de la noticia original 26 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 26Noticia original ↗
Ilustración de la noticia original 27 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 27Noticia original ↗
Ilustración de la noticia original 28 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 28Noticia original ↗
Ilustración de la noticia original 29 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 29Noticia original ↗
Ilustración de la noticia original 30 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 30Noticia original ↗
Ilustración de la noticia original 31 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 31Noticia original ↗
Ilustración de la noticia original 32 — NVIDIA acelera FLUX 3 Image Klein con TensorRT LLM VisualGen: 3,46x en texto a imagen y 4,45x en imagen a imagen en una sola GPU, a costa de LPIPS por caché y atención dispersa
Ilustración de la noticia original 32Noticia original ↗

Tres minutos hasta la primera llamada

Crea una cuenta y una clave de API. El coste de las llamadas se descuenta de tu saldo. 30 % de descuento en tu primera recarga. Recarga ¥500, paga ¥350, recibe ¥500 de saldo. Recarga ¥1000, paga ¥850, recibe ¥1000 de saldo La recarga mínima sigue siendo de ¥10, adecuada para pruebas.

Fuentes y proceso editorial

在 NVIDIA Blackwell GPU 上使用 FLUX 3 Image Klein 加速图像生成

La IA ayudó con el análisis y la traducción de las fuentes citadas, seguidos de controles automáticos. Las recomendaciones no son resultados de pruebas. Consulta el catálogo actual para precios y disponibilidad.