← 전체 모델 소식

엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러

엔비디아의 2026년 11월 6일 개발자 블로그에 따르면, TensorRT LLM VisualGen은 FLUX 3 Image Klein의 배포 구성을 제시한다. 단일 B200에서 2048×2048 텍스트-이미지는 컴파일하지 않은 BF16 대비 최대 3.46배, 이미지-이미지는 4.45배 빨라지지만, 그 대가는 NVFP4와 캐시·희소 어텐션이 초래하는 화질 편차다.

게시 수정
원문 보도의 표지 이미지 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 보도의 표지 이미지원문 보도 ↗

주요 변화

엔비디아 개발자 블로그는 2026년 11월 6일 배포 튜토리얼을 게시해 TensorRT LLM의 VisualGen 런타임에서 Black Forest Labs의 FLUX 3 Image Klein을 구성하는 방법을 설명했다. 글에 따르면 이 모델은 Qwen3-VL-4B-Instruct가 텍스트 조건을 담당하고, 확산 Transformer가 이미지 잠재 변수를 정제하며, 오토인코더가 디코딩하고 이미지-이미지에서는 참조 이미지를 인코딩하며, Base와 증류 두 체크포인트를 제공한다. VisualGen은 출시 시점에 BF16, FP8, NVFP4 세 가지 변형을 지원했다. 글은 컨테이너 이미지, YAML 구성, 오프라인 추론 스크립트, 그리고 trtllm-serve로 OpenAI 호환 /v1/images/generations 엔드포인트를 노출하는 방법을 제시한다. 보고된 테스트 조건은 단일 B200, 2048×2048이며, Base는 50개 노이즈 제거 스텝과 CFG 3.5, 증류 버전은 16 스텝에 CFG 없음이다. 컴파일하지 않은 BF16 추론 대비 조합 최적화로 텍스트-이미지는 22.36초에서 6.46초(3.46배), 이미지-이미지는 54.64초에서 12.28초(4.45배)로 줄었고, RTX PRO 6000 Blackwell Server Edition 단일 카드에서는 1.73–3.25배를 보고했다. 지연 표에서 노이즈 제거는 Base 텍스트-이미지 총 시간의 96.8%, 증류 버전 84.0%, 이미지-이미지는 각각 97.8%와 89.0%를 차지하며, 이것이 글이 최적화 초점을 확산 Transformer에 둔 이유다.

개발자에게 미치는 영향

API 사용자 입장에서 이 튜토리얼의 핵심은 속도와 화질을 구성 가능한 하나의 트레이드오프로 묶었다는 점이다. FLUX 3 Image Klein을 디자인 도구나 이미지 편집기에 넣으려는 팀에게 가장 직접적인 변화는 추론 스택 선택지가 늘어난 것이다. 같은 체크포인트를 BF16, FP8, NVFP4로 돌릴 수 있고 양자화 어텐션, 희소 어텐션, 스텝 간 캐시, 다중 GPU 병렬을 겹칠 수 있다. 구분해야 할 점은 글이 양자화 어텐션, 희소 어텐션, Cache-DiT에 대해 LPIPS 편차를 제시했지만 FP8 정밀도 단계와 다중 GPU 병렬은 화질 변화 데이터를 보고하지 않았다는 것이다. 화질 비용은 데이터가 있는 항목으로만 계산해야 하며 모든 최적화 항목이 동등하게 충실도를 잃는다고 가정해서는 안 된다. 즉 성능 예산과 품질 예산을 함께 정해야 하고, 가장 빠른 구성으로 먼저 출시한 뒤 화질을 보완하는 방식은 피해야 한다. 다음으로 보고된 병목 분포가 최적화 순서를 결정한다. 단일 B200 파이프라인 타이밍에서 노이즈 제거가 대부분의 시간을 차지하고 텍스트 인코딩과 디코딩 및 후처리는 수백 밀리초에 불과하므로, 프롬프트 처리나 토큰화 단계를 먼저 최적화하면 확산 Transformer의 정밀도와 어텐션을 바꾸는 것보다 이득이 훨씬 작다. 셋째, OpenAI 호환 엔드포인트는 일반 이미지 API에 가까운 통합 비용을 주지만 이 엔드포인트는 TensorRT LLM 런타임이 제공하는 것이며 배포, VRAM, 운영은 여전히 자기 몫이므로 관리형 서비스와는 다르다. 넷째, 프롬프트 업샘플링은 보고된 지연에 포함되지 않았으므로 제품 파이프라인이 BFL의 업샘플러에 의존한다면 종단 간 시간을 직접 다시 측정해야 한다.

연동 및 평가 제안

다음은 글에 보고된 조건에 기반한 제안이며 검증된 결론이 아니다. 제안 1: 정밀도 단계는 GPU 모델이 아니라 LPIPS 편차를 감수할 수 있는지로 선택하라. 글은 NVFP4가 BF16 대비 Blackwell에서 최대 1.62배(텍스트-이미지)와 1.58배(이미지-이미지)를 보고했지만, 예시에서 NVFP4 단계의 출력은 BF16 대비 이미 LPIPS 0.044의 편차를 보였다. 워크로드가 초안을 대량 생성한 뒤 사람이 선별하는 방식이라면 NVFP4를 기본으로 두고 100장당 수동 기각 비율을 수용 지표로 삼을 수 있다. 출력이 고객 납품으로 바로 가거나 기존 소재와 스타일을 맞춰야 한다면 먼저 BF16으로 기준선을 세우고 최적화를 하나씩 켜면서 각 단계의 LPIPS와 수동 검토 결과를 기록하라. 전제는 하드웨어가 글이 명확히 초점을 둔 Blackwell 데이터센터 카드나 RTX PRO 6000 Blackwell Server Edition이라는 점이며, 다른 하드웨어의 수치는 적용되지 않는다. 제안 2: 캐시 사용 여부는 Base를 쓰는지 증류 버전을 쓰는지에 달렸다. 글은 임계값 0.24에서 Cache-DiT가 NVFP4 Base의 텍스트-이미지 지연을 거의 절반으로 줄였다고 보고했다(1024×1024는 1.97배, 2048×2048은 1.94배). 16 스텝 증류 버전에서는 1.26배와 1.20배에 그쳤고, 대응 LPIPS는 각각 0.038, 0.036과 0.033, 0.022였다. 조건 판단은 구체적이다. Base를 쓰고 대화형 미리보기를 추구하면 이득이 크고, 증류 버전으로 이미 단일 이미지를 몇 초로 줄였다면 상대적 이득이 작은 데다 화질 편차까지 떠안아야 한다. 측정 가능한 기준은 같은 프롬프트 묶음에서 수용률이 캐시 없는 버전 대비 약정한 비율 이상인지, 그리고 단일 이미지 P95 지연이 실제로 줄었는지이며 평균만 보아서는 안 된다. 제안 3: 다중 GPU는 노이즈 제거 비중이 높은 경우에만 이득이다. 글은 Base의 긍정·부정 분기를 서로 다른 GPU 그룹에 배치하고 Ulysses로 시퀀스를 나눠, DGX B200에서 1장에서 8장으로 늘릴 때 2048×2048 텍스트-이미지 중앙 지연을 14.90초에서 3.00초로 줄였고 노이즈 제거 자체는 6.01배 빨라졌다. 증류 버전은 2.73초에서 1.08초로 줄었지만 글 스스로 8장 증류 버전은 약 절반의 시간이 노이즈 제거 단계가 아니어서 종단 간 이득이 제한적이라고 지적한다. 측정 가능한 기준은 자기 프롬프트 집합에서 같은 요청 묶음의 종단 간 P95 지연 배수를 재는 것이다. 1장에서 8장으로의 종단 간 가속이 보고된 노이즈 제거 가속보다 뚜렷이 낮다면 비노이즈 제거 단계 비중이 이미 높다는 뜻이므로 카드 추가는 이득이 없다. 먼저 저해상도에서 CUDA Graphs가 커널 시작 오버헤드를 메울 수 있는지 확인한 뒤 확장 여부를 결정하라. 쉽게 놓치는 구성 세부 두 가지도 통합 전에 맞춰야 한다. VC-Attention은 컨테이너에 TLLM_FMHA_LIBS=+prims_ts를 설정해야 관련 커널을 쓸 수 있다. Sol-Attention의 disabled_until_timestep은 스텝 수가 아니라 노이즈 수준을 지정한다. 글에 따르면 0.96은 패키징된 스케줄에서 50 스텝 Base의 처음 12개 밀집 스텝, 16 스텝 증류 버전의 처음 4 스텝에 해당하며, 16개 밀집 스텝을 원하면 0.94로 설정해야 한다. 잘못 설정하면 화질과 속도의 균형이 곧바로 달라진다.

제한과 확인할 사항

먼저 가용성 경계를 밝힌다. FLUX 3 Image Klein과 그 Base·증류 체크포인트는 현재 KimiSeek 모델 목록에 없으며 정확히 일치하는 항목도 없다. 글에 언급된 OpenAI 호환 이미지 엔드포인트와 trtllm-serve 서비스 방식은 TensorRT LLM 런타임이 공급자 측에서 제공하는 것으로, 그 가용성·버전·수명 주기는 KimiSeek 모델 목록과 무관하며 통합 전에 원문과 공급자 발표를 기준으로 해야 한다. 둘째, 글의 가속비와 LPIPS 수치는 조건이 서로 다른 여러 실험에서 나온 것이므로 같은 전제를 일괄 적용할 수 없다. 표 1의 단일 카드 파이프라인 지연은 명확히 단일 B200, 2048×2048, NVFP4에 VANILLA 어텐션과 torch.compile을 적용하고 두 번 워밍업 후 10개 요청을 평균한 것으로, 이 통계 기준은 해당 표에만 적용된다. 종단 간 3.46배(텍스트-이미지)와 4.45배(이미지-이미지) 역시 단일 B200, 2048×2048 결과이며, RTX PRO 6000 Blackwell Server Edition의 1.73–3.25배는 다른 플랫폼에 속한다. 다중 GPU 데이터는 DGX B200에서 1장에서 8장으로 늘린 것으로 2048×2048 텍스트-이미지 중앙 지연을 보고했다. CUDA Graphs의 2.25배와 2.16배는 8장 B200, 1024×1024, VANILLA 어텐션의 별도 실험이다. 캐시 절은 1024×1024와 2048×2048 두 해상도 결과를 함께 보고하며, 출처는 각 실험의 통계 기준과 하드웨어 구성을 하나하나 다시 밝히지 않았다. 따라서 하드웨어, 해상도, 카드 수, 동시성 방식을 바꾸면 이 수치들은 성립하지 않을 수 있다. 셋째, 실험은 기본적으로 seed 0을 사용하고 프롬프트는 요약되었으며 보고된 지연에는 프롬프트 업샘플링이 포함되지 않는다. LPIPS는 해당 기준선과의 지각적 유사도만 측정할 뿐 편집 지시 준수도, 텍스트 렌더링 정확도, 제품 수용 기준과 같지 않으므로 자기 과업 집합으로 별도 평가해야 한다. 넷째, 글의 컨테이너 태그에는 브랜치 이름과 개발 버전 번호가 붙어 있으므로 정식 사용 전에 이미지와 커널 버전의 안정성을 확인해야 한다. 마지막으로 이 튜토리얼은 추론 구성만 다루며 가중치 라이선스 조항은 다루지 않는다. 체크포인트는 Hugging Face에서 받을 수 있지만 상업적 사용과 재배포 가능 여부는 모델 카드와 라이선스 문구를 기준으로 해야 하며, 공개 가중치는 오픈소스 라이선스와 같지 않다.

원문 보도의 이미지

원문 삽화 1 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 1원문 보도 ↗
원문 삽화 2 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 2원문 보도 ↗
원문 삽화 3 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 3원문 보도 ↗
원문 삽화 4 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 4원문 보도 ↗
원문 삽화 5 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 5원문 보도 ↗
원문 삽화 6 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 6원문 보도 ↗
원문 삽화 7 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 7원문 보도 ↗
원문 삽화 8 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 8원문 보도 ↗
원문 삽화 9 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 9원문 보도 ↗
원문 삽화 10 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 10원문 보도 ↗
원문 삽화 11 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 11원문 보도 ↗
원문 삽화 12 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 12원문 보도 ↗
원문 삽화 13 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 13원문 보도 ↗
원문 삽화 14 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 14원문 보도 ↗
원문 삽화 15 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 15원문 보도 ↗
원문 삽화 16 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 16원문 보도 ↗
원문 삽화 17 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 17원문 보도 ↗
원문 삽화 18 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 18원문 보도 ↗
원문 삽화 19 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 19원문 보도 ↗
원문 삽화 20 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 20원문 보도 ↗
원문 삽화 21 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 21원문 보도 ↗
원문 삽화 22 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 22원문 보도 ↗
원문 삽화 23 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 23원문 보도 ↗
원문 삽화 24 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 24원문 보도 ↗
원문 삽화 25 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 25원문 보도 ↗
원문 삽화 26 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 26원문 보도 ↗
원문 삽화 27 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 27원문 보도 ↗
원문 삽화 28 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 28원문 보도 ↗
원문 삽화 29 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 29원문 보도 ↗
원문 삽화 30 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 30원문 보도 ↗
원문 삽화 31 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 31원문 보도 ↗
원문 삽화 32 — 엔비디아 TensorRT LLM VisualGen으로 FLUX 3 Image Klein 가속: 단일 GPU 텍스트-이미지 3.46배, 이미지-이미지 4.45배, 캐시·희소 어텐션은 LPIPS로 대가 치러
원문 삽화 32원문 보도 ↗

3분이면 첫 호출까지

가입 후 API 키를 만드세요. 호출 비용은 계정 잔액에서 차감됩니다. 첫 충전 30% 할인. ¥500 충전, 결제 ¥350, 잔액 ¥500 적립. ¥1000 충전, 결제 ¥850, 잔액 ¥1000 적립 최소 충전 금액은 그대로 ¥10이며, 시험용으로 사용할 수 있습니다.

출처와 편집 과정

在 NVIDIA Blackwell GPU 上使用 FLUX 3 Image Klein 加速图像生成

인용한 출처를 바탕으로 AI가 분석과 번역을 돕고 자동 품질 검사를 수행합니다. 제안은 실측 결과가 아닙니다. 제공 여부와 가격은 현재 카탈로그를 확인하세요.