← 전체 모델 소식

Mistral Large 4 오픈 웨이트 공개: 1T 파라미터, 추론 비활성화 불가, 배포 전 정밀도·라이선스 확인

Hugging Face가 2026년 10월 29일 올린 블로그에 따르면, Mistral Large 4(Le Chonk)는 약 1T 총 파라미터, 49B 활성 파라미터의 오픈 웨이트로 공개됐으며 1M 컨텍스트를 지원하고 FP8, NVFP4 및 여러 GGUF 양자화를 제공한다. 추론 강도는 기본 high이며 끌 수 없고, NVFP4의 vLLM 경로에는 Blackwell GPU가 필요하다.

게시 수정
원문 보도의 표지 이미지 — Mistral Large 4 오픈 웨이트 공개: 1T 파라미터, 추론 비활성화 불가, 배포 전 정밀도·라이선스 확인
원문 보도의 표지 이미지원문 보도 ↗

주요 변화

Hugging Face가 2026년 10월 29일 공개한 블로그에 따르면, Mistral의 Mistral Large 4(코드명 Le Chonk) 가중치가 해당 플랫폼에 공개됐다. 텍스트와 이미지를 입력받아 텍스트만 출력하는 다국어 MoE 모델로, 총 파라미터 약 1T, 토큰당 49B 활성, 컨텍스트 창 1M 토큰이다. 공식적으로 FP8과 NVFP4 두 변형이 제공되며, Unsloth와 llama.cpp 팀이 변환한 GGUF 양자화도 있다. 블로그가 밝힌 아키텍처는 다음과 같다. 텍스트 디코더는 72층, 은닉 차원 6144, 어텐션 헤드 64개다. 어텐션 블록은 멀티헤드 잠재 어텐션과 DeepSeek 희소 어텐션 인덱서를 결합하며, 각 쿼리는 최대 2048개 키 위치를 선택한다. 디코딩 층은 RoPE와 NoPE를 3:1로 교대하고 층 간 KV 상태를 공유한다. 첫 층은 밀집 피드포워드, 나머지 71개 층은 MoE로, softmax 라우터가 토큰마다 128개 전문가 중 4개를 고르고 항상 실행되는 공유 전문가 1개를 더한다. 비전 쪽은 1.6B Pixtral 인코더로 30층, 어텐션 헤드 16개, 14×14 패치다. 발표 측이 자체 보고한 성적은 DeepSWE v1.1 61.7%, SWE-Atlas-QnA 59.4%, Terminal-Bench 4 28.3%, 종합 Coding Agent Index 49.8%이며, 블로그는 이 종합 지표가 DeepSeek V4 Pro 0813과 Qwen3.8 Max를 앞선다고 밝혔다. 사이버 보안 분야에서는 실제 취약점을 재현하고 패치하도록 요구하는 테스트에서 82%, Cybench에서 40개 과제 중 93%를 풀었고, Lakera B3 공격 저항률은 93.3%라고 한다. 2026년 10월 29일 기준으로 블로그는 이 모델이 Artificial Analysis 지능 지수에서 오픈 웨이트 모델 5위라고 밝혔다. 위 수치는 발표 측 또는 발표 측이 인용한 평가 기준에서 나온 것이며, 이 기사에서 독립적으로 재현하지 않았다.

개발자에게 미치는 영향

첫 번째 영향은 비용과 지연을 추정하는 방식에 있다. 블로그의 Transformers 절은 reasoning_effort가 low, medium, high일 수 있고 기본값이 high이며 추론을 끌 수 없다고 명시한다. reasoning_effort: none을 넘겨도 high로 실행된다. 기존 파이프라인이 '사고 모드 없음'을 전제로 출력 길이와 첫 토큰 지연을 추정했다면, 연동 후 반드시 다시 측정해야 한다. Hugging Face 추론 엔드포인트는 추론 내용을 응답의 reasoning 필드에 따로 넣으므로 클라이언트 파싱도 함께 바꿔야 한다. 두 번째는 컨텍스트 기준이다. 모델 사양은 1M 토큰이지만, 블로그의 vLLM 실행 명령은 max-model-len을 131072로 두고 엔드포인트 레시피도 '최대 131K 컨텍스트'라고 적는다. 모순은 아니지만 1M이 실제 서비스 기본 구성이 아니라 가중치 능력의 상한에 가깝다는 뜻이며, 실제로 어디까지 돌릴지는 VRAM과 동시성 설정에 달려 있다. 세 번째는 하드웨어와 정밀도의 분기다. NVFP4 체크포인트는 NVIDIA Blackwell이 필요하다. 엔드포인트 레시피는 FP8로 8장의 H200에서 텐서 병렬과 전문가 병렬을 사용해 131K 컨텍스트, 최대 16개 동시 요청을 서비스한다. 블로그는 GGUF 양자화도 제시한다. 2비트 버전은 512GB 통합 메모리를 갖춘 Apple Silicon 한 대에서 실행할 수 있고, 나머지 양자화는 분산 추론이 필요하며 여러 NVIDIA 또는 AMD GPU에서 돌릴 수 있다. 세 경로의 처리량 규모는 크게 달라 서로 외삽할 수 없다. 네 번째는 라이선스다. 가중치는 Mistral Ecosystem Open-Weight License로 배포되며, 블로그는 이것이 MIT의 파생 라이선스이고 모델 서비스(model-as-a-service)에 제한을 둔다고 설명한다. 가중치를 내려받을 수 있다는 것이 대외 추론 서비스를 자유롭게 제공할 수 있다는 뜻은 아니며, 구체적 경계는 라이선스 원문으로 판단해야 한다. 다섯 번째는 미세조정 진입 장벽이다. 블로그의 TRL LoRA 예제는 B300 8장이 장착된 노드에서 실행되고 학습 스크립트는 FSDP와 전문가 병렬을 쓴다. 단일 GPU에서 재현할 수 있는 구성이 아니다.

연동 및 평가 제안

다음은 조건부 제안이며, 이미 검증된 결론은 아니다. 첫째, 기본 추론 강도를 낮출지 여부다. 보고된 사실은 추론을 끌 수 없고 기본값이 high라는 점이다. 선택지는 기본 단계를 high에서 low 또는 medium으로 낮추는 것이다. 전제 조건은 워크로드가 짧은 출력, 고정 형식의 추출 또는 분류인 경우다. 다단계 코드 수정, 취약점 재현 같은 작업은 블로그 벤치마크 자체가 높은 추론 단계로 측정됐으므로 단계를 낮추면 측정 대상이 바뀐다. 평가 방법은 동일한 고정 샘플에서 high와 low를 각각 실행하고 출력 토큰 수, 종단 간 지연, 작업 성공률을 기록하는 것이다. 성공률 하락이 허용 가능하고 토큰과 지연이 실제로 줄었을 때만 기본값을 바꾼다. 둘째, 어느 배포 경로를 택할지다. 보고된 사실은 공식 정밀도 변형이 FP8과 NVFP4 두 가지이고, 공개된 8×H200 배포 레시피가 있는 것은 FP8뿐이며 NVFP4는 Blackwell이 필요하다는 점이다. 그러나 비-Blackwell 장비에 길이 하나뿐이라는 뜻은 아니다. 블로그는 llama.cpp GGUF 양자화도 제시하며, 2비트는 512GB 통합 메모리의 Apple Silicon 한 대에서, 나머지는 분산 추론으로 여러 NVIDIA 또는 AMD 카드에서 실행할 수 있다. 선택은 기존 하드웨어에서 FP8, NVFP4, GGUF 중 무엇을 쓸지다. 전제 조건은 H200 8장급 장비가 있어야 FP8 레시피를 복제할 수 있고, Blackwell이 있어야 더 작은 VRAM 점유를 위해 NVFP4를 시도할 가치가 있으며, 단일 머신이나 소비자용 다중 GPU만 있다면 GGUF 양자화 중에서 고르고 정밀도 손실을 감수해야 한다는 것이다. 평가 방법은 목표 동시성과 자신의 실제 프롬프트 길이에서 부하 테스트를 하고 첫 토큰 시간, 생성 처리량, VRAM 점유를 기록하는 것이다. 블로그가 보고한 단일 요청 약 0.6초 첫 토큰, 16K 프롬프트에서 4개 동시 요청 시 약 4300 tok/s 프리필은 규모 참고로만 쓰고 합격 기준으로 삼지 않는다. 셋째, 1M 컨텍스트를 전제로 설계할지 여부다. 보고된 사실은 모델 사양 1M, 서비스 구성 131K이며, 블로그 자체 장문 컨텍스트 테스트에서 IQ2_XXS가 800K 컨텍스트에서 생성 속도가 3 tok/s로 떨어졌다는 점이다. 선택은 장문 컨텍스트용 경로를 따로 두거나 요청을 131K 이내로 눌러 일괄 처리하는 것이다. 전제 조건은 먼저 실제 요청의 p95 길이를 집계하는 것이다. p95가 131K보다 훨씬 낮다면 쓰지도 않는 창을 위해 동시성을 희생하는 것은 이득이 아니다. 평가 방법은 p95 길이로 테스트 세트를 구성하고 '131K로 자르기'와 '전체 입력' 두 방식의 작업 완료율과 총 소요 시간을 같은 과제 묶음에서 비교하는 것이다. 넷째, 보안 관련 워크로드를 자체 구축할지 폐쇄형 API를 계속 쓸지다. 보고된 사실은 블로그가 사이버 보안을 전면에 내세우며 JailbreakBench, StrongREJECT, AgentHarm의 사이버 보안 프롬프트에서 평균 거부율이 다른 오픈 웨이트 모델보다 높다고 밝히고, 일부 폐쇄형 프런티어 모델은 같은 재현 테스트에서 거부 때문에 점수가 거의 0에 가깝다고 밝힌 점이다. 선택은 자체 배포를 할지 폐쇄형 API를 계속 쓸지다. 전제 조건은 작업이 실제로 폐쇄형 필터에 막히거나 사고 처리 중간에 접근 중단 없이 유지해야 할 때만 자체 배포가 이득이다. 오픈 웨이트는 사용 정책과 배포를 직접 쥐지만, 컴플라이언스와 남용 방지 책임도 직접 진다. 평가 방법은 자체 과거 샘플에서 '먼저 재현한 뒤 패치' 성공률과 거부율을 측정하고, 같은 샘플을 폐쇄형 인터페이스로 보냈을 때의 수치와 비교하는 것이다.

제한과 확인할 사항

첫째, Mistral Large 4는 현재 KimiSeek 모델 카탈로그에 없다. 글에 언급된 Inference Endpoints, Inference Providers 서버리스 추론, Dell Enterprise Hub 레시피는 모두 Mistral, Hugging Face, Dell 쪽 채널이다. 이 버전과 그 API가 이 사이트에서 제공되는지, 어떤 형태로 제공되는지는 이 사이트 카탈로그와 실제 페이지를 기준으로 확인해야 한다. 둘째, 벤치마크는 대부분 발표 측이 자체 보고했거나 인용한 제3자 기준이다. '오픈 웨이트 모델 5위'는 2026년 10월 29일 시점으로 한정된다. 악성코드 분석, 취약점 우선순위 정렬, 탐지 규칙 생성 등의 결론은 Mistral 내부 테스트에서 나왔고 독립 재현이 없다. 셋째, 처리량 수치는 특정 머신과 특정 양자화에서 나온 것이다. M3 Ultra, RTX6000 Pro 4장, H200 8장에서의 결과를 다른 클러스터로 외삽할 수 없다. 넷째, 1M 사양, 131K 서비스 구성, 장문 컨텍스트 처리량 저하 사이의 절충을 블로그는 설명하지 않으므로 직접 측정해야 한다. 다섯째, 원문 llama.cpp 멀티모달 요청 예제의 model 필드에는 다른 모델명이 적혀 있어 그대로 베끼면 오류가 나기 쉽다. 공식 저장소 이름은 1T-A52B로 적혀 있지만 본문 설명은 49B 활성 파라미터라, 둘이 같은 통계 기준인지는 모델 카드로 확인해야 한다. 마지막으로, 어떤 대외 서비스가 model-as-a-service에 해당하는지는 라이선스 원문으로 판단해야 하며, 이 글은 법적 결론을 내지 않는다.

원문 보도의 이미지

원문 삽화 1 — Mistral Large 4 오픈 웨이트 공개: 1T 파라미터, 추론 비활성화 불가, 배포 전 정밀도·라이선스 확인
원문 삽화 1원문 보도 ↗
원문 삽화 2 — Mistral Large 4 오픈 웨이트 공개: 1T 파라미터, 추론 비활성화 불가, 배포 전 정밀도·라이선스 확인
원문 삽화 2원문 보도 ↗
원문 삽화 3 — Mistral Large 4 오픈 웨이트 공개: 1T 파라미터, 추론 비활성화 불가, 배포 전 정밀도·라이선스 확인
원문 삽화 3원문 보도 ↗
원문 삽화 4 — Mistral Large 4 오픈 웨이트 공개: 1T 파라미터, 추론 비활성화 불가, 배포 전 정밀도·라이선스 확인
원문 삽화 4원문 보도 ↗

3분이면 첫 호출까지

가입 후 API 키를 만드세요. 호출 비용은 계정 잔액에서 차감됩니다. 첫 충전 30% 할인. ¥500 충전, 결제 ¥350, 잔액 ¥500 적립. ¥1000 충전, 결제 ¥850, 잔액 ¥1000 적립 최소 충전 금액은 그대로 ¥10이며, 시험용으로 사용할 수 있습니다.

출처와 편집 과정

欢迎 Le Chonk:Mistral Large 4 登陆 Hugging Face

인용한 출처를 바탕으로 AI가 분석과 번역을 돕고 자동 품질 검사를 수행합니다. 제안은 실측 결과가 아닙니다. 제공 여부와 가격은 현재 카탈로그를 확인하세요.