Nanbeige4.3-33B 공개: 33B 덴스·512K 컨텍스트·Apache 2.0 가중치, 자체 보고 벤치마크는 타사 모델 카드와 충돌

MarkTechPost가 2026년 10월 25일 보도한 바에 따르면, BOSS직핀 산하 Nanbeige LLM Lab이 Apache 2.0 라이선스로 Hugging Face에 33B 덴스 모델 Nanbeige4.3-33B와 사용자 정의 후학습용 Base 버전을 공개했으며, 524,288 토큰 컨텍스트를 지원하고 자체 보고 표에서 20개 벤치마크 중 17개에서 앞섰지만 일부 경쟁 모델 수치는 상대방 공식 모델 카드와 일치하지 않는다.

게시 2026. 10. 25.수정 2026. 10. 26.

주요 변화

MarkTechPost 기자 Asif Razzaq가 2026년 10월 25일 보도한 바에 따르면, Nanbeige LLM Lab(보도에서는 채용 플랫폼 BOSS직핀 소속이라고 전함)이 Hugging Face에 Apache 2.0 라이선스로 Nanbeige4.3-33B를 공개하고, 사용자 정의 후학습에 쓰일 Nanbeige4.3-33B-Base도 함께 공개했다. 보도에 따르면 이 모델은 33B 덴스(비 MoE) 언어 모델이며, 인용된 config.json은 표준 LlamaForCausalLM 아키텍처를 선언한다: 52개 레이어, 히든 차원 7,168, 56개 쿼리 헤드와 8개 키-값 헤드(그룹 쿼리 어텐션), FFN 중간 차원 22,016, 어휘 166,912 토큰, RoPE theta 120,000,000, 최대 524,288 위치(512K 컨텍스트), 입력 모달리티는 순수 텍스트다. 보도는 또 모델 카드에 커뮤니티 양자화 버전 1개가 등록되어 있다고 전한다. 보도에 따르면 채팅 템플릿은 enable_thinking(기본 활성화), preserve_thinking, tools 세 가지 제어 항목을 노출하며, Nanbeige는 다중 턴 도구 사용과 코드 에이전트 시나리오에서 preserve_thinking을 켜도록 권장하고, 도구 호출에는 XML 호출 형식을 권장한다. 보도는 이 랩이 Nanbeige4.3-33B를 시리즈의 "교사" 모델로 위치시키고 에이전트 능력을 더 작은 모델로 증류할 계획이며, 먼저 Nanbeige4.3-3B를 출시할 예정이라고 전한다. 벤치마크와 관련해 보도는 Nanbeige 자체 비교표에서 이 모델이 Qwen3.8-27B, Muse-Glimmer-30B, Gemma4-31B 대비 20개 항목 중 17개에서 앞섰다고 전한다: Terminal-Bench 2.1에서 80.9(Qwen3.8-27B는 73.0), DeepSWE에서 65.5 대 42.5, Terminal-Bench 4.0에서 23.8(보도에서는 이 모델의 최저 점수라고 함), SWE-Bench Pro에서는 60.3으로 Qwen3.8-27B의 61.7에 뒤졌다. 보도는 특히 Nanbeige 표의 일부 경쟁 모델 수치가 경쟁사 공식 모델 카드와 모순된다고 지적한다: Meta는 Muse-Glimmer-30B가 SWE-Bench Pro에서 51.2, Gemma4-31B가 36.9라고 보고했지만 Nanbeige는 정반대로 기재했고, Google은 Gemma 4 31B가 GPQA Diamond에서 84.3이라고 밝혔지만 Nanbeige 표는 91.3을 표시하며, Meta는 Muse-Glimmer-30B가 Terminal-Bench 2.1에서 51.7이라고 보고했지만 Nanbeige는 61.8로 측정했다. 보도는 서로 다른 테스트 프레임워크가 일부 차이를 설명할 수 있지만 SWE-Bench Pro의 그 한 쌍은 뒤바뀐 것으로 보이며, 독립적 재현이 나오기 전까지는 이 행들을 잠정적으로 봐야 한다고 본다. 배포와 관련해 보도는 모델 카드가 Transformers, SGLang, vLLM 레시피를 제공하고 서버 예시는 4-way 텐서 병렬과 Qwen3의 추론 및 도구 호출 파서를 함께 사용한다고 전한다. 보도는 config.json에 근거해 BF16 가중치에 약 66 GB가 필요하고, BF16에서 KV 캐시는 토큰당 약 208 KiB, 전체 524,288 토큰 시퀀스에는 약 112 GB가 필요하다고 추산하며, 보도 시점 기준 Hugging Face 추론 제공업체 중 이 모델을 호스팅하는 곳은 없다고 전한다. 위 벤치마크는 모두 제조사 자체 보고 또는 매체 전언이며, 가중치와 KV 캐시 수치는 보도가 제시한 추산으로 공식 공개가 아니다. 본지는 실측하지 않았고 모델 저장소의 설정 파일과 라이선스 파일도 독립적으로 검증하지 않았다.

개발자에게 미치는 영향

개발자에게 가장 직접적인 제약은 배포 형태다. 보도가 설명한 공식 레시피는 단일 카드 워크스테이션 경로가 아니라 다중 GPU 서버에서의 4-way 텐서 병렬이다. 보도는 동시에 BF16 가중치 약 66 GB라는 추산을 제시하는데, 이는 양자화를 하지 않더라도 다중 카드 또는 다중 머신 환경이 있어야 서비스를 띄울 수 있다는 뜻이며, 평가 계획에서는 모델 품질보다 하드웨어를 먼저 해결해야 한다. 이 부분은 조건부 분석이다. 구체적인 VRAM 사용량은 추론 프레임워크, 배치 크기, 동시성에 따라 달라지므로 자신의 장비에서 실측해 확인해야 한다. 두 번째는 긴 컨텍스트의 실제 비용이다. 보도는 BF16에서 KV 캐시가 토큰당 약 208 KiB, 가득 찬 524,288 토큰 시퀀스에 약 112 GB가 필요하다고 추산하는데, 이는 가중치 자체와 같은 규모다. 즉 512K는 기본 설정이라기보다 "필요할 때 켜는 능력"에 가깝다. 업무에서 긴 요청 비중이 높지 않다면 컨텍스트 상한을 낮추는 것만으로 VRAM 예산과 동시성 능력이 크게 달라진다. 반대로 정말 최대 길이까지 돌려야 한다면 KV 캐시가 주요 비용 항목이 되며, 가중치 양자화가 이 부분을 직접 해결해 주지는 않으므로 KV 양자화나 페이징 전략을 별도로 구성해야 한다. 세 번째는 연동 방식과 프레임워크 적합성이다. 보도는 도구 호출에 XML 형식을 권장하고 서버 예시가 Qwen3의 추론 및 도구 호출 파서와 결합된다고 전한다. 이미 OpenAI 스타일 함수 호출 프로토콜에 맞춰 에이전트 루프를 구축한 팀에게 이는 보통 접속 주소만 바꾸는 것이 아니라 파싱 계층과 프롬프트 템플릿을 고쳐야 한다는 뜻이다. 보도된 enable_thinking 기본 활성화와 preserve_thinking의 이전 추론 내용 보존은 매 요청의 토큰 구성과 다중 턴 비용도 바꾼다. 프레임워크가 이전 턴을 잘라내거나 재배열한다면 이 제어 항목들의 실제 동작을 먼저 확인해야 한다. 네 번째는 평가 기준이다. 보도는 Nanbeige 자체 표와 Meta, Google 공식 모델 카드가 여러 벤치마크 행에서 충돌하며 그중 SWE-Bench Pro 한 행은 뒤바뀐 것으로 보인다고 지적한다. 따라서 "어떤 약 30B 모델보다 얼마나 강하다"는 식의 횡적 결론은 독립 재현 전까지 성립하지 않는다. 참고할 수 있는 것은 같은 표 내부의 구조적 정보이다. Terminal-Bench 2.1 자체 보고는 앞서지만 Terminal-Bench 4.0 자체 보고 절대 점수는 23.8에 불과하다는 점은, 같은 계열 벤치마크에서의 낙차가 능력이 과제와 테스트 프레임워크에 매우 민감하다는 것을 시사하므로 선정은 자체 과제 재현에 기반해야 한다. 다섯 번째는 모달리티와 라이선스다. 이 모델은 순수 텍스트 입력이라 스크린샷, 차트, 영상을 직접 처리하지 못하며 시각 입력이 필요한 워크플로를 대체하지 않는다. 라이선스 측면에서는 오픈 가중치와 라이선스 조건을 구분해야 한다. 보도는 가중치가 Apache 2.0으로 공개되었다고 전하는데, 이는 "가중치만 공개"보다는 관대하지만 여전히 모델 저장소에 동봉된 라이선스 파일을 기준으로 해야 하며, 가중치를 내려받을 수 있다는 것만으로 상업적 사용과 재배포 조건을 추론해서는 안 된다. 현재 KimiSeek 카탈로그와 대조한 결과 Nanbeige4.3-33B와 Nanbeige4.3-33B-Base는 모두 등록된 모델 목록에 없으며, 보도에서 언급된 배포 방식은 Hugging Face 가중치 다운로드를 뜻하고 호스팅 API가 관련된다면 제조사 자체 채널을 가리킨다.

연동 및 평가 제안

다음은 모두 권고 또는 조건부 분석이며, 보도에 나온 사실 결론이 아니다. 결정 1(추론 스택 선택): 보도는 모델 카드가 SGLang과 vLLM 레시피를 함께 제공하고 서버 예시가 4-way 텐서 병렬에 Qwen3의 추론 및 도구 호출 파서를 묶는다고 전한다. 내려야 할 선택은 한 가지 스택만 유지할지 두 가지를 병행할지다. 조건은 도구 호출에 의존하는지 여부다. 에이전트 흐름에 안정적인 함수 호출 파싱이 필요하다면 보도가 밝힌 파서 결합 관계는 스택을 바꿀 때 파싱 동작이 달라질 수 있음을 뜻하므로, 이때만 이중 스택 유지 비용을 감수할 가치가 있다. 순수 텍스트 추론이라면 단일 스택이 더 경제적이다. 측정 가능한 검증 기준은 도구 호출이 포함된 과제 20~50개를 준비해 두 스택에서 각각 도구 호출 형식 오류율과 파싱 실패율을 집계하고, 차이가 수용 가능한 범위라면 단일 스택으로 수렴하는 것이다. 결정 2(컨텍스트 상한과 VRAM 예산): 보도는 BF16 가중치 약 66 GB, 토큰당 약 208 KiB KV 캐시, 가득 찬 시퀀스 약 112 GB를 추산한다. 내려야 할 선택은 서비스의 컨텍스트 길이 상한과 동시성 상한이다. 조건은 실제 요청의 컨텍스트 분포에 달려 있다. 대다수 요청이 32K 이내라면 상한을 512K보다 훨씬 낮춰 상당한 VRAM을 동시성 향상에 쓸 수 있고, 512K는 소수의 긴 과제에 남겨둘 수 있다. 측정 가능한 검증 기준은 운영 또는 부하 테스트 요청의 컨텍스트 길이 분위수를 기록하고, 설정한 상한에서의 피크 VRAM과 P95 첫 토큰 지연을 측정해 둘 다 하드웨어 여유 안에 있는지 확인하는 것이다. 초과하면 상한을 낮추거나 커뮤니티 양자화 버전(보도에 따르면 모델 카드에 1개가 등록됨, 품질 영향은 직접 실측해야 함)으로 전환한다. 결정 3(평가 우선순위와 순서): 보도는 자체 표와 타사 공식 모델 카드가 SWE-Bench Pro, GPQA Diamond, Terminal-Bench 2.1 등의 행에서 충돌하며, SWE-Bench Pro 한 행은 뒤바뀐 것으로 보인다고 지적한다. 내려야 할 선택은 공개 리더보드 논쟁을 계속할지, 예산을 자체 과제 재현에 투입할지다. 조건은 워크로드가 에이전트 코딩 또는 사무 협업과 강하게 연관되는지 여부다. 연관된다면 자체 저장소와 실제 과제의 가치가 리더보드보다 높다. 측정 가능한 검증 기준은 동일한 평가 스크립트 아래 자체 과제 세트로 실행 가능 성공률 또는 통과율을 측정하고, 같은 크기 기준선과 같은 스크립트 안에서 비교하는 것이다. 같은 테스트 프레임워크 안의 차이만 선정에 사용할 수 있다. 결정 4(다중 턴 에이전트의 토큰 구성): 보도는 enable_thinking이 기본 활성화되고 preserve_thinking이 이전 턴의 추론 내용을 보존하며, 공식 권장이 다중 턴 도구 사용과 코드 에이전트에서 이를 켜는 것이라고 전한다. 내려야 할 선택은 이전 추론을 기본 보존할지, 턴별로 잘라낼지다. 조건은 세션 턴 수다. 턴이 많을수록 추론 내용 보존이 컨텍스트와 비용을 더 크게 증폭한다. 측정 가능한 검증 기준은 같은 다중 턴 과제 배치에서 보존과 절단 두 설정의 과제 성공률, 총 토큰 소비, 첫 토큰 지연을 비교하고, 성공률이 뚜렷하게 떨어지지 않을 때만 비용 통제를 위해 절단을 채택하는 것이다.

제한과 확인할 사항

분명히 해둘 점: 현재 KimiSeek 온라인 카탈로그와 대조한 결과 Nanbeige4.3-33B와 Nanbeige4.3-33B-Base는 모두 등록된 모델 목록에 없으며, 이 버전은 현재 KimiSeek에서 제공되지 않는다. 보도에서 언급된 배포와 가용성은 Hugging Face 가중치 다운로드를 뜻하고 호스팅 API가 관련된다면 제조사 자체 채널을 가리킨다. 보도는 자사 보도 시점에 Hugging Face 추론 제공업체가 호스팅하지 않는다는 것만 확인했을 뿐, 다른 모든 호스팅 채널이 호스팅하지 않는다고 단정하지 않았으므로 다른 채널의 제공 여부는 별도로 확인해야 한다. 본지는 모델 저장소, 설정 파일, 동봉 라이선스 파일을 독립적으로 검증하지 않았으며, 본문에 기술된 아키텍처 파라미터, 제어 항목, 라이선스 설명은 모두 해당 보도가 모델 카드와 config.json을 전한 데서 나온 것이다. 보도에 나온 모든 벤치마크 점수는 Nanbeige 자체 보고 또는 매체 전언이며 독립적 제3자 재현은 아직 없다. 보도 자체도 일부 경쟁 모델 수치가 Meta, Google 공식 모델 카드와 충돌하고 그중 SWE-Bench Pro 한 행은 뒤바뀐 것으로 보인다고 지적했으므로, 이 행들은 독립 재현 전까지 잠정적으로 봐야 한다. 보도에 나온 약 66 GB 가중치, 토큰당 약 208 KiB KV 캐시, 가득 찬 시퀀스 약 112 GB KV 캐시, 4-way 텐서 병렬 등은 모두 해당 보도가 config.json에 근거해 추산하거나 모델 카드를 전한 것이며 공식 공개도 본지 실측도 아니다. 실제 VRAM 사용량은 추론 프레임워크, 배치 크기, 동시성, 컨텍스트 분포의 영향을 받으므로 자신의 하드웨어에서 실측해야 한다. Apache 2.0은 보도에서 제시된 라이선스 설명이며, 가중치를 내려받을 수 있다는 것이 라이선스 조건과 같지는 않다. 구체적인 상업적 사용과 재배포 조건은 모델 저장소에 동봉된 라이선스 파일을 기준으로 해야 한다. 도구 호출의 XML 형식 권장, Qwen3 파서 결합, enable_thinking 기본 활성화 등의 동작은 모두 보도의 모델 카드 및 채팅 템플릿 설명에서 나온 것이며 실제 동작은 버전 업데이트에 따라 달라질 수 있다. Nanbeige4.3-3B 증류 계획은 제조사가 발표한 계획 진술에 속하며 공개 가중치나 능력 데이터가 아직 없으므로 이미 전달된 능력으로 보아서는 안 된다.