Nanbeige4.3-33B 发布：33B 稠密、512K 上下文、Apache 2.0 权重，自报基准与他人模型卡冲突
据 MarkTechPost 2026 年 10 月 25 日报道，BOSS 直聘旗下 Nanbeige LLM Lab 以 Apache 2.0 许可在 Hugging Face 发布 33B 稠密模型 Nanbeige4.3-33B 及供自定义后训练的 Base 版本，支持 524,288 token 上下文，自报表在 20 项基准中领先 17 项，但部分竞品数值与对方官方模型卡不一致。
发生了什么
据 MarkTechPost 记者 Asif Razzaq 2026 年 10 月 25 日报道，Nanbeige LLM Lab（该报道称其隶属招聘平台 BOSS 直聘）在 Hugging Face 上以 Apache 2.0 许可发布 Nanbeige4.3-33B，同时发布供自定义后训练使用的 Nanbeige4.3-33B-Base。报道称该模型为 33B 稠密（非 MoE）语言模型，其引述的 config.json 声明标准 LlamaForCausalLM 架构：52 层、隐藏维度 7,168、56 个查询头与 8 个键值头（分组查询注意力）、FFN 中间维度 22,016、词表 166,912 token、RoPE theta 为 120,000,000，最高 524,288 个位置（512K 上下文），输入模态为纯文本；报道另称模型卡列出 1 个社区量化版本。报道称聊天模板暴露 enable_thinking（默认开启）、preserve_thinking 与 tools 三个控制项，Nanbeige 建议多轮工具使用与代码智能体场景启用 preserve_thinking，工具调用推荐 XML 调用格式。报道称该实验室将 Nanbeige4.3-33B 定位为系列“教师”模型，计划把智能体能力蒸馏到更小模型，先推出 Nanbeige4.3-3B。基准方面，报道称在 Nanbeige 自己的对比表中，该模型相对 Qwen3.8-27B、Muse-Glimmer-30B 与 Gemma4-31B 在 20 项中领先 17 项：Terminal-Bench 2.1 得 80.9（Qwen3.8-27B 为 73.0）、DeepSWE 为 65.5 对 42.5；Terminal-Bench 4.0 得 23.8（报道称为该模型最低分），SWE-Bench Pro 以 60.3 落后于 Qwen3.8-27B 的 61.7。报道特别指出，Nanbeige 表格中若干竞品数值与竞品官方模型卡矛盾：Meta 报告 Muse-Glimmer-30B 在 SWE-Bench Pro 上为 51.2、Gemma4-31B 为 36.9，而 Nanbeige 列出正好相反；Google 列出 Gemma 4 31B 在 GPQA Diamond 上为 84.3，Nanbeige 表格显示 91.3；Meta 报告 Muse-Glimmer-30B 在 Terminal-Bench 2.1 上为 51.7，Nanbeige 测得 61.8。报道认为不同测试框架可解释部分差距，但 SWE-Bench Pro 那一对看起来被对调，在独立复现出现前应把这些行视为暂定。部署方面，报道称模型卡提供 Transformers、SGLang 与 vLLM 配方，服务器示例使用 4 路张量并行并配合 Qwen3 的推理与工具调用解析器；报道依据 config.json 推算称 BF16 权重约需 66 GB，BF16 下 KV 缓存每 token 约 208 KiB、完整 524,288 token 序列约需 112 GB；报道称截至其发稿时没有 Hugging Face 推理提供商托管该模型。上述基准均为厂商自报或媒体转述，权重与 KV 缓存数字为报道给出的推算，并非官方披露，本刊未做实测，也未独立核验模型仓库的配置文件与许可文件。
对开发者的影响
对开发者最直接的约束是部署形态。报道描述的官方配方是多 GPU 服务器上的 4 路张量并行，而非单卡工作站路径；报道同时给出 BF16 权重约 66 GB 的推算，这意味着即便不做量化，也需要多卡或多机环境才能把服务跑起来，评估计划里得先解决硬件，再谈模型质量。这部分属于条件性分析：具体显存占用会随推理框架、批大小与并发变化，需在自己的机器上实测确认。 第二是长上下文的真实成本。报道推算 BF16 下 KV 缓存每 token 约 208 KiB，满 524,288 token 序列约需 112 GB，与权重本身同量级。这意味着 512K 更像是一个“按需开启的能力”而不是默认配置：如果业务里长请求占比不高，把上下文上限压低会显著改变显存预算与并发能力；如果确实要跑满长度，KV 缓存会成为主要开销项，量化权重并不直接解决这一部分，需要另行配置 KV 量化或分页策略。 第三是接入方式与框架适配。报道称工具调用推荐 XML 格式，且服务器示例搭配 Qwen3 的推理与工具调用解析器。对于已经按 OpenAI 风格函数调用协议搭好智能体循环的团队，这通常意味着要改解析层与提示模板，而不是只换一个接入地址。报道所述的 enable_thinking 默认开启、preserve_thinking 保留历史推理内容，也会改变每轮请求的 token 构成与多轮成本；如果框架对历史轮次做截断或重排，需要先确认这些控制项的实际行为。 第四是评估口径。报道列出 Nanbeige 自报表与 Meta、Google 官方模型卡在多个基准行上冲突，其中 SWE-Bench Pro 一行疑似对调，因此任何“比某个近 30B 模型强多少”的横向结论在独立复现之前都不成立。可作为参考的是同一张表内部的结构性信息：Terminal-Bench 2.1 自报领先，而 Terminal-Bench 4.0 自报绝对分只有 23.8，这种同族基准上的落差提示能力对任务与测试框架高度敏感，选型应基于自有任务复现。 第五是模态与许可。该模型是纯文本输入，无法直接处理截图、图表或视频，对需要视觉输入的工作流不构成替代。许可方面应区分开放权重与许可条款：报道称权重以 Apache 2.0 发布，这比“仅开放权重”更宽松，但仍应以模型仓库随附的许可文件为准，不应只凭权重可下载推断商用与再分发条件。据当前 KimiSeek 目录核对，Nanbeige4.3-33B 与 Nanbeige4.3-33B-Base 均不在已上架模型列表中，报道中提到的分发方式指的是 Hugging Face 权重下载，如涉及托管 API 则指厂商自身渠道。
接入与评估建议
以下均为建议或条件性分析，不是报道中的事实结论。 决策一（推理栈选择）：报道称模型卡同时提供 SGLang 与 vLLM 配方，服务器示例使用 4 路张量并行并绑定 Qwen3 的推理与工具调用解析器。要做出的选择是只维护一套栈还是两套并行。条件是你是否依赖工具调用：如果智能体流程需要稳定的函数调用解析，报道披露的解析器绑定关系意味着换栈可能改变解析行为，此时才值得付出双栈维护成本；若只是纯文本推理，单栈更经济。可衡量的验证标准是准备 20 至 50 条带工具调用的任务，在两套栈上分别统计工具调用格式错误率与解析失败率，差异在可接受范围内就收敛到单栈。 决策二（上下文上限与显存预算）：报道推算 BF16 权重约 66 GB、每 token 约 208 KiB KV 缓存、满序列约 112 GB。要做出的选择是服务的上下文长度上限与并发上限。条件取决于真实请求的上下文分布：若绝大多数请求在 32K 以内，把上限压到远低于 512K 可以释放大量显存用于提高并发，把 512K 留给少量长任务。可衡量的验证标准是记录生产或压测请求的上下文长度分位数，并测量在设定上限下的峰值显存与 P95 首 token 延迟，确认两者都在硬件余量内；若超出则下调上限或改用社区量化版本（报道称模型卡已列出 1 个，质量影响需自行实测）。 决策三（评估优先级与顺序）：报道指出自报表与他人官方模型卡在 SWE-Bench Pro、GPQA Diamond、Terminal-Bench 2.1 等行上冲突，报道判断 SWE-Bench Pro 一行疑似对调。要做出的选择是继续争论公开榜单还是把预算投向自有任务复现。条件是你的工作负载是否与智能体编程或办公协作强相关：若相关，自有仓库与真实任务的价值高于榜单。可衡量的验证标准是在同一套评测脚本下，用自有任务集测出可执行成功率或通过率，并与同尺寸基线在同一脚本内对比；只有同一测试框架内的差距才可用于选型。 决策四（多轮智能体的 token 构成）：报道称 enable_thinking 默认开启，preserve_thinking 会保留此前轮次的推理内容，且官方建议在多轮工具使用与代码智能体中启用。要做出的选择是默认保留历史推理，还是按轮次裁剪。条件是会话轮数：轮数越多，保留推理内容对上下文与费用的放大越明显。可衡量的验证标准是在同一批多轮任务上比较保留与裁剪两种设置的任务成功率、总 token 消耗与首字延迟，只有在成功率无明显下降时才采用裁剪以控制成本。
限制与待确认事项
需要明确：据当前 KimiSeek 线上目录核对，Nanbeige4.3-33B 与 Nanbeige4.3-33B-Base 均未出现在已上架模型列表中，该版本目前不在 KimiSeek 上提供，报道中提到的分发与可用性指的是 Hugging Face 权重下载，若涉及托管 API 则指厂商自身渠道。报道只确认其发稿时没有 Hugging Face 推理提供商托管，并未断言其他所有托管渠道均未托管，其他渠道是否提供应另行核实；本刊未独立核验模型仓库、配置文件或随附许可文件，本文所述架构参数、控制项与许可描述均来自该报道对模型卡与 config.json 的转述。报道中的所有基准分数均为 Nanbeige 自报或媒体转述，尚无独立第三方复现，且报道本身已指出若干竞品数值与 Meta、Google 官方模型卡冲突，其中 SWE-Bench Pro 一行疑似对调，这些行在独立复现前应视为暂定。报道中约 66 GB 权重、每 token 约 208 KiB KV 缓存、满序列约 112 GB KV 缓存、4 路张量并行等均为该报道依据 config.json 的推算或对模型卡的转述，并非官方披露、也非本刊实测；实际显存占用受推理框架、批大小、并发与上下文分布影响，需在自己的硬件上实测。Apache 2.0 是报道中给出的许可描述，权重可下载并不等同于许可条款，具体商用与再分发条件应以模型仓库随附的许可文件为准。工具调用推荐 XML 格式、解析器搭配 Qwen3、enable_thinking 默认开启等行为均来自报道对模型卡与聊天模板的描述，实际行为可能随版本更新变化。关于 Nanbeige4.3-3B 的蒸馏计划属于厂商公布的计划表述，尚无公开权重或能力数据，不应视为已交付能力。