Nace AI 开放 Drex Max v1 权重:27B 决策模型能跑在 24GB Mac 上,本地路径暂只认文本
据 MarkTechPost 2026 年 11 月 1 日报道(文末注明由 Nace AI 赞助),Nace AI 以 Nace.AI Open RAIL-M 开放 27B 稠密决策模型 Drex Max v1 权重,提供 bf16、Q8_0 GGUF 与 affine Q4 检查点,自报 Decision Index 0.4 得 67.52。
发生了什么
据 MarkTechPost 2026 年 11 月 1 日报道,文末注明该文由 Nace AI 赞助,Nace AI 已将 Drex Max v1 以开放权重形式发布,许可为 Nace.AI Open RAIL-M。报道称这是一个 27B 稠密参数的决策模型:它不生成文本,而是接收状态(文本、JSON 或图像)与命名问题,在一次前向传播中为每个选项返回概率;问题分三类,在命名选项中择一、是/否、序数打分,单问题最多 255 个选项。模型卡描述的结构为 64 层主干,其中 48 层是自左向右的 Gated DeltaNet 线性注意力,另 16 层为每隔四层放置的非因果全注意力,每个 token 可关注整段序列;配置文件列出 qwen3_5 模型类型与 262,144 位置窗口,默认 16,384。发布物包括 bf16 权重、Q8_0 GGUF(27.25 GB)、affine Q4 检查点(14.45 GB),以及 llama.cpp 与 Ollama 的分支;报道称五种运行时统一提供 POST /v1/systemone 接口。基准与量化对比均由 Nace AI 自报:Decision Index 0.4 得 67.52,高于其列出的 Drex v2.0(61.25)与 Jev 1.13.0(57.96),Artificial Analysis Decision Index 为 64;在 48GB 的 M5 Pro 上,Q8_0 与 H100 bf16 的每项概率差在 0.02 以内,affine Q4 与 Q8_0 的差在 0.0329 以内且未出现选择翻转。报道还提到托管版在 OpenRouter 提供,发布时价格为每千次决策 0.03 美元,当前价格需以厂商定价页为准。
对开发者的影响
对开发者的第一处变化在接口形态:这不是把提示词换成选项就能替代聊天模型的接口。调用方必须先给出选项集合与问题类型,拿回的是一组概率,阈值、弃答与降级策略要由业务侧自己定义,这与自由文本输出后再解析的做法完全不同。第二处变化在部署分层:报道给出的内存门槛是 affine Q4 面向 24GB 以上 Mac、Q8_0 GGUF 需 48GB、NVIDIA 侧 bf16 约 49GB 或 8 位约 26GB,意味着同一模型可在笔记本、单卡与 GPU 服务器三种规格上落地,但精度与吞吐不同。第三处是本地路径的能力缺口:llama.cpp、Ollama、Kapitsa、MLX 四条路径都不支持图像,只有 Python 加 NVIDIA GPU 支持,含截图的工单分诊无法整条搬上 Mac。第四是许可性质:权重可下载不等于 OSI 认可的开源许可,Open RAIL-M 带使用限制,商用前需自行核对条款。第五是长上下文的口径差:窗口写的是 262,144,但默认 16,384,且报道建议 48GB Mac 上 Kapitsa 用 2048 上下文,宣称的长窗口不等于你实际会跑的配置。需要强调的是,上述性能与量化偏差数字全部来自厂商自报,且来源文章为赞助内容,缺少第三方复现。
接入与评估建议
以下为基于报道的推荐与条件分析,不是已核实的事实。其一,若你的路由或分诊负载是纯文本,可先在 24GB 以上统一内存的 Mac 上试跑 affine Q4:报道称该检查点 14.45 GB 且无选择翻转,这为离线灰度提供了前提,但前提是负载不含图像且你能接受单机推理的延迟;评估标准是在你自己标注的历史工单上比较 Q4 与 bf16 或托管版的 top-1 一致率与阈值附近的翻转率,只有一致率达到预设门槛才切流。其二,若输入含截图或扫描件,报道称图像经原生视觉塔并在请求内对所有问题可见,但四条本地路径均不支持图像,因此选择只有保留 GPU 或托管侧调用,或先把图像转成文本再走本地;评估标准是用自有截图集分别测视觉路径与 OCR 加文本路径的选择准确率和未回答率,而不是只看公开视觉指数 73.92。其三,关于长输入,建议显式设置上下文长度并在目标长度上重测:因为报道称未回答的请求在结果数据集中计为错误,长上下文带来的未回答会直接抬高错误率,评估指标应包含不同上下文长度下的未回答比例与准确率衰减曲线。其四,255 路读出头加一次前向回答多个问题的设计,使把多条策略检查合并进同一请求成为可能,前提是合并后各问题的选项集不冲突且总长度仍在窗口内;评估标准是合并与拆分两种方式的单请求延迟、每问题概率差异以及长上下文下的未回答率。
限制与待确认事项
Drex Max v1 这一版本目前不在 KimiSeek 的模型目录中,报道提到的托管 API 与云控制台可用性均指 Nace AI 方面,本站是否接入及以何价格提供需以目录与定价页为准。报道中的所有基准、排名与量化偏差数字均由 Nace AI 自报,来源文章由厂商赞助,未见独立复现。量化对比仅在一台 48GB 的 M5 Pro 上完成,概率偏差 0.0329 这类数字不能直接外推到其他硬件与量化组合。许可为 Nace.AI Open RAIL-M,权重开放不代表 OSI 开源许可,使用限制需自行核对。配置中出现的 qwen3_5 模型类型只反映结构字段,报道未说明训练数据来源与基座关系。此外,报道未说明本地接口在无合适选项时的具体行为,只提到未回答在结果数据集中计为错误。