← 全部模型资讯

Baseten 发布 2B 决策模型 joey-1:输出概率而非文本,权重以 MIT 开放

据 MarkTechPost 2026 年 10 月 29 日报道,Baseten 旗下 Base Labs 发布 2B 决策模型 joey-1:一次前向返回各选项的校准概率而非自由文本,权重以 MIT 开放,托管接口最长 16,384 token。报道称其在 Jev 公共拆分得 63.30、P50 延迟 20 毫秒。

发布 更新

发生了什么

据 MarkTechPost 2026 年 10 月 29 日报道,Baseten 旗下研究团队 Base Labs 发布 joey-1:一个 2B 参数的决策模型,不生成自由文本,而是接收文本或图像状态与一组带类型的问题,一次前向返回每个问题每个选项的概率。报道称权重在 Hugging Face 以 MIT 许可开放,同时通过 Baseten Model APIs 提供,调用路径为 /v1/systemone,并已在 OpenRouter 上架;文章给出的 API 价格为每百万输入 token 0.01 美元,输出与缓存输入标为 0 美元。这是报道当日的报价,实际计费应以厂商定价页为准。 joey-1 支持三种问题类型:choice 在给定选项中选一个,yes/no 在 API 中字段名为 noul、返回 yes 的概率,score 返回有序等级且最低在前。报道称它由 Qwen3.5-2B 全量微调后训练而来,视觉编码器冻结,全注意力层使用块双向掩码,所有问题共享一次前缀预填充,因此增加问题数量的边际成本很小。Model APIs 上最大序列 16,384 token,专用部署据称可到 262k;自托管需要一块 CUDA GPU 与 PyTorch 2.8 / CUDA 12.8 镜像,报道未披露显存需求,也未列出官方量化版本。模型卡给出的训练细节是 621 万个决策样本、交叉熵加 Brier 校准项,并训练了一个“我不知道”选项。 joey-1 是该系列第三个成员,Baseten 上周已发布 27B 的 mammoth-1 与 9B 的 elephant-1,三者共享训练数据与同一套接口,报道称切换只需改一行。基准方面所有数字均为 Baseten 自报:Jev Decision Index 0.4 公共拆分上 joey-1 得 63.30,在 230 个模型中排第 37,Baseten 称其为 4B 以下最高分;同门 elephant-1 为 72.24,Cloudflare 的 Clef 为 61.71,Jev 1.14 为 60.70。在 Baseten 复刻的 Artificial Analysis Decision Index 上 joey-1 为 62.9,mammoth-1 为 65.9。延迟上 Baseten 报告平均 2,000 token 请求的 P50 端到端延迟 20 毫秒,elephant-1 为 49 毫秒,博客另称比同类决策模型快 5 倍但未点名对象。

对开发者的影响

这项发布改变的是错误形态与成本结构,而不是又一个通用模型的名次。过去做高频分类,通常让通用 LLM 输出 JSON 再由应用解析,失败模式是格式错误与幻觉标签;joey-1 这类模型把输出空间限定在给定选项上,解析失败基本消失,剩下的风险变成概率判断本身不准、以及阈值设得不对。代价同样明确:2B 决策模型的通用知识弱于同门更大模型,报道自己就说它在每个领域都落后 elephant-1,所以它适合做第一线路由,不适合替代需要世界知识或开放生成的环节。 校准概率的真正用途是分层。既然每个选项都带概率,还训练出一个弃权选项,工程上就能把低置信度样本升级到 9B、27B 或人工,把昂贵调用集中到难样本;三个模型共用同一接口意味着升级链的改造成本主要落在阈值与评估上,而不是代码重写。但这也意味着接入方要新增两样以前可以不做的东西:一份带标注的留出集,和一条按成本决定阈值的策略。没有这两样,价格和延迟上的优势无法转成你自己的决策质量。 另一个容易被忽略的变量是上下文。托管接口在 16,384 token 处截断,262k 只属于专用部署,这决定了长工单、长日志类输入能不能走托管路径;自托管虽只需一块 CUDA GPU,但显存未披露、也没有官方量化版本,实际能跑多长序列要自己验证。

接入与评估建议

以下为条件分析,不是报道事实。 如果现网是“提示词分类加 JSON 解析”,建议先并行一条影子链路而不是直接替换。前提是标签集合可以枚举,且有历史标注或人工复核数据可做留出集。先选量最大、单次误判代价低、标签封闭的那一类请求切入。判据是在自己的留出集上按业务可接受的置信度阈值算宏平均 F1 与准确率,并同时看解析失败率是否归零、被判弃权的比例是否在人工能消化的范围内;若准确率不高于现有提示词基线或弃权率过高,结论应该是不切换。 如果单次误判的代价明显高于一次升级调用,建议把概率当成分流开关。做法是设一个阈值,低于阈值的样本升级到 elephant-1、mammoth-1 或人工,并给升级量设上限。判据是扫不同阈值,按“决策调用成本加升级成本加剩余错误成本”求总成本最低点;同时画一条可靠性曲线,检查模型给出 0.8 的样本实际正确率是否接近 0.8。报道中的 Brier 校准项是在其训练分布上调的,迁移到你的领域后是否仍然校准只能自己测,这一步不能省。 如果输入长度经常超过 16k 或数据不能出网,先定部署形态再谈模型效果。托管接口的 16,384 token 与专用部署的 262k、以及自托管所需的单卡加指定镜像,是三条不同的路。判据是在目标硬件上实测吞吐与 p99 延迟,并与自有链路的现有延迟对比;不要直接引用厂商平台侧的 20 毫秒,那个数字测的是他们的端到端环境。

限制与待确认事项

本文的基准与延迟数字均为 Baseten 自报,缺少独立复现。Jev Decision Index 是 Hugging Face 上的社区排行榜,但各家在该榜上的分数同样引自 Baseten 的模型卡;20 毫秒与 49 毫秒的对比限于同一平台内部的测量口径,博客所称“快 5 倍”未点名比较对象。MIT 是权重页面上标注的许可,不等于对基座模型衍生权利与训练数据来源的完整交代,商用前应自行核对仓库内的许可与数据说明。joey-1 目前不在 KimiSeek 的模型目录中,报道提到的 API 可用性与价格指的是 Baseten 与 OpenRouter 侧的供应情况;如需核对本平台可用模型与计费,请查看站内定价页。

三分钟跑通第一次调用

注册后创建 API Key。调用费用从账户余额扣除。新用户首充 7 折。充 ¥500,实付 ¥350,到账 ¥500。充 ¥1000,实付 ¥850,到账 ¥1000 最低充值仍为 ¥10,适合试用。

来源与编写说明

Baseten 发布 joey-1:2B 决策模型,每百万输入 token 收费 0.01 美元

本文基于所列来源,由 AI 辅助整理、分析和翻译,并经过自动质量检查。分析与建议不代表实测结果;模型可用性与价格请以当前目录为准。