Tether 发布 0.8B 端侧智能体模型 BotPsy:工具调用自报翻倍,Apache 2.0 权重标注研究与教育用途
据 Hugging Face 博客 2026 年 11 月 11 日的发布文,Tether AI Research 推出 0.8B 模型 BotPsy,基于 Qwen3.5-0.8B 后训练,专攻函数调用与智能体工作流,面向端侧部署。厂商自报其在六项工具使用基准中的五项领先,包括超过参数量 2.5 倍的 Qwen3.5-2B-Think,并称将以 Apache 2.0 开放权重、用途限于研究与教育。

发生了什么
据 Hugging Face 博客 2026 年 11 月 11 日的发布文,Tether AI Research 推出 BotPsy,一个 0.8B 参数模型,基于 Qwen3.5-0.8B 后训练,定位函数调用与智能体工作流,面向端侧部署,场景覆盖网络搜索与研究、旅行与生活、商务与金融、设备与车辆控制、文件与文档、日历、邮件与消息。厂商自报把基座模型的智能体能力大致翻倍:BFCL v4 从 23.4 升到 44.0,ACEBench 从 30.1 升到 58.7,τ-bench 从 23.2 升到 51.5。在 BFCL v4、ACEBench、τ-bench、ToolSandbox、BrowseComp-Plus 五项上高于参数量为其 2.5 倍的 Qwen3.5-2B-Think,仅在 Claw-Eval 上落后(46.5 对 48.9)。多轮表现上,BFCL v4 多轮从 7.5 升到 46.1,τ²-bench telecom 得 82.5;BFCL 幻觉测试 86.1,即无合适工具时更倾向拒绝调用。厂商同时列出弱项:开放式检索 BrowseComp-Plus 只有 4.5,BFCL 网页搜索 14.0、记忆 16.3,τ³-banking 上所有被测模型都低于 5,复杂多步信息检索场景只有 15。训练为四阶段后训练:监督微调、多教师同策略蒸馏(三个 Qwen3.5-4B 专家教师分别专精工具使用、通用推理与指令遵循),以及两轮以规则和验证器奖励为主的 DAPO 强化学习,工具调用奖励对工具名、参数名、参数值给部分分。发布方称将提供 bf16、Q8、Q4 三种精度,以 Hugging Face safetensors 与供 QVAC SDK 和 llama.cpp 使用的 GGUF 形式发布,权重以 Apache 2.0 许可开放,用于研究与教育用途。以上基准均为厂商自报,外部 API 基准于 2026 年 11 月 3 日运行,全部模型在思考模式下评测。
对开发者的影响
从接入角度看,值得注意的不是“0.8B 能干更多活”,而是工具调用本身被当作小模型后训练的核心目标。据发布文,四个阶段中第一轮强化学习专门围绕工具调用,奖励先检查推理与调用格式,再对工具名、参数名、参数值给部分分,而不是只给对错的二元奖励。这会把错误从格式层推到参数层:模型输出结构合法的调用但参数值有偏差时,问题由你的工具层承接,参数校验、幂等与回滚设计需要提前就位。 部署路径相对熟悉。发布方给出 safetensors 与 GGUF 两类仓库,GGUF 面向 QVAC SDK 与 llama.cpp,意味着它可以接进已有的本地推理栈,而不是绑定一套专属运行时;三档精度也留出了在内存、延迟与格式稳定性之间取舍的空间。 能力画像直接影响产品边界。发布方明确说它被设计成“不知道就调工具”,通用知识仍主要随参数量扩展:同规模里 GPQA Diamond 38.1、MMLU-Pro 48.9 领先同档,但比 2.5 倍的 Qwen3.5-2B-Think(59.9、65.5)差得远,因此检索与工具返回质量比模型自带知识更决定最终答案。多轮增益最大,但指令累积到第三轮时 Multi-IF 掉到 51.0,低资源语言(印地语 24.5、俄语 57.6)明显落后于英语、中文、法语、西班牙语、意大利语、葡萄牙语的 72–80 区间。这意味着端侧的状态管理、指令重述与上下文压缩要由应用侧承担,不能指望模型在长会话里自行保持稳定。安全方面,红队自报不安全回复 21%(基座 36%),提示注入下 31%(基座 46%),剩余比例意味着读取不可信工具输出时仍需外部策略层。
接入与评估建议
以下为条件性建议与分析推断,不是发布方的说法。 一、先做分流,不做整体替换。发布文显示单次调用在各应用组普遍得 70–79,复杂场景总体只有 39.5,多步信息检索仅 15。据此可设一条线:工具 schema 明确、参数能由上游补齐的单次或并行调用交端侧处理;需要多轮探索或跨来源核对的请求仍走云端。触发条件是你的历史会话里单次调用占比足够高,且参数校验能在工具层外置;做不到时模型给出的参数错配会直接打到业务系统。评估标准用自己的流量采样测两项:函数名与参数值的完全匹配率,以及给定工具集无法满足请求时拒绝调用的比例,后者对应 BFCL 幻觉测试的 86.1,但那是厂商设置下的数字,必须自测。 二、量化档位先 Q8 再 Q4。发布方提供 bf16、Q8、Q4 三种精度,选择取决于设备的显存或内存预算。条件性做法是:内存不紧时用 Q8 建立格式合法率基线,只有在内存受限且 Q4 的格式合法率掉幅可接受时才降档。需要自己量的是固定提示集上的工具调用格式合法率、重复推理循环比例与单次延迟。发布文报告的循环率从 22.9% 降到 1.4%、触及 32k 上限的运行从 28.3% 降到 0.2%,这些是在其发布权重上的测量,量化后是否保持需要验证。 三、把安全判断放在模型之外。发布文称红队不安全回复比例从基座 36% 降到 21%,提示注入下从 46% 降到 31%。31% 意味着仍有相当比例的注入样本可能得到不安全输出,对需要读网页、邮件等不可信内容的智能体来说,不足以把安全责任交给模型。此建议适用于你允许它调用会改变状态的工具(支付、发信、删除文件)的情形,做法是给这些工具加白名单与人工确认。可测量的指标是写操作中经外部策略闸门的比例,以及注入测试集中被闸门拦下的比例。 四、按语言与轮次路由。发布文给出 Multi-IF 上英语、中文、法语、西班牙语、意大利语、葡萄牙语在 72–80 区间,印地语 24.5、俄语 57.6,且第三轮指令遵循降到 51.0。如果你的用户包含这些低资源语言,或单会话需要三轮以上累积指令,前提条件是不要在提示层做指令重述与压缩之前把这些流量交给它。衡量方式是分语言的指令遵循通过率与平均对话轮次。
限制与待确认事项
上述基准全部来自发布方自报,评测在其自有设置下完成,对比模型也由同一团队运行,目前没有独立复现结果。评测条件中所有模型都在思考模式下运行,使用外部 API 的基准于 2026 年 11 月 3 日执行;推理 token 按各模型自己的分词器计数,跨模型的 token 数并不完全是同一把尺子,厂商所说的“少用 1.4–3.1 倍 token”应按这一口径理解。“≤1.2B 中最优”的结论也仅限于其选择的对比集合。 许可与用途需要分开看。发布文称权重以 Apache 2.0 开放,同时写明“用于研究与教育用途”,预期用途一节也把适用场景限定在研究与教育,并声明不适用于安全关键或高风险自动化决策,以及涉及金钱、个人信息、健康的场景。权重可得并不等于这些用途都被授权,落地方应自行核对 Hugging Face 仓库中的许可文件与预期用途说明,而不是从权重的可获得性推断权利范围。 发布措辞上也有一处需要留意:正文多处用将来时描述权重发布,同时又给出 safetensors 与 GGUF 仓库,本简报无法验证这些文件当前是否可下载、是否与文章描述一致。 能力边界方面,开放式检索是明确弱项:BrowseComp-Plus 自报 4.5,BFCL 网页搜索 14.0、记忆 16.3;τ³-banking 上所有对比模型都低于 5,该场景目前不具备可用性。模型主要用英语训练与测试,英语是推荐语言。 KimiSeek 当前的模型目录中没有 BotPsy-0.8B 的对应条目,本篇关于能力与分发的信息均来自发布方;发布文也没有提到官方托管的 API,权重分发渠道以厂商在 Hugging Face 与 QVAC SDK、llama.cpp 一侧的说明为准,若后续出现托管服务或第三方接入,其可用性、条款与计费由厂商或相应服务方说明。
原报道配图







