IBM 发布 LLMON 标记语言与 Granite 4.1 LLMON 预览模型:把指令和数据拆成可寻址块
IBM 在 2026 年 11 月 12 日的 Hugging Face 博客中发布 LLMON 标记语言及两个基于 Granite 4.1 的实验性预览模型,宣称在 OPI 等静态间接提示注入基准上大幅降低攻击成功率,同时通用能力与 Granite 4.1 Instruct 相当。

发生了什么
据 IBM 于 2026 年 11 月 12 日发布的 Hugging Face 博客,团队推出 LLMON(LLM Object Notation)标记语言,并发布 granite-4.1-3b-LLMON-preview 与 granite-4.1-8b-LLMON-preview 两个实验性预览模型。这些模型从 Granite 4.1 基座检查点出发,而非已发布的 Instruct 模型,在后训练阶段学习读写 LLMON。博客解释其思路:常规聊天模板只告诉模型某段属于哪个角色,LLMON 进一步标明每段是什么、彼此如何关联;一轮对话中的指令、数据、约束各自成为可单独寻址的块,再由一个 exec 块声明在哪份数据上运行哪条指令、受哪些要求约束、输出写到哪里。LLMON 用六个以保留特殊 token 实现的定界符,而非花括号和引号等普通字符来标记结构;未被执行块调用的片段只作为阅读材料。博客称,在 OPI 基准上,相对于其测试的最佳前沿模型,LLMON 多抵御了 47% 的攻击,相对于最佳开源模型多抵御了 95%,并称在 ASB 与 StruQ 上看到类似趋势;这些基准测的是静态间接提示注入。博客同时声明,这是学到的行为,不是被强制保证的规则。模型以实验性预览发布,博客明确说不适用于生产环境。
对开发者的影响
对开发者而言,这次发布改变的与其说是模型选型,不如说是消息构造方式。如果采用 LLMON,提示里的每个组成部分都要显式命名并指定是否被执行块绑定,这实际上把过去压在系统提示里的角色约定,提前到应用代码里。接入影响至少有两点。其一,LLMON 预览模型自带聊天模板,照常构建 messages 列表并调用 apply_chat_template 即可渲染出 LLMON 块;但第三方推理框架和网关是否支持这套模板与保留 token,源文没有说明,自建服务需要自行验证分词器与模板的兼容性。其二,博客称多数团队基于 JSON 的流水线不必重写,其转换工具可无损地在 JSON 与 LLMON 之间互转,且可自定义标签,再在 LLMON 模型上微调 LoRA。这意味着已有结构化数据管道存在渐进迁移的可能,但转换后的等价性需要自己验证。推理成本方面,博客称块 ID 固定取自一个分词器编码为单 token 的集合,寻址一个块始终花费两个 token,这只是源文对寻址开销的描述,不代表整体上下文成本下降。安全方面,博客给出的收益只覆盖静态注入,其自述正在改进对跨多轮自适应攻击的抵御,这类场景正是智能体工具循环中更常见的威胁形态。对于把检索文档或工具返回直接放进上下文的 RAG 与工具调用类应用,这一区分值得单独评估;但源文没有给出除 Granite 4.1 Instruct 对照以外的通用基准明细。
接入与评估建议
建议一:以间接注入攻击成功率为准入门槛决定是否试用。本次报道中的关键变化,是把指令与数据显式分离、未被调用的片段不作为命令。可以选择的做法是,在现有 Granite 4.1 3B 或 8B 的提示与检索数据中注入固定的一组攻击样本,分别测原 Instruct 模型与 LLMON 预览版,评估指标是同一批样本上的攻击成功率与任务完成率。当工作负载包含来自外部的文档、网页或工具返回,且这些内容会被拼进上下文时,这个对比才有意义;若输入全部来自可信来源,安全收益的可测差异可能很小。建议二:把是否引入 exec 绑定作为一项应用层设计决策。可选择的做法是,先在 Mellea 或模板层把现有提示拆成 instruction、data、requirement 等命名部件,再看模型是否按 exec 块执行。前提是有一个可以承受重写提示构造代码的评估环境,指标是同一任务集上答案正确率与无关片段被拉入回答的比例是否与原版本相当或更好。博客称通用能力与 Granite 4.1 Instruct 相当,但这需要在自己的任务上复核,不应直接当作结论。建议三:涉及工具调用或智能体循环时,在评估中纳入多轮自适应攻击。源文承认当前基准只测静态注入,因此即便静态基准表现很好,也不等于多轮攻击同样的结果;评估指标可以设为在连续多轮工具返回中插入恶意指令时的执行率。以上均为基于源文的分析与建议,不是已证实的结论。
限制与待确认事项
两个 LLMON 预览模型目前均未出现在 KimiSeek 的在线目录中,本文关于其可用性的描述仅指 IBM 与 Hugging Face 一侧的发布,不涉及本站。博客明确称其为实验性预览,不适用于生产环境;提示注入的抵御是训练习得的行为,作者自己强调不是强制保证。其公布的注入抵御对比集中在 OPI、ASB、StruQ 三类静态间接提示注入基准,跨多轮自适应攻击仍在改进中,通用能力对照也只针对 Granite 4.1 Instruct。源文未给出许可条款、显存或部署门槛、第三方推理框架支持情况,也未提及 API 定价;这些都需要在采用前自行核实。
原报道配图


