IBM, LLMON 마크업 언어와 Granite 4.1 LLMON 프리뷰 모델 공개: 지시문과 데이터를 주소 지정 가능한 블록으로 분리
IBM은 2026년 11월 12일 Hugging Face 블로그에서 LLMON 마크업 언어와 Granite 4.1 기반의 실험적 프리뷰 모델 두 개를 공개했으며, OPI 등 정적 간접 프롬프트 주입 벤치마크에서 공격 성공률을 크게 낮추면서 일반 능력은 Granite 4.1 Instruct와 비슷하다고 밝혔다.

주요 변화
IBM이 2026년 11월 12일 공개한 Hugging Face 블로그에 따르면, 팀은 LLMON(LLM Object Notation) 마크업 언어를 내놓고 granite-4.1-3b-LLMON-preview와 granite-4.1-8b-LLMON-preview 두 실험적 프리뷰 모델을 발표했다. 이 모델들은 이미 공개된 Instruct 모델이 아니라 Granite 4.1 기반 체크포인트에서 출발해 후속 학습 단계에서 LLMON을 읽고 쓰는 법을 익혔다. 블로그는 그 구상을 이렇게 설명한다. 일반적인 채팅 템플릿은 어떤 구절이 어느 역할에 속하는지만 알려주지만, LLMON은 각 구절이 무엇이고 서로 어떻게 연결되는지까지 표시한다. 한 번의 대화에서 지시문, 데이터, 제약은 각각 따로 주소를 지정할 수 있는 블록이 되고, exec 블록이 어느 데이터에 어느 지시문을 실행하고 어떤 요구 사항의 제약을 받으며 출력을 어디에 쓸지 선언한다. LLMON은 중괄호나 따옴표 같은 일반 문자 대신 예약된 특수 토큰으로 구현된 여섯 개의 구분자로 구조를 표시하며, exec 블록이 호출하지 않은 구절은 읽기 자료로만 쓰인다. 블로그는 OPI 벤치마크에서 자사가 테스트한 최고 프런티어 모델 대비 공격을 47% 더 막았고 최고 오픈소스 모델 대비 95% 더 막았다고 밝혔으며, ASB와 StruQ에서도 비슷한 경향이 보였다고 한다. 이 벤치마크들은 정적 간접 프롬프트 주입을 측정한다. 블로그는 또한 이것이 학습된 행동이며 강제로 보장되는 규칙은 아니라고 명시한다. 모델은 실험적 프리뷰로 공개되었고, 블로그는 프로덕션 환경에 적합하지 않다고 분명히 밝혔다.
개발자에게 미치는 영향
개발자에게 이번 공개가 바꾸는 것은 모델 선택이라기보다 메시지 구성 방식이다. LLMON을 채택하면 프롬프트의 각 구성 요소에 이름을 명시하고 exec 블록에 묶일지 여부를 지정해야 하며, 이는 과거 시스템 프롬프트에 담아 두던 역할 규약을 애플리케이션 코드로 앞당기는 셈이다. 연동 영향은 적어도 두 가지다. 첫째, LLMON 프리뷰 모델은 자체 채팅 템플릿을 갖추고 있어 평소처럼 messages 목록을 만들어 apply_chat_template을 호출하면 LLMON 블록이 렌더링된다. 다만 서드파티 추론 프레임워크와 게이트웨이가 이 템플릿과 예약 토큰을 지원하는지는 원문에 나오지 않으므로, 자체 구축 서비스는 토크나이저와 템플릿 호환성을 직접 검증해야 한다. 둘째, 블로그는 대부분 팀의 JSON 기반 파이프라인은 다시 작성할 필요가 없다고 하며, 변환 도구가 JSON과 LLMON 사이를 무손실로 상호 변환하고 태그를 사용자 정의한 뒤 LLMON 모델에서 LoRA로 미세 조정할 수 있다고 한다. 이는 기존 구조화 데이터 파이프라인에 점진적 이전 가능성이 있음을 뜻하지만, 변환 후의 동등성은 직접 검증해야 한다. 추론 비용 면에서 블로그는 블록 ID가 토크나이저에서 단일 토큰으로 인코딩되는 집합에서 고정적으로 가져오므로 블록 하나를 주소 지정하는 데 항상 두 개의 토큰만 든다고 한다. 이는 주소 지정 오버헤드에 대한 원문의 설명일 뿐 전체 컨텍스트 비용이 줄어든다는 뜻은 아니다. 보안 면에서 블로그가 제시한 이점은 정적 주입만을 포괄하며, 여러 턴에 걸친 적응형 공격에 대한 방어를 개선 중이라고 스스로 밝히고 있다. 이런 시나리오는 에이전트 도구 루프에서 더 흔한 위협 형태다. 검색 문서나 도구 반환값을 컨텍스트에 그대로 넣는 RAG 및 도구 호출 애플리케이션이라면 이 구분을 따로 평가할 가치가 있다. 다만 원문은 Granite 4.1 Instruct 대조 외의 일반 벤치마크 세부 내역을 제시하지 않는다.
연동 및 평가 제안
제안 1: 간접 주입 공격 성공률을 도입 판단의 기준으로 삼아 시험 사용 여부를 정한다. 이번 보도에서 핵심 변화는 지시문과 데이터를 명시적으로 분리하고 호출되지 않은 구절을 명령으로 취급하지 않는 것이다. 택할 수 있는 방법은 기존 Granite 4.1 3B 또는 8B의 프롬프트와 검색 데이터에 고정된 공격 샘플 집합을 주입하고, 원래 Instruct 모델과 LLMON 프리뷰 버전을 각각 측정하는 것이다. 평가 지표는 같은 샘플 집합에서의 공격 성공률과 작업 완료율이다. 워크로드에 외부 문서, 웹 페이지, 도구 반환값이 포함되고 이 내용이 컨텍스트에 이어 붙는 경우에만 이 비교가 의미가 있다. 입력이 전부 신뢰할 수 있는 출처에서 온다면 보안 이점의 측정 가능한 차이는 작을 수 있다. 제안 2: exec 바인딩 도입 여부를 애플리케이션 계층의 설계 결정으로 다룬다. 택할 수 있는 방법은 먼저 Mellea나 템플릿 계층에서 기존 프롬프트를 instruction, data, requirement 등 이름 붙은 부품으로 나누고, 모델이 exec 블록대로 실행하는지 보는 것이다. 전제는 프롬프트 구성 코드를 다시 작성할 수 있는 평가 환경이며, 지표는 같은 작업 집합에서 정답률과 무관한 구절이 답변에 끌려 들어가는 비율이 원래 버전과 비슷하거나 더 나은지다. 블로그는 일반 능력이 Granite 4.1 Instruct와 비슷하다고 하지만, 이는 자체 작업에서 재확인해야 하며 곧바로 결론으로 삼아서는 안 된다. 제안 3: 도구 호출이나 에이전트 루프가 관련되면 평가에 여러 턴의 적응형 공격을 포함한다. 원문은 현재 벤치마크가 정적 주입만 측정한다고 인정하므로, 정적 벤치마크 성적이 좋아도 여러 턴 공격에서 같은 결과가 나온다는 뜻은 아니다. 평가 지표는 연속된 여러 턴의 도구 반환값에 악성 지시문을 삽입했을 때의 실행률로 삼을 수 있다. 이상은 원문에 근거한 분석과 제안이며 입증된 결론은 아니다.
제한과 확인할 사항
두 LLMON 프리뷰 모델은 현재 KimiSeek의 온라인 카탈로그에 나타나지 않으며, 이 글의 가용성 설명은 IBM과 Hugging Face 측 공개만을 가리키고 이 사이트와는 무관하다. 블로그는 이를 실험적 프리뷰라고 분명히 밝히며 프로덕션 환경에 적합하지 않다고 한다. 프롬프트 주입 방어는 학습으로 얻은 행동이며 저자 스스로 강제 보장이 아니라고 강조한다. 공개된 주입 방어 비교는 OPI, ASB, StruQ 세 가지 정적 간접 프롬프트 주입 벤치마크에 집중되어 있고 여러 턴의 적응형 공격은 아직 개선 중이며, 일반 능력 대조도 Granite 4.1 Instruct에 한정된다. 원문은 라이선스 조항, VRAM이나 배포 요건, 서드파티 추론 프레임워크 지원 여부를 제시하지 않았고 API 가격도 언급하지 않았으므로, 도입 전에 직접 확인해야 한다.
원문 보도의 이미지


