原文標題:LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B
IBM Granite團隊於11月12日在Hugging Face公開LLMON,也就是LLM Object Notation,並釋出以Granite 4.1基礎模型訓練的3B與8B實驗預覽版本。這套標記語言使用保留的特殊Token,明確標示指令、資料、要求與輸出區塊,再透過識別碼將指令綁定到應處理的資料。團隊同時提供工具、範例及可與既有JSON資料互轉的程式,讓應用程式更清楚表達上下文結構。
相較只靠一般文字或JSON符號,LLMON將結構分隔與內容放在不同的詞彙空間,減少模型必須自行推斷資料角色及巢狀關係的負擔。預覽模型有自己的聊天樣板,使用者仍可建立訊息列表,再將各部分標記為是否執行;Mellea也已加入原生支援。這不是取代聊天角色,而是進一步說明每個角色內部的資料與指令關聯。
團隊表示,在OPI、ASB與StruQ等靜態間接提示注入測試中,LLMON能提升抵抗能力,整體能力則接近相對應Granite 4.1 Instruct模型。不過,原文強調這是學習到的行為,不是強制安全保證,多輪自適應攻擊仍在改進。兩款模型目前用於探索與評估,不適合直接視為正式生產方案;部署者仍需保留權限控制、工具隔離與其他防護,不能只因使用結構標記就信任所有模型行為。
發生了什麼事
IBM Granite團隊公開LLMON語言、工具及兩款實驗預覽模型,用特殊Token區分指令、資料與要求。應用程式可透過識別碼指定關聯,Mellea亦提供原生支援。
為什麼重要
提示注入常利用模型混淆資料與指令,明確結構提供另一種訓練及應用方向。官方研究顯示靜態攻擊測試改善,但這不能取代真正的存取權限與執行環境隔離。
影響哪些人
研究提示注入、建置RAG與工具型智慧體,或使用Granite小型模型的開發者是主要對象。既有JSON流程可評估轉換工具,但仍需要自行測試任務品質與相容性。
已確認與未確認
已確認3B、8B預覽模型與工具已公開。研究結果限測試條件,對多輪自適應攻擊仍在改進;原文明言不適合生產,指令區隔是學習行為而非強制安全保證。