ARTICLE · 1362317
提示词注入?这模型能区分文档中夹带的指令
提示词注入?这模型能区分文档中夹带的指令
让AI读网页、总结文档时,资料里也可能夹着“忽略之前的指令”这类话。模型若把它当成命令,就会偏离用户原本的任务。
IBM的LLMON预览模型把用户指令与外部资料分别标记,明确哪些话该执行、哪些只是待阅读的内容。接入需用配套模板;这种区分仍靠模型学习,不能保证拦住所有夹带指令。
来源:Hugging Face 模型库,搜索「granite-4.1-3b-llmon-preview」















































































