夜雨聆风学习资料网

ARTICLE · 1362317

提示词注入?这模型能区分文档中夹带的指令

提示词注入?这模型能区分文档中夹带的指令

让AI读网页、总结文档时,资料里也可能夹着“忽略之前的指令”这类话。模型若把它当成命令,就会偏离用户原本的任务。

IBM的LLMON预览模型把用户指令与外部资料分别标记,明确哪些话该执行、哪些只是待阅读的内容。接入需用配套模板;这种区分仍靠模型学习,不能保证拦住所有夹带指令。

来源:Hugging Face 模型库,搜索「granite-4.1-3b-llmon-preview」

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料