浅谈AI Agent的行为检测思路

本文作者：Pamela@涂鸦智能安全实验室 背景这两年AI发展得太快了，从ChatBot到能自主规划、调工具、执行任务的AI Agent，中间没几年。以前 ChatBot主要是回答问题，就算Prompt Injection出问题，影响也只是内容生成层面。但AI Agent不一样，...