本文作者:Pamela@涂鸦智能安全实验室 背景这两年AI发展得太快了,从ChatBot到能自主规划、调工具、执行任务的AI Agent,中间没几年。以前 ChatBot主要是回答问题,就算Prompt Injection出问题,影响也只是内容生成层面。但AI Agent不一样,...
本文作者:Pamela@涂鸦智能安全实验室 背景这两年AI发展得太快了,从ChatBot到能自主规划、调工具、执行任务的AI Agent,中间没几年。以前 ChatBot主要是回答问题,就算Prompt Injection出问题,影响也只是内容生成层面。但AI Agent不一样,...