ARTICLE · 1299572
AI harness入门速成课!
AI harness入门速成课!
AI harness是包裹模型的软件层，提供上下文、连接工具、执行权限并管理模型与环境的往复循环。
我们以添加CSV导出按钮为例，提出四块设计：
用ADK的session记录对话、state保存任务关键值、长期记忆沉淀偏好；
用Python函数或MCP暴露工具，以graph workflows编排顺序、并行校验和重试上限；
用sandbox、受限工具权限、敏感操作审批和不可信数据处理抵御提示注入与隐私风险；
用deterministic evaluation、LLM-as-a-judge和人工评审组合验收。
最有价值的建议是把安全控制交给软件强制执行，并用假客户数据测试；
可靠的agent不只靠更强模型，更靠一层设计良好的AI harness。
我们以添加CSV导出按钮为例，提出四块设计：
用ADK的session记录对话、state保存任务关键值、长期记忆沉淀偏好；
用Python函数或MCP暴露工具，以graph workflows编排顺序、并行校验和重试上限；
用sandbox、受限工具权限、敏感操作审批和不可信数据处理抵御提示注入与隐私风险；
用deterministic evaluation、LLM-as-a-judge和人工评审组合验收。
最有价值的建议是把安全控制交给软件强制执行，并用假客户数据测试；
可靠的agent不只靠更强模型，更靠一层设计良好的AI harness。
