
从研发设计到生产制造,从供应链管理到客户服务,智能体正在渗透汽车产业的每一个环节。如何确保其安全、合规、可控,已成为车企的必答题。

目前,理想汽车已在企业内部部署了多种场景的AI智能助手,覆盖安全运营、研发协同、IT 服务等多个真实业务场景。
理想汽车的安全团队在深入智能体各类使用场景后发现,行业普遍存在三大安全瓶颈:权限边界模糊、行为过程失控、攻击面持续扩大,严重制约着AI规模化落地。
为此,理想汽车与火山引擎围绕AI助手安全方案开展合作,打造了覆盖“供应链安全+助手运行安全+权限行为安全”的全流程“AI智能助手纵深防御体系”。从源头补齐了开源AI智能助手的安全短板,同时实现对全量AI智能助手的企业级统一安全管理。
纵深防御体系,为AI智能助手全面护航
理想汽车安全团队与火山引擎合作打造的“AI智能助手纵深防御体系”具备四大核心能力,为每个AI助手都系上了可靠的“安全带”:
身份与权限管控——“人+AI”双主体治理
在执行任务时,同步校验任务的发起人和执行任务的AI。同时确认两件事:
是谁给AI下指令的,这个人是否有权限下该指令?
这个AI助手是否有权限访问这个数据/系统?
基于“人+AI”双主体验证,并根据最小权限原则,动态划定AI助手可访问的资源范围,从源头杜绝越权与误用。
行为与执行控制——为关键操作设置“红绿灯”
针对读写文件、修改配置等关键操作,预先设置一套“红绿灯”约束策略,让AI在“自动”与“可控”之间找到最佳平衡:
对高风险操作设置“红灯”进行拦截,或进入“黄灯”审批机制,等人工确认后再继续执行。
对低风险普通操作,AI直接“绿灯”执行。
理解与生成安全——守住数据的“输入”与“输出”
在输入端,全链路识别并拦截提示词注入攻击,避免恶意指令攻击。
在输出端,对敏感数据访问与输出做动态脱敏与控制,并阻断异常数据外流。
审计与行为追溯——为每一次AI行为留下“证据链”
完整记录整个链路:包括数据调用、工具执行及内容生成等操作,并区隔哪些“人”的操作、哪些是“AI”的做作,并管控“AI自主执行”和“AI遵从人类指令执行”等不同场景。
发生异常时可快速回放:还原过程、定位问题并进行责任归因。
基于以上能力,理想汽车的安全运营工程师只需要“发号施令”,AI智能助手便能在整套安全机制的全程护航下高效执行任务,大幅提升漏洞响应速度,牢牢守住安全底线。
安全能力在实战中持续进化
目前,在火山引擎与理想汽车安全团队的紧密协作下,“AI助手纵深防御体系”已在多个关键业务场景落地验证,推动AI智能助手逐步成长为可参与复杂流程的“数字执行单元”。
以安全运营场景为例。安全管理员只需要在飞书群中发出指令,即可命令AI智能助手创建漏洞修复工单。AI智能助手可自动读取漏洞库信息、自动扫描代码库并完成漏洞修复与复测,无需人工干预,只需人工授权即可实现一站式漏洞工单的指派与修复闭环工作。
未来,火山引擎将与理想汽车持续做好AI时代企业智能体安全防御工作,保障“数字员工”安全落地,为企业智能化增长筑牢安全底座。


夜雨聆风