【安疆论坛】AI时代的安全攻防实践——从“会用工具”到“会验证系统”

为推动AI安全实践教学与产业前沿技术同频共振，落实AI时代人才培养从“会用工具”向“会验证系统”转型升级的要求，信息网络安全学院于6月24日举办安疆论坛系列讲座第17讲。本次报告特邀资深安全专家、高级工程师侯瓒以《AI时代的安全攻防实践》为题作专题分享，报告由学院院长助理王云华主持，学院教师参会。

侯瓒指出，AI 是效率放大器，但人类的专业判断不可或缺。AI 可大幅简化代码、测试用例等内容生成，但其产出常存在鉴权缺失、密钥硬编码、输入校验不足等漏洞，必须人工完成安全复核。在逆向工作中，AI 虽降低操作门槛，却易在证据不足时依靠固有模式推演，所有研判结论需依托完整证据链，安全从业者需独立承担判定责任。

报告同时警示，Agent 与 RAG 架构形成新型攻击面，提示词注入或将引发权限滥用，治理核心是分层划分数据、权限、工具权限，隔离 AI 表达与操作权限。他提出安全从业者需掌握边界意识、安全验证、攻防实践、AI 治理、逆向证据判断五项能力，遵循 “AI 提速、验证收口” 原则，把 AI 当作待审核助手而非标准答案来源。

王云华作总结发言，他表示，本次讲座梳理出清晰的 AI 安全实操路径。“入门门槛降低、高手门槛未降” 的观点极具教学参考价值，无论技术工具如何更新，严谨的验证思维与独立判断力始终是人才培养根基。学院将引导学生熟练运用 AI 工具，同时练就识别 AI 缺陷的能力，以技术实力保障智能系统安全稳定运行。

往期精彩回顾：

校对：安婷婷  王  敏  谢子良

审核：万朝林   钱慧芳

长按扫码关注