夜雨聆风学习资料网

ARTICLE · 1238518

智启未来 安启新程 | 广州软件学院与中关村智联联合专家讲座

智启未来 安启新程 | 广州软件学院与中关村智联联合专家讲座

为拓宽同学们网络安全视野,帮助大家厘清 AI 时代的安全风险与防护思路,近期,我校联合智联联盟开展人工智能安全专题技术分享会。多位行业一线网安专家带来干货满满的主题报告,围绕 AI 原生安全、AI 辅助漏洞挖掘、AISkill 安全准入体系等前沿方向,为师生献上一场技术盛宴。

专家介绍

杨小华/Security For AI 西部猎人网安实验室负责人  中国网络空间安全学会会员、人民部电出版社网络安全专家、中关村智联人工智能安全专家、多地公安单位技术顾问;多次提交知名大模型漏洞并获NASA致谢。

鲁彦烨/AI For Security 360攻防工程师 

某市公安易技术支撑、HG020B第一发起人、西部错人网络安全实验室攻防专家;多所高校网络安全课程授课老师,长期深耕于网络安全红队方向。

高松鹤/Security For AI 头部金融企业紫军

曾任职于绿塑科技、安恒信息、长亭科技,从事红队攻防工作。获多家头部安全企业Offer、熟悉Web、内网、云及容器安全攻防。

王泽洲/AI For Security如约出行信息安全管理

如约出行科技集团有限公司信息安全管理、 HexaGoners主理人、拥有多个CVE/CNVD 原创漏洞编号及证书主要研究web应用开发技术,ai智能体应用开发技术,与信息安全范围内容。

蔚勇强/中关村智联人工智能安全专家委员会副主任

王得金/蘑菇云(MGClouds.net)创始人

宁宇飞/Chamd5 AI安全负责人

齐江/WAIC(世界人工智能大会特邀演讲嘉宾)

                     

专家介绍

讲座内容(下午场)

第一场由杨小华老师为我们带来主题为《Security For AI 理论概述与实践》的讲座。首先先为我们讲解了AI安全的两条路径,然后介绍了Security For AI的定义与边界为保护对象不同、威胁模型不同、生命周期更长、责任主体更宽。通过攻击门槛的重置得出判断:安全边界正在从[代码与网络]向[语义与数据]迁移——这正是Security For AI得以成立的根本原因。紧接着从AI原生安全防护体系、主流AI场景的基础安全风险和AI应用十大风险清单为我们讲解威胁全景。然后从典型攻击手法全景为我们讲解了攻防实践,5类攻击手法分别举例子一一讲解,详细周到。最后从构建AI原生安全防御体系的六条落地措施和四级成熟度为我们讲解了防御体系。最终告诉我们AI的安全问题最终会以信任问题的形式回到业务侧。

杨小华老师讲座

第二场由鲁彦烨老师为我们带来主题为《AI 智能辅助网络安全漏洞挖掘新范式》的讲座。首先先说明了人工智能的现状已经融入了我们的日常工作和生活,而AI智能辅助漏洞挖掘的能力则是黑盒与白盒全覆盖,甚至可以全流程深度参与,虽然AI能产出大量候选,但候选不等于漏洞,真假与危害等级,必须由人判定,所以传统手工挖掘与AI智能辅助挖掘并不是替代关系,而是互补关系。紧接着为我们讲解了Claude Code的安装,它是一个命令行里的Agent运行时,只是本次的演示底座,可按需替换。先确认Node.js版本,然后用npm全局安装,如果版本号正常输出,说明安装成功。此时就可以安装cc-switch,添加DeepSeek供应商,在目标代码目录下启动,这样就完成了底座的安装。但这还不够,我们还需要Skill与MCP给Agent加能力,配好之后就可以让Agent自己调工具。老师还给我们介绍了漏洞挖掘的两种方法,那就是人机协同,经验由人出,体力由AI出,要注意把红线、目标范围、期塑效果说清楚。除了换更强的模型,多Agent架构、优化流程架构、加装Skills这三个方向都可以提升漏洞挖掘能力。此外需要注意漏洞挖掘注意事项,要注意什么是上下文窗口,要注意上下文越长,模型表现越差,要注意窗口满了要么直接溢出,要么被压缩后遗忘,还要注意把规则写进项目说明,每次对话自动带上,未经授权的测试不是技术研究,而是犯罪。

鲁彦烨老师讲座

第三场是由高松鹤老师带来的讲座。他先抛出一个问题,为什么需要Skill,然后以每周销售周报为例,说明Skill把团队的业务方法带入日常工作。由此引出下面的一个Skill是怎样工作的,Skill的实际应用并且举例相应的例子。他用腾讯案例“童话创作器中的凭据窃取”“状态恢复工具中的远程控制链”告诉我们需要优先控制的Skill安全风险,风险权重与静态初判。所以Skill安全规则为高风险拦截项和复核与放行边界,要学会高中低风险的处置。讲座的最后再以SkillHub准入流程,安全检测能力的分工,两阶段结果与发布处置,平台实践与准入标准的对应关系以及版本更新与发布后的处置结束了讲座。

高松鹤老师讲座

第四场讲座由王泽州老师为我们讲解。第一部分老师先说了攻防(对抗)的本质就是信息与信息差(情报),又说了信息作为对抗本质在现实世界中和游戏世界中的体现与特点,在攻防行动中,作为蓝方,红方的爱横情仇,由此得出结论:攻防天然不公平,所以防守必须是体系化的,动态变化的。第二部分则说明了蓝队守什么,守的是资产清单。第三部分则说了红队怎么攻和简要六阶段攻击链。首先六阶段攻击链是环形,而非直线,并且还要进行信息收集(斥候探查)、探测与突破、“夺门楼”、“进街巷”、“劫粮仓”。第四部分讲了蓝对的防守伙伴,认识防御手段和设备。首先是空间分层:七道阵地,然后是设备定位。第五部分讲解了红队攻击行为反推蓝队能看见什么。先是列举了七类行为和留下的痕迹,以及对方的检出手段和难度,继续推进为我们讲解内网后渗透阶段。第六部分说了AI时代的盾以及AI可能带来的增效兜底与未来方向。从为什么要用AI来协助提升防御能力和详细讲述了增效与兜底,以及溯源方面从考古到CT,未来SOC的一句话架构和一组专门化Agent,到Agentic SOC的四层架构和人机协同的新分工,结束了这次讲座。

王泽洲老师讲座

讲座内容(晚上场)

晚上场的讲座邀请了四位专家分别是蔚勇强、王得金、宁宇飞和齐江。围绕了四个话题,四位专家分别从不同角度回答了话题内容。

话题一为重塑攻防:技术的变革与困惑,展开了三个疑问分别是:AI攻防能力到底到了什么水平,它改变了哪些传统攻防逻辑,现实落地又是什么样子?现在AI辅助挖洞越来越普通,那对于做红队的同学,传统学习模式要不要改变?站在政企、大型机构安全建设的视角,企业现在面对AI带来信息泄露风险,和过去传统的数据泄露防护相比,会新增哪些不一样的挑战?我们一个个来解答,首先AI大幅提升攻防效率,但还是无法独立完成完整攻防。AI更多的是辅助工具,但攻防的决策核心依旧是人。其次对于第二个问题,底层基础不能丢,但学习重心要调整,我们要学会用提示词驾驭AI,运用AI辅助我们。对于第三个问题,AI带来的新挑战就是一些训练数据等敏感信息有可能会被AI识别获取,被模型记住,数据上传至第三方AI服务器,进而造成损失。

话题一问答

话题二为AI时代网安学生,如何搭建自己的学习体系,也展开了三个疑问:自己底层手工功底还不够,到底是死磕传统基本功,还是赶风口直接学AI安全?站在AI安全技术从业者,如果一个同学想要切入AI安全方向,你觉得哪些底层基础是绕不开的?工具玩的很溜,但底层原理薄弱,你怎么看待这个现象?回答第一个问题,基本公是基础,没有底层功底,就算学会AI安全工具,也看不懂AI输出结果。可以选择一边夯实基础,一边学习AI相关内容,不要盲目更风。第二个问题,一些网络原理、操作系统、传统漏洞、攻防原理等都是绕不开的。第三个问题,AI时代,会用工具的人会越来越多,但拉开差距的还是底层原理理解能力。工具只是辅助,但原理才是核心竞争力。

话题二问答

话题三为职业选择、现实困难:竞赛、演练、学历与AI替代焦虑,问题分别是:AI浪潮下,网络安全整个职业赛道会发生哪些变化?从市场一线拉力看,哪些岗位更容易被AI工具影响,那些人才反而更加稀缺?怎么看待“AI替代”这个焦虑?求职时,是优先打竞赛还是优先参加攻防演练?第一个问题,只会基础工具的人员容易被替代:懂底层原理、会驾驭AI、懂攻防策略研判的人才需求会上涨。一些重复性的工作交给AI自动化完成。第二个问题,容易被影响到的就是标准化、重复性工作,比如基础漏洞扫描等,而稀缺的人才是能够做高阶红队对抗、AI模型攻防、复杂漏洞的挖掘的人员。焦虑的本质是技术变革带来的压力,AI并不能代替人类,而是淘汰只会简单操作的人。第三个问题,二者可以同时参加,并不冲突,在校期间可以打CTF夯实基础;有机会可以打攻防演练,积累真实项目经验。

话题三问答

话题三结束以后,四位专家最后进行了一分钟发言总结今晚的讲座。第一位是齐江老师发言,他作为一名学生非常了解我们学生的想法,他认为刚入校的新生,最重要的是知道自己该干什么,进校后了解市场缺少什么,从哪些方向努力。他建议我们要多接触市场工作,具体项目,这样毕业才不迷茫,是对自己负责。第二位是蔚勇强老师发言,他建议我们要提升基本功,在学校学的东西要实打实的学会,并且学会站在社会人的角度思考,不要站在学业的角度思考,入社会之后不要用学生思维。第三位是王得金老师发言,他建议我们去了解自己的热爱,自己的长板和短板,了解用人单位,要明确企业要我们解决的问题,问题不一定靠技术解决,不要执着于提升技术,而是提升解决问题的能力。第四位是宁宇飞老师发言,他告诉我们,要足够了解AI模型,用它帮助我们做事,可以进行快速获知,所以我们一定要学会用AI,可以尝试用AI做漫剧,用AI为我们赋能。

END
如涉侵权,请联系删除

供稿:院团学新媒体工作部 黄绮盈

编辑:院团学新媒体工作部 黄绮盈

校对:院团委学生副书记 李星如

初审:院宣传指导老师 黄秀平

复审:院学工办主任 唐志辉

终审:院党委书记 张卫香

相关学习资料