一键速递|AI安全基石:大模型全生命周期治理分论坛内容一览

演讲介绍：

采用"多模型架构"——30+机器学习小模型覆盖威胁检测基础场景（不需GPU），程序语言大模型（亿级参数）负责高级威胁检测，自然语言大模型（十亿/百亿级参数）负责安全运营。覆盖十大实战场景：告警降噪、异常行为检测、钓鱼邮件检测、威胁深度研判、私域知识助手、多源智能溯源、智能联动处置、智能运营报告、预警单排查、资产智能识别。

演讲介绍：

随着大模型在各行业落地应用，大模型和大模型应用的安全问题也是频繁出现，所以大模型和大模型应用的安全问题逐渐成为国家监管与企业关注的焦点，因此企业在大模型应用的建设过程中需要建立系统化、专业化的安全治理体系。本次分享将围绕大模型安全治理与风险防范展开，结合国内外大模型安全治理框架、国内监管要求和实际案例，系统解读大模型安全治理体系。主要议题包括大模型常见的安全风险（如数据投毒、提示词注入、MCP工具中毒等）、国内外大模型安全治理框架（SAIF 2.0、人工智能安全治理框架2.0）、国内大模型的监管要求、面向AI业务的安全建议等。

演讲介绍：

本次演讲围绕全生命周期 AI Skills 供应链安全治理展开，贴合大会 AI 安全与风控专题。

梳理人与LLM交互演进，阐明Skills是智能体落地核心载体与新增高危攻击面；结合软件全生命周期，拆解Skills嵌入形态、风险传导路径，指出传统安全管控体系存在的盲区。

明确Skills安全防护关键能力及当前行业技术挑战与落地难题。

输出一体化Skills安全治理方案，覆盖溯源追踪、合规分析、可信判定与全流程风险处置。

打通传统软件供应链安全与 AI 原生风控壁垒，聚焦实战落地，补齐企业在Skills合规检测、风险研判与运营管控的核心能力短板。

演讲介绍：

随着大语言模型和生成式 AI 系统被越来越多地应用到问答、搜索、Agent、代码助手和企业知识库等场景，安全问题也从“输出是否准确”逐渐转向“输入是否可被操控”。所谓 LLM越狱，是指攻击者通过构造提示、上下文或外部内容，诱导模型偏离原有的安全约束；而对抗样本 则从更一般的机器学习视角揭示了模型对输入扰动的脆弱性。二者虽然形式不同，但都指向同一个核心问题：生成式 AI 系统可能会把不可信输入当成可信指令。

本次分享将从LLM越狱出发，延伸到对抗样本与输入攻击的更广义视角，讨论生成式 AI 为什么容易在输入侧失守，典型风险场景有哪些，以及在工程实践中如何通过输入治理、上下文隔离、权限控制和持续评测来构建更稳健的安全防线。重点不在于展示“如何绕过模型”，而在于理解其成因，并建立系统级的防御思路。