夜雨聆风本文整理自 AICon 上海分享「商业安全大模型BLM：AI Native人机协同重构内容安全新范式」，通过AI音视频转录总结工具 Ai好记（aihaoji.com） 转录整理，以下为视频转文字后精炼整理的内容。
AIGC引爆的「不可能三角」
AIGC给商业内容安全带来了前所未有的冲击。广告素材的产量呈爆炸式增长，同时黑产的对抗门槛大幅降低——他们能用AIGC快速生成真假难辨的违规内容。
传统的「人机混审」模式在三个目标上陷入了困境：
这三者形成了一个「不可能三角」——你无法同时做到好、快、省。
AI-Native组织转型：打破固态边界
快手商业安全团队认识到，只升级工具是不够的，得先改变人的组织方式。
传统的风控团队是固态分工的：产品定需求、算法开发模型、运营审核内容、工程师做平台。各自守着边界，信息传递效率低。
AI-Native的组织转型打破了这些边界：
核心杠杆：让每个人都能更独立、更端到端地解决问题。
商业安全大模型（BLM）的构建
通用大模型在简单场景下表现良好，但在广告视频这种「内容元素复杂、场景切换频繁」的场景下效果显著衰减。快手选择自研垂直领域的大模型——BLM。
要解决的两大核心问题
BLM-GUARD框架：解决推理逻辑混乱
大模型在分析违规内容时，经常出现结论与推理过程不一致的情况。BLM-GUARD框架通过两个阶段解决这个问题：
阶段一：规则锚定微调。引入CoT（思维链）训练，让模型在给出结论前展示逐步推理过程，确保推理逻辑与平台政策对齐。
阶段二：自适应强化学习。在线上环境中持续收集反馈，自动调整推理策略。
SPARC框架：安全与营销的平衡
这个框架解决的是一个很实际的问题：当Agent自动修复一段违规的视频广告时，修改后的视频必须同时满足两个条件——合规（过审）和效果好（有转化）。这两个目标有时是冲突的。
SPARC是一个两阶段的强化学习框架，专门探索安全底线与广告消耗之间的最优动态平衡点。
数据飞轮与模型持续进化
快手团队认为垂直领域的高质量数据是核心壁垒。智能数据标注平台构建了数据飞轮：
线上内容→ 模型审核→ 人工纠偏→ 高质量标注数据→ 模型微调→ 上线新模型↓线上内容（新一轮）
在这个闭环上，模型通过「感知-反思-内化-校准」的机制持续自我进化：
Multi-Agent审核智能体
快手将大模型能力封装为「多智能体审核系统」，实现风控全链路的自动化：
风险感知 → 洞察分析 → 策略生成 → 处置执行 → 回扫验证│ │ │ │ │▼ ▼ ▼ ▼ ▼感知Agent 分析Agent 策略Agent 处置Agent 回扫Agent
系统集成了：
RAG知识库：沉淀历史审核案例和经验 APE（自动化策略生成）：根据风险特征自动生成处置策略 Auto AML（自动化模型训练部署）：自动训练和部署新模型
目标是最终实现「风控自动驾驶」——风险从感知到处置的全流程高度自动化，人力从执行者转变为决策者和监督者。
未来展望：RiskOS
快手安全团队对未来的想象是一个名为「RiskOS」的AI神经中枢操作系统。它将底层模型能力、多智能体动态编排能力和上层应用整合在一起，实现审核与生成的端到端一体化。
在这个系统中，AI同时承担两个角色：
- 审核者：发现和识别违规内容
- 修复者：自动合规化修改违规内容
两个角色通过同一个底层模型平台协同工作，形成一个可以自我运转、持续进化的内容安全系统。
FAQ
Q：BLM模型训练需要多少数据？A：垂直领域的高质量标注数据是关键。快手强调「质量大于数量」——注释准确的少量数据比海量噪音数据更有价值。
Q：AI-Native的组织转型效果如何？A：快手声称实现了10倍的杠杆效应——每个审核员的日处理能力提升了10倍，因为重心从「自己审核」变成了「训练Agent来审核」。
Q：SPARC框架中的「安全与效果平衡」具体怎么衡量？A：两个核心指标：一是合规率（修改后的视频能否过审），二是广告消耗（修改后的视频能否保持曝光和转化）。两者之间存在trade-off，SPARC通过强化学习探索帕累托最优边界。
以上内容由 Ai好记 转录整理。Ai好记（aihaoji.com）是一款音视频转图文笔记的AI音视频总结工具，支持B站、抖音、小红书、小宇宙等平台链接及本地音视频文件，转录后自动生成精华速览、要点总结、思维导图和结构化笔记等内容，帮助你把几小时的视频内容变成可搜索、可复习的图文笔记。
