夜雨聆风
上周所里在整理近2年接的AI合规案子，摞起来快有半人高，翻到最早那个做肿瘤辅助诊断大模型的团队的备案材料时突然愣了神：去年我们聊AI合规，所有创始人第一反应都是“能不能晚点弄？能不能少花点钱？能不能先上线再说？”。
今年开始，反而越来越少人说这话了。
因为大家都见过了不合规，到底能给企业带来多大的损失。
很多人觉得我们做AI合规、风控、审计的，就是一帮“挑错的人”，是技术发展的“手刹”，是拿着法条给创业者设门槛的人。
其实干这行越久，我越觉得我们更像一群“守界人”：守的不是监管的死规矩，是技术和人性之间那道越来越模糊的边界，是AI狂奔的路上，给人类留的那扇安全门。
因为，技术虽然是中立的，但是它的设计、开发和应用却深受特定的价值观的实际影响。
谈AI合规，谈的从来不是“应付监管”，是给技术立一份“社会契约”
前阵子和一个做通用大模型的CTO发消息，他说他最烦的就是我们每次都追着要“训练数据授权证明”：“这些数据都是公开在网上的，我爬来训练模型有什么问题？人类学知识不也是从公开书上学的？”
我给他讲了我听过的一个案子：国外一个AI写作工具生成的小说，大段抄了一个网文作者的作品，原告找上门来，团队说“这是AI自己学的，我们不知道”，最后法院还是判了团队赔28万。
判决书里有句话我印象特别深 —— 人类学习知识是为了创造新的价值，AI训练数据本质上是对人类劳动成果的商业使用，使用者当然要为劳动付费。
你看，我们今天抠的每一条数据授权、每一项版权证明、每一条备案要求，本质上不是在给AI找麻烦，是在给它立第一份“社会契约”。几千年前人类走出原始社会，第一件事就是立规矩：不能抢别人的东西，不能伤别人的命，这是人和人之间的契约。现在AI拥有了接近人的能力，我们也要给它立同样的规矩：你不能随便用别人的劳动成果，你不能伤害人，你要为自己的行为负责。
我见过太多团队觉得“合规是成本”，能省则省，直到吃了罚单、赔了钱、关了店才明白：合规从来不是限制技术和商业发展的枷锁，而是企业能合法地站在市场上的“出生证明”。没有这份契约，你做出来的AI能力越强，闯的祸就越大，最后死得就越快。
我常和找我做合规的创始人说：你今天签的每一份授权协议、交的每一份备案材料，本质上都是在给你的AI争取“合法身份”。就像你给孩子上户口，有了户口，他才能上学、工作、光明正大地活在这个世界上。
做AI风控，防的从来不是“罚款”，是守住“人是目的，不是工具”的底线
很多人觉得AI风控就是“装个涉敏过滤接口，别让AI说违禁话，别被罚钱就行”。
去年我去一个做自动驾驶的公司做交流学习，他们的风控负责人和我说，他们的AI测试场景里，有一个伦理题永远是必测：当车遇到紧急情况，左边是一个闯红灯的行人，右边是遵守规则的路人，AI应该怎么选？他们的团队吵了三个月，最后定的规则是：不管什么情况，优先保护遵守规则的人。
那天我突然明白，我们做AI风控，防的从来不是那点罚款，是防止AI把人变成“算法优化的指标”。
你看现在的AI推荐算法，为了让你多刷几分钟视频，能给你推你最爱的低俗内容，根本不管会不会毁了你的专注力；AI招聘算法，为了提高通过率，能自动过滤掉35岁以上的求职者，根本不管对方是不是能力足够；AI贷款算法，为了降低坏账率，能自动给低收入人群涨利息，根本不管对方死活……
如果这些都不违法，甚至都不会被罚款，那这就是最可怕的“风控缺位”。当算法只在乎效率、只在乎ROI、只在乎KPI的时候，人就成了被算法优化的工具，而不是技术服务的目的。
去年有个做AI心理咨询的团队找我咨询风控，他们原来的规则是AI可以给用户开“心理疏导处方”，我直接给否了：AI没有行医资格，说错一句话，可能就是一条人命。最后我们定的规则是AI只能做情绪疏导，只要用户提到有自杀倾向，立刻转人工心理咨询师，弹窗和电话同时预警。后来，他们的产品上线5个月内，这个机制救了1个想要自杀的用户。
你看，这才是风控的意义：不是帮你省罚款，是帮你守住“人永远比算法重要”的底线；其次，你才能守住企业追求的商业利益。
做AI审计，查的从来不是“错”，是给AI时代留一份“公平的证据”
很多人觉得AI审计就是“查账”，看看你有没有违规，有没有漏报材料，是不是符合监管要求。
我之前参与过一个案子：一个求职者被一家公司拒绝了，HR说“我们的AI招聘算法觉得你不合适”，求职者问哪里不合适，HR说“AI算出来的，我们也不知道”。最后求职者把公司告了，法院判公司赔了5万，理由是“算法决策不透明，侵犯了求职者的知情权”。
你看，AI最可怕的地方不是它会犯错，是它犯了错，你不知道它为什么错。它给你拒了贷款，你不知道是你真的信用不好，还是它歧视你的性别或年龄；它给你判了考试作弊，你不知道是你真的抄了，还是它识别错了；它给你推了十年的低俗内容，你不知道是你真的喜欢，还是它故意把你困在信息茧房里。
我们做AI审计，本质上就是给AI装一个“黑匣子”，就像飞机上的黑匣子一样：平时没人看它，一旦出了事，我们能打开它，知道到底哪里出了问题，是谁的责任，该谁来赔。这才是AI时代的公平底线，你可以用AI做决定，但你必须告诉我，你是怎么做出这个决定的。
我常和客户说，你今天花钱做的AI审计报告，可能平时一点用都没有，但真到了出事的时候，这份报告就是你最硬的底气：你能证明你没有歧视，你能证明你没有违规，你能证明你尽到了责任，你不用为AI的错背不该背的锅。
做AI合规的人，本质上是技术和商业发展的“保护者”
很多人觉得我们天天给AI画红线，是在阻碍技术和商业的发展，其实恰恰相反，我们是在保护技术和商业能走得更远，能有更多正向的多样性。
你想想，如果没有合规要求，AI随便用别人的版权内容，最后所有创作者都不愿意产出新内容了，AI训练的数据来源就没了，它还怎么发展？如果没有风控要求，AI随便伤害人，最后所有人都反对AI，政府直接把AI禁了，它还怎么发展？如果没有审计要求，AI做了错没人知道，最后所有人都不信任AI，没人敢用AI，它还怎么发展？
我们今天画的每一条红线，设的每一道门槛，查的每一份报告，本质上都是在给AI扫清发展的障碍：你把边界画清楚了，投资者和创业者才敢放心投钱做技术，用户才敢放心用AI产品，政府才敢放心给政策支持，这个行业才能真的发展起来。
我见过太多技术从“人人喊打”到“改变世界”，本质上都是因为有一群人在默默给它画边界、守底线。AI是我见过的最有潜力的技术，也是最可能改变人类文明的技术，我们这些守界人能做的，就是让它跑的时候，别撞了人，别翻了车，别走到歪路上去。
毕竟，技术的终极目的，从来不是变得越来越强，而是让人活得越来越好。
我们守的那些技术、伦理和商业的规矩、红线、底线，最后保护的，是我们每一个创造它的人和使用它的人。
往期推荐
5.15
5.16
5.17
