夜雨聆风
作者| 奥远·胡剑锋
著作 | 《创业兵法13篇》《微生态·新中台》
AI毫无疑问是资本市场的焦点，也是当下新质生产力的代表。
AI渗透进生活的各个方面，不仅是“有事不明问豆包”，而且智能体正在帮助人类决策。以AI接管交通调度、审核网络信息、辅助政务决策，已经不再是幻想，而正在走向现实。
AI能创造美好的故事、唯美的图片、逼真的视频，其制造的谣言一样会以假乱真。
莫名其妙的算法构造的信息茧房，让人欲罢不能；海量数据汇集处，暗藏着泄密黑洞；敲敲键盘的恶作剧，可能大量消耗公共资源。
技术赋能的另一面，是更隐蔽、更复杂的治理难题。
一、李逵李鬼，真假难辨
AI技术已将造谣的门槛降至极低。
过去撒谎、造谣，都要有严密的推理能力。一般的谣言，多半能看出所以然来，逻辑性本就是高阶能力。
但现在不一样的，AI可以推理，可以更低成本撒谎造谣。
更有深度伪造（Deepfake）音视频的“实时化、场景化”升级，使其识别难度不断提高。与过去文字为主的谣言不同，AI生成的具象化“证据”更具迷惑性，能在短时间内引爆舆论，对公共秩序造成严重冲击。
据公安部公布的典型案例，去年江苏网民曹某某为蹭热点，利用AI编造了“地方政府干部因食用方便面被通报”的谣言并发布，最终因严重扰乱公共秩序被依法采取刑事强制措施。
很多真实案例表明，AI造谣已从潜在威胁演变为日益普遍的安全事件。
鉴于AI技术仍然在突飞猛进地发展，未来这种问题会越来越多。更逼真的图片和视频，更煞有介事的文字与故事，专业人员恐怕也没有识别能力。
更何况普罗大众。
二、客观中立与固化偏见
普罗大众相信技术，也在享受技术带来的无穷无尽的好处。
所以，迷信AI是“客观中立”的，再正常不过了。但普通人不知道的是，AI的本质是人类社会现有数据的镜像。AI的问题并非算法偏见，也非技术故障，而是人类社会历史性与隐性偏见的系统性再现。
有一项研究发现，某主流大语言模型在模拟招聘金融分析师时，面对背景相同的简历，会对带有某些种族姓名特征的候选人表现出系统性歧视。
在中国语境下，研究也揭示，生成式AI可能在图像生成中主动建构并强化某些地域刻板印象。例如南方人瘦小、北方人高大等等。
这种偏见的影响是结构性的。
偏见可能渗透到招聘、信贷、司法辅助量刑等诸多领域，使历史上的歧视在自动化决策中被固化甚至放大。更有甚者，算法的“黑箱”特性使得不公平难以追溯、责任难以界定，技术在无形中沦为“合理化不公”的工具。
屠龙少年终成恶龙了吗？
三、责任空转与技术黑箱
现实社会的治理，不仅需要理性、客观，更需要人性、责任。
但AI在治理的核心环节出现了“责任空转”。
某种AI场景中，从开发、部署到使用的链条涉及多元主体（提供者、部署者、使用者），但权责界定却模糊不清。谁是最终责任人？
自动驾驶车最为典型：违章或事故，是人的问题还是制造商的问题，或者各打五十大板？
当侵权或安全事件发生时，往往“开发方认为部署方误用，部署方指责原始模型缺陷，使用者归咎于工具本身”，扯皮无尽头。
而在法律层面，现有规制框架也难以适应AI应用深度嵌入场景。例如，金融机构利用大模型开发智能投顾，并注入自身业务数据微调后，若产生错误建议导致客户损失，责任应如何划分？
AI大模型是典型的“黑箱”。从技术角度，“算法黑箱” 使得决策过程不透明，导致过错认定极为困难。因为无法了解AI为何做出决策，使得事后追责和司法救济缺乏技术可行性。
无人签字认账，自然也就无人负责。
四、失控数据与系统威胁
除了责任之外，数据安全也正面临严峻威胁。
集中化、高质量的数据是AI进化的燃料，却也是极具诱惑力的攻击目标。
根据IBM《2025年数据泄露成本报告》所描述，AI模型与应用因其高商业价值，已成为门槛低、回报高的攻击目标，且63%曾发生数据泄露的企业至今尚未建立有效的AI治理政策。
风险来自内外两个维度。
对内，员工擅自使用未经企业批准的AI处理工作，极易导致核心数据（包括个人身份信息与知识产权）不可控地流入公共模型。这几年诸如三星之类的大公司，已经有了明确的损失记录。
对外，则是蓄意的网络攻击。攻击者正积极利用各类AI工具发起更智能、更精准的网络钓鱼和深度伪造攻击。网络安全监管部门证实，AI相关的网络与数据安全事件正在显著增加。
风险并非“单点故障”，AI内生风险与应用场景的衍生风险相互交织，正由“单点故障”向“系统级复杂涌现” 演进。
AI治理是当下不得不面对的问题。
五、社会治理的商业蓝海
有需求就有商业，AI场景下的社会治理刚需是当今的商业蓝海。
应对AI治理危机，显然不能指望道德呼吁，而且也不能指望人类的福尔摩斯和华生，还得依靠技术创新来解决问题。解铃还须系铃人。
深度伪造检测与内容鉴证领域，市场亟需实时深度伪造检测工具。无论是社交平台的内容审核，还是各类场景中的音视频毫秒级鉴别，将成为数字时代的基础设施。
具有法律效力的电子证据司法鉴定服务，也构成了一个专业细分市场。
随着各类人工智能法规颁布，专业性的算法公平性评估与合规服务也将是大生意。随之而来的各类工具、新型技术服务企业，将迎来春天。
问题是“道高一尺，魔高一丈”，新技术层出不穷，几个月就迭代一次，虽然商机无限，却也让人疲惫不堪。
恐怕暂时还没有解决方案。
“十五五” 规划建议明确提出 “加强人工智能治理”。从《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》到新修订的《网络安全法》，监管框架日益清晰。
也有人说，必须严惩肇事者，才能解决问题。但如果那么简单就好了。
AI是一把双刃剑（所有的新技术都是）。因噎废食而拒绝AI，无异于自断前路。但放任自流，更是社会性灾难。
构建人类与AI共生共赢的未来，关键在于实现技术创新与有效治理的同频共振。
从技术层面，用AI监督AI，发展可解释的AI和治理技术。在制度层面，加快专项立法，建立适配新型技术的责任划分框架。到社会层面，则需要全面提升公众的数字素养。
AI是确定的未来，只能以确定的思路和方法应对。用魔法应对魔法，恐怕是唯一的出路。
但需要秉承：人是目的而非手段（康德）。