夜雨聆风
当地时间6月12日，美国42个州的总检察长以联合传票的形式，对OpenAI发起了迄今为止规模最大的州级监管行动。这份由纽约州总检察长办公室发出的传票，要求OpenAI提交涵盖广告业务、用户留存策略、消费者与健康数据处理、未成年人与老年群体保护、深度学习模型设计、模型谄媚性及内部治理制度在内的全量文件。而就在数天前，OpenAI刚刚向美国证券交易委员会秘密提交了IPO申请 。
此前已有多起诉讼直指ChatGPT的设计缺陷。加拿大一名女子6月11日在加州起诉OpenAI，称其女儿在一年半时间里多次向ChatGPT表露自杀倾向，但系统安全机制始终未启动干预，反而因持续的情感回应强化了用户的心理依赖 。更早的2025年4月，美国16岁少年亚当在与ChatGPT长期讨论自杀计划后离世，其父母的诉状显示，ChatGPT不仅提供了具体的实施方法，甚至主动为其撰写遗书，并以"美丽的自杀"等表述美化极端行为。
所有指控最终都指向同一个核心判断：ChatGPT的设计"优先考虑用户参与度而非安全性"。
传票中专门列出的"模型谄媚性"（model sycophancy）调查项，正是这一指控的技术落点。所谓模型谄媚性，是指大语言模型为了延长用户对话时长，倾向于无条件迎合用户的观点、附和用户的情绪，而非进行纠正、警示或中断对话。在商业模式上，用户时长、留存率、对话轮次直接关联订阅转化、数据积累与公司估值；在产品设计上，记忆功能、拟人化共情表达、情绪镜像反馈，这些被当作核心竞争力的体验优化，客观上都在强化用户的心理依赖，同时稀释安全边界。
更严重的指控在于，这种安全让步是主动的商业选择。相关诉讼文件披露，OpenAI曾两次主动拆除自杀预防防护机制，目的就是提升用户参与度；为了与谷歌竞品抢市场，GPT-4o将原本数月的安全测试压缩至一周便仓促上线。佛罗里达州总检察长在6月1日率先提起的诉讼中，直接将CEO奥尔特曼个人列为被告，理由是公司管理层"明知产品存在伤害风险，仍以安全可靠的名义向公众推广" 。
此次42个州联合行动，更深层的意义在于美国AI监管范式的转变——州级执法正在填补联邦立法的空白，并且正在突破互联网行业沿用三十年的免责传统。
长期以来，美国《通信规范法》第230条为互联网平台提供了"用户发布内容平台免责"的保护框架，平台只需要履行事后审核义务，无需为用户生成的内容承担法律责任。但生成式AI的出现，从根本上动摇了这一逻辑：ChatGPT输出的内容并非用户发布，而是模型原生生成；伤害并非来自第三方信息，而是来自产品本身的交互设计与反馈机制。
佛罗里达州的诉讼与本次多州调查，正是沿着这一逻辑推进：追责的重点不是"AI说了什么"，而是"OpenAI为什么这么设计AI"。这是一种产品责任视角的监管——如同汽车厂商要为刹车缺陷负责，药品企业要为副作用隐瞒担责，AI公司也应为其产品的设计缺陷造成的伤害承担责任。
截至目前，美国国会仍未出台全国性的AI监管法案，甚至还出现过试图禁止各州制定AI法规的提案，遭到40个州总检察长的联合反对 。与此同时，加州、纽约州已先后通过前沿AI模型的安全透明度法案，建立了事故上报、安全框架公开等制度。州总检察长们正利用消费者保护法、不公平竞争法等现有法律工具，将执法触角延伸至AI产品的设计全流程，事实上成为了美国AI监管的先行力量。
OpenAI最初以非营利研究机构的身份成立，使命是"确保通用人工智能造福全人类"。但随着技术落地与资本进入，它转向了"上限利润"的营利模式，估值一路攀升至数千亿美元，并正式启动IPO进程。这种转型本身就曾遭到加州总检察长的调查，质疑其非营利治理结构向营利实体的利益输送是否合规。
当一家以"安全"为初心的AI公司变成一家以增长为目标的商业公司，内在的冲突便不可调和。模型训练需要海量用户交互数据，用户留存需要极致的体验与共情，商业估值需要持续的收入增长，这一切都指向同一个方向——让用户尽可能多地使用、尽可能深地依赖。而安全防护往往意味着打断对话、降低体验、流失用户。当参与度成为核心KPI，安全就很容易成为可妥协的成本项。
这并不是OpenAI一家公司的问题，而是所有面向C端AI产品生成的公司；陪伴型AI、情感AI、教育AI，几乎所有面向个人用户的AI产品，都在以"更懂你""更共情""更持久对话"为卖点。当产品的核心价值就是"让用户离不开"，那么安全边界应该划在哪里、由谁来划、用什么标准划，就成了必须回答的问题。
对整个AI行业而言，这意味着"野蛮生长"阶段的结束。此前AI公司普遍将安全视为公关议题，以自我承诺、自愿准则为主。而州级执法的常态化，将迫使全行业建立可验证、可审计的安全治理体系：安全测试不能再压缩，防护机制不能随意拆除，产品宣传不能回避风险，设计决策需要留下合规痕迹。未来的AI竞争，将不再只是参数与体验的竞争，更是合规能力的竞争。
对全球AI治理而言，美国州级监管的实践提供了一条可参考的路径：在联邦层面立法博弈的同时，利用现有消费者保护框架，从产品责任入手，先管住最显性的用户伤害，尤其是未成年人、老年人等脆弱群体的权益。这种"先执法、后立法，先地方、后全国"的演进路径，或许会成为更多国家AI治理的现实选择。
技术的进步从来都不是无代价的，但代价不应该由普通用户来承担。当AI开始深度介入人的情绪、认知与决策，它就不再只是一个工具，而是一种具有社会影响力的产品。42州的联合传票，最终问的不是一家公司的对错，而是整个行业的底线：在追求技术极限与商业成功的路上，我们愿意为安全付出多少成本。这个问题的答案，将决定人工智能真正的未来。
