AI公司最重要的安全系统，可能是那个敢说“

最近纽约市议会盯上了几家头部AI公司，要他们为模型风险公开宣誓作证。前员工Jacob Coxon据说也要出席，而另一位前安全人员David Robinson刚辞职，直接开炮：这行太迷恋“先上线再打补丁”了。

OpenAI倒没服软，回应说会卡死模型能力上限，必要时宁可暂停训练也不硬上。不过我更在意一件事：当产品开始碰医疗、金融这些关键领域时，最早看见危险的人，还能不能安全地把话说完？

其实很多事故前，内部根本不缺信号。工程师测出异常，客服看到重复投诉，但大家开口前都得算一笔账：会不会显得我不支持团队？会不会拖慢进度？最后传到老板耳朵里的，全是被层层包装过的“总体可控”。

所以举报人不是什么永远正确的英雄，更像系统里的一条备用线路。正常汇报渠道被进度和利益堵死时，信息至少还有另一条路能出去。好的制度会把个人警告变成可核查的证据，而不是逼着员工先辞职、写长文，才有机会被听见。