夜雨聆风“如果我得不到她，那谁也别想得到她。”
这不是某部犯罪电影里的台词，而是一名25岁前高盛分析师在ChatGPT对话框里敲下的真实句子。他以为自己在跟一个没有感情的机器倾诉，对方会像树洞一样吞下所有秘密。
但他错了。
OpenAI的安全系统精准捕捉了这段对话，人工审核确认存在现实严重暴力风险后，直接向FBI举报了。
这是已知首例AI主动报警抓人案——AI不再只是回答问题，它在主动执法。
01 他把杀人计划告诉ChatGPT，AI反手报了警
故事的主人公叫Darren Zhou，25岁，华裔，美国东北大学数学与商科荣誉学位，持CFA证书，高盛佛罗里达州西棕榈滩办公室分析师。
今年3月，21岁的前女友因无法忍受他极强的嫉妒心和反复无常的情绪，通过电话提出分手。分手后，Darren开始疯狂纠缠——不断打电话、发短信、追问女孩社交媒体上的每一条留言。更令人恐惧的是，在女孩生日那天，他发来的定位信息精准命中了她当时所在的地点。
与此同时，Darren将无法排解的偏执与暴戾情绪，倾注到了另一个“人”身上——ChatGPT。
起初只是倾诉失恋苦水，但对话很快滑向深渊。在长达两个月的时间里，他向ChatGPT详细“预演”暴力复仇计划：
“我会在这个月底之前杀了她。如果我得不到她，那谁也别想得到她。”
持续升级的暴力预谋，最终触发了OpenAI底层的多标签有害内容分类模型。
按照OpenAI的政策，当系统检测到用户可能计划伤害他人时，会由一个小型人工团队审核相关对话。情况严重时，公司可能向执法部门提供线索。
Darren的对话触发了安全机制。人工审核确认存在现实严重暴力风险后，OpenAI直接把聊天记录交给了FBI。
5月23日，FBI将相关信息通报给当地警方，警方随即对前女友进行了安全核查。5月29日，Darren被捕。
高盛在6月正式终止了与他的雇佣关系。
Darren被指控三项重罪：加重跟踪骚扰、书面死亡威胁、非法使用通信设备策划犯罪。8月13日，他当庭认罪，被判5年缓刑，需佩戴电子脚镣2年。
一场精心策划的谋杀，被AI提前按下了暂停键。
02 AI报警不是孤例：国内也在上演
这并不是AI主动报警的唯一案例。
武汉：AI识破偷车贼，警告“偷车是犯罪”
今年6月，武汉一名男子翻窗进入他人车内，找到备用钥匙后想偷车。因为没有驾照不会开车，他掏出手机向AI搜索车辆启动方式和盗窃量刑标准。
AI明确警示：盗窃车辆属于刑事犯罪。
利欲熏心的男子无视提醒，将车辆盗走并以3200元贱卖。最终被警方抓获刑事拘留。
AI警告了，他选择了犯罪。AI记录了，警方破案了。
武汉“AI警察”已上岗
武汉市已部署“人工智能警察”，2025年1月上岗至今已参与办案5.5万余次。全市盗窃刑案破案率上升45%，已破案件80%追回赃物。
通过海量数据碰撞及大模型训练，AI警察能迅速锁定嫌疑人身份和去向。
从武汉到上海、江苏，AI正在成为中国警务的“编外警力”。
03 AI是怎么“报警”的？技术机制揭秘
很多人以为和AI的聊天是绝对私密的。这个案子彻底打破了这种幻想。
OpenAI的安全审核机制能识别显性的暴力与仇恨言论，更会通过情绪强度和语气意图评估风险等级。当系统检测到用户正在筹划严重伤害他人的犯罪行为时：
第二步：内容转入人工审核
第三步：判定具有迫近危险时，向执法部门提供线索
用一句话说：AI识别 → 人工复核 → 执法介入。
Darren案中，FBI探员将ChatGPT的聊天记录与女孩手中的骚扰证据闭环比对。一名审阅聊天记录的警员表示，这些内容并非“模糊的情绪宣泄”，而是呈现出反复预演和策划的迹象。
04 “准执法权”背后的隐私争议
AI主动报警，到底是“正义的吹哨人”还是“隐私的入侵者”？
支持者认为：AI在关键时刻化身“吹哨人”，提前规避恶性案件。Darren案中，如果不是AI报警，前女友很可能已经成为受害者。
反对者担忧：AI的“准执法权”模糊了预警和裁决的边界。算法误判、隐私越界的风险不容忽视。
这种担忧并非杞人忧天。
美国曾发生多起AI误报事件：AI武器识别系统将单簧管误判为枪支，校园进入紧急封校；将学生口袋里的薯片包装袋误判为枪支，学生被警察包围；面部识别技术“认错人”，一名无辜妇女被羁押五个多月。
武汉那起偷车案也提出了一个微妙的问题：
目前全球对此尚无统一答案。意大利已立法明确AI无自主决策权，须经检察官、法官双重审批。中国《生成式人工智能服务管理暂行办法》要求服务提供者建立健全投诉、举报机制。
中国政法大学赵宏教授指出：“人工智能侦查的广泛运用，容易对公民个人信息权益及隐私权造成侵害。部署和应用人工智能缺乏充分有效的规范指引和约束。”
写在最后
Darren Zhou被捕那天，他可能才意识到：自己和ChatGPT的每一次对话，都不再是私密的。
这对社会安全是好事——潜在犯罪被提前阻断。
当AI开始报警抓人，我们不得不问自己三个问题：
第一，AI的“准执法权”边界在哪里？ 算法误判谁来负责？
第二，隐私让渡给安全的尺度是什么？ “用隐私换安全”的代价谁来承担？
第三，当AI既能帮你写代码，又能举报你犯罪——你还会对它毫无保留地倾诉吗？
正义与隐私的天平上，AI正在成为那个最重的砝码。
而天平的另一端，是你我每一次敲击键盘时，那份不再绝对安全的安全感。
参考来源：
2. 高盛前分析师和AI聊天时分享谋杀前女友计划 AI触发安全机制后向FBI举报将其逮捕，指控三项重罪 新浪网 https://k.sina.com.cn/article_6145283913_16e49974901902g53g.html
3. 全球首例 AI 主动报警抓人案获司法确认 新浪网 https://sina.cn/news/detail/5334045644031849.html
4. 美25岁前高盛分析师欲奸杀前女友，向ChatGPT透露计划：如果我得不到她，那谁也别想得到她；平台报警 澎湃新闻 https://www.thepaper.cn/newsDetail_forward_33809242
5. AI察觉企图不轨警告“偷车是犯罪”，男子仍偷走轿车贱卖，已被刑拘 湖北省公安厅 http://gat.hubei.gov.cn/bmdt/dtyw/202606/t20260618_5960406.shtml
6. AI 安全审核机制与隐私争议 新浪网 https://www.sina.cn/news/detail/5334040250156873.html
7. 前高盛分析师因向 AI 输入犯罪计划被捕 新浪网 https://www.sina.cn/news/detail/5334045934489276.html
8. 人工智能警察在汉上岗 全市盗窃刑案破案率上升45% 武汉市公安局 http://gaj.wuhan.gov.cn
9. 美国警方AI面部识别“认错人” 无辜妇女遭羁押五个多月 光明网 https://m.gmw.cn
10. AI监控犯大错！美国高中生吃Doritos被认成枪 遭武警包围 星岛头条 https://www.stheadline.com
11. 佛州中学封校风波：AI将单簧管识别成枪支 网易 https://www.163.com
12. 生成式人工智能服务管理暂行办法 中国政府网 https://www.gov.cn
13. 韩旭 张遥远：权利保障视域下人工智能侦查的规范应用 爱思想 https://www.aisixiang.com
