夜雨聆风
很多人把ChatGPT当“电子树洞”，工作烦了聊两句，失恋了也来倒倒苦水。
但佛州一名男子的聊天内容，已经不是简单发泄了。
他不仅反复扬言要杀害前女友，还把跟踪、绑架、性侵和杀人计划一股脑告诉了ChatGPT。内容严重到经过人工审核后，OpenAI直接把线索交给了FBI。
涉事男子叫Darren Zhou，今年25岁，住在佛州South Palm Beach，案发时还是高盛West Palm Beach办公室的一名分析师。
今年3月，他和交往约6个月的女友分手。
一开始，他只是跟ChatGPT聊失恋，讲起前女友的兴趣爱好、经常去的地方，以及自己有多嫉妒她身边出现的其他男性，还一直想着怎么复合。
但聊着聊着，内容越来越可怕。
他曾对ChatGPT说：
“我会在这个月底前杀了她。如果我得不到她，别人也别想得到。”
调查人员称，他还提到要拿着鲜花在前女友健身房的停车场等她。如果对方拒绝复合，他就掏枪杀死她，再开枪自杀。
后来，他的威胁对象甚至扩大到了前女友的家人。
更吓人的是，他还跟ChatGPT说，自己购买了AR-15式步枪、Glock手枪和一支12号霰弹枪，并把枪支、塑料扎带和乳胶手套的照片发给了前女友。
不过辩方后来表示，他实际上并没有持有这些枪支。
与此同时，现实中的骚扰也一直没有停。
21岁女生告诉警方，她之所以选择通过电话分手，就是因为男友情绪反复、嫉妒心强，而且控制欲非常严重，她担心当面分手会刺激到他。
分手后，Darren Zhou不停给她打电话、发短信和社交媒体消息。
女生已经多次明确要求他不要再联系，也拉黑了他的号码，但他又用不同App生成的新号码继续骚扰。
其中不少信息带有侮辱、色情和威胁内容，女生把这些消息全部截图留了下来。
OpenAI发现相关聊天存在严重风险后，将情况上报给FBI。
联邦探员随后把两个月的聊天记录转交给Palm Beach County Sheriff’s Office。警方拿到的记录中只有Darren Zhou本人发出的信息，并不包括ChatGPT的回复。
负责查看记录的警员判断内容并不是气话，已经形成了一套反复“预演和策划”的行为模式。
警方随后上门确认女生是否安全，又把ChatGPT记录和她保存的骚扰信息进行比对，最终在今年5月逮捕Darren Zhou。
他在监狱待了两天，随后缴纳10万美元保释金获释。高盛得知此事后，也在6月将他解雇。
检方随后以三项重罪起诉他：
严重跟踪骚扰
以书面形式发出杀人威胁
非法使用通信设备策划犯罪
三项罪名加在一起，最高可能面临25年监禁。
但今年8月13日，Darren Zhou对三项指控全部认罪后，通过认罪协议避免了坐牢，也没有留下正式的重罪定罪记录。
法官最终判处他8年监管期，前两年必须佩戴电子脚环，同时还要接受心理健康评估、完成针对施暴者的干预项目，不得接触前女友及其家人，也不能持有武器、吸毒或饮酒。
法官之所以接受这份协议，一个非常重要的原因是受害女生本人同意。
法官还当庭警告他：
“接受现实，继续生活。这个世界上还有其他人，没有人应该遭受你对这名女生所做的一切。”
律师则称，当事人当时经历了一段“非常严重的心理健康危机”，并强调他过去没有犯罪记录，还是波士顿东北大学以优等成绩毕业的学生。
不过，没有前科、学历优秀或者心理状态不好，都不能改变那些威胁给受害者带来的恐惧。
至于大家最关心的：是不是只要在ChatGPT里说了危险的话，聊天内容就会自动被发给警方？
不是。
按照OpenAI公开说明，当系统发现用户可能正在计划伤害他人时，相关对话可能会进入专门的审核流程，由一小组经过培训的人员判断风险。
只有审核人员认为存在“即将发生的严重人身伤害威胁”时，OpenAI才可能把情况转交执法部门。
所以，这起案件并不代表普通聊天会被自动送到FBI，也不是ChatGPT自己突然“打电话报警”。
但这也给所有人敲响警钟，
AI聊天窗口不是实施犯罪计划的绝对私密空间，更不是写下具体威胁后可以不用承担后果的地方。
本文由北美省钱快报小编整理，图片及信息来自bostonglobe, 版权属于原作者。本文不代表本公众号立场，未经许可不得擅自转载，否则将追究责任。
麻州小浣熊把头卡进下水道拆不下来，只能连铁栅一起“打包送医”...
亲临波士顿！哈佛面试官+哥大顾问：8月现场答疑“AI时代冲藤”！
波士顿North Station附近发生刺伤事件！一男一女送医抢救
点个赞👇🏻