夜雨聆风
华裔金融分析师向ChatGPT透露杀害前女友计划 AI自动报警 获判8年缓刑
一名年仅25岁的高盛集团金融分析师，因为在与ChatGPT的对话中反复透露绑架、强奸和杀害前女友的计划，最终惊动执法部门。
8月13日，涉案男子周某（* Zhou，音译）被法院判处八年缓刑监督，并接受两年电子监控。此外，他被禁止持有枪支，也不得以任何方式与前女友接触。
根据棕榈滩县警长办公室提交的宣誓书，周某此前在高盛西棕榈滩办公室担任金融分析师。今年5月，FBI向当地警方通报称，OpenAI发现周某在数月内与ChatGPT进行了大量涉及暴力威胁的对话，并将相关情况报告给执法部门。
而这些聊天内容的目标，正是他21岁的前女友。
分手后情绪逐渐失控，多次向ChatGPT描述杀人计划
周某与前女友交往约半年，两人在今年3月分手。
根据调查材料，两人分手后不久，周某便开始在ChatGPT中谈论前女友。他不仅描述对方的兴趣爱好、经常出没的地点，还透露自己对她身边其他男性的嫉妒，以及希望与她复合的强烈念头。
其中一条信息中，他直言：
“我打算在这个月底前杀了她。”
他还表达过类似“如果我得不到她，别人也不可以”的想法。
调查人员称，随着时间推移，这些聊天内容变得越来越激进，从最初的嫉妒和复合执念，逐渐演变成涉及QJ、绑架、谋杀甚至自杀的具体威胁。
在另一段对话中，周某甚至表示，如果前女友不愿意再给他一次机会，他就要QJ并杀死她，随后自杀。
不仅如此，他还曾告诉ChatGPT，自己购买了一支AR-15步枪，并声称通过匿名电话号码向前女友发送威胁信息，其中甚至包括她当时所在的准确位置。
他还上传或发送过自己持枪以及绑带、乳胶手套等物品的照片。
ChatGPT将对话识别为高风险，OpenAI向FBI报告
根据案件材料，这些危险对话从两人分手后不久开始，一直持续到今年5月。期间，周某反复描述准备杀害前女友，甚至涉及其家人的计划。
相关聊天随后被识别为高风险内容。
按照OpenAI针对严重伤害风险的相关处理机制，当系统发现用户可能存在伤害他人的现实意图时，部分高风险内容可能被提交给专门人员进一步审查；在被判断为存在迫在眉睫的严重人身安全威胁等情况下，相关信息可能被提供给执法部门。
此次案件中，OpenAI最终于5月向FBI报告相关情况，并提供了约两个月的聊天记录。
FBI收到线索后迅速展开行动，并在周某被捕前约六天将情况通知棕榈滩县警长办公室。执法人员随后找到他的前女友，对其进行安全检查。
前女友：因为害怕他失控，连分手都不敢当面说
警方找到这名21岁女子后，她讲述的情况进一步引起调查人员警觉。
女子表示，自己之所以结束这段感情，是因为周某的行为越来越反复无常、嫉妒且具有控制欲。由于担心当面提出分手可能刺激对方，她甚至不敢面对面结束关系，而是选择通过电话提出分手。
然而分手并没有让事情结束。
女子告诉警方，此后周某持续给她打电话、发送短信和社交媒体信息，还会追问她社交账号中其他男性留下的评论，并因此不断指责、纠缠她。
调查人员还发现，周某涉嫌利用多个应用程序生成不同电话号码，频繁联系前女友。
女子保存了大量相关信息截图，其中不少内容带有骚扰、侮辱、X暗示甚至威胁性质。
尽管长期受到骚扰，她此前一直没有报警。
原因并不是她认为这些行为无所谓，而是担心报警反而会进一步激怒周某，让情况升级。
被捕后10万美元保释，高盛随即将其解雇
在综合OpenAI提供的聊天记录以及前女友保存的信息等证据后，警方于今年5月将周某逮捕。
随后，他以10万美元保释金获释。事件曝光后，高盛也将其解雇。
案件进入司法程序后，辩护律师强调，周某当时正经历严重的心理健康问题，并对部分聊天内容与现实情况之间的差异提出辩解。
律师称，周某实际上并没有持有枪支，与他此前告诉ChatGPT的内容并不一致。
辩方同时表示，周某过去没有犯罪记录，并曾以优异成绩毕业于波士顿东北大学。律师称，他并非一个暴力或邪恶的人，而是在当时经历了一段非常严重的心理健康危机，目前状况已经有明显改善。
这种话算不算真正威胁？最终他承认三项指控
案件的一个争议焦点，在于一个人在与AI聊天机器人进行私人对话时说出的暴力内容，在法律层面究竟能够在多大程度上被认定为真实威胁。
不过，本案并不只有ChatGPT聊天记录。
受害女子向警方提供的短信、电话及其他材料，也成为调查的重要证据，并对有关跟踪和骚扰行为的指控形成支持。
最终，为避免案件继续陷入漫长的法律争议，周某承认三项指控。
8月13日，法院作出判决，对其实施八年缓刑监督，其中两年需要接受电子监控。同时，他不得持有枪支，也被禁止与受害女子进行任何接触。
这起案件也再次将一个伴随AI普及而出现的问题推到公众面前：当一个人把原本可能只存在于私人空间里的极端想法告诉AI，而这些内容逐渐演变成针对现实人物、越来越具体的暴力计划时，这些“聊天记录”究竟还算不算只是聊天？
1美元=6.74元人民币
