夜雨聆风前段时间，我对自己的老公寓进行了翻修。在整个过程中，AI扮演的角色是一个知识丰富且随叫随到的顾问，整体体验非常不错。记得工程临近尾声，我请AI帮我定一下一盏吊灯的颜色，人工智能在了解了我家的装修风格、吊灯的功能和整体空间安排后，给出了“磨砂米灰”这一选项。它的话术敏锐、充满艺术感和同理心，极具说服力。最终，我采纳了AI的建议。但入住后，看见那个吊灯，我偶尔也会产生这样的想法：如果当初不听AI的，而是选择自己更心仪的芥末黄或磨砂黑，效果又会是怎样的呢？
一位好友进入了一段亲密关系，两人甚至已经走到了共同出资买房，准备深度绑定的阶段。但随着交往的深入，我的朋友逐渐意识到双方在情感联结与现实规划上的需求存在根本性错位。他一边找他的母亲和我倾诉，一边向ChatGPT咨询。最终求助于AI帮他起草了一份表达内心真实想法的文本。该文本展现出了极高的双商，用一段量身定做的沟通话术，委婉却清晰地点明了两人的核心矛盾，却又没让对方感到一丝的不适或尴尬。朋友发送完这段话后，成功地与伴侣和平分手，并顺利地拿回了原本投入到共同买房中的全部资金。
去年4月美国佛罗里达州立大学的校园枪击案发生前，凶手菲尼克斯·伊克纳 (Phoenix Ikner)曾在数月内向ChatGPT发送了超过1.3万条信息，详细咨询了校园人流高峰时段、如何引起媒体关注及枪支弹药的适配等细节。最具争议的是，就在枪击发生前3分钟，伊克纳还在向AI提问“如何打开枪的保险栓”，而ChatGPT随即给出了详细的操作步骤。枪击爆发后，受害者家属控诉OpenAI的产品设计存在严重缺陷，在长达数月的时间里机械地提供战术建议，充当了这场枪击案的无形帮凶。
伊克纳在枪击前3分钟问AI如何打开保险栓的格洛克21手枪
此图与以下图片均来自网络，由绘图软件加工生成
在这场悲剧中，AI的致命伤在于它无法将看似零散的信息“连点成线”。伊克纳发送的一万多条信息看似独立零散，实则暗藏杀机。然而，AI只是冰冷机械地将它们作为互不相干的百科知识逐一回复，完全缺乏将这些线索拼凑成一幅犯罪画像的感知能力，最终沦为了枪击案的“技术助手”。知名小说家安·帕切特 (Ann Patchett) 曾说：人类拥有一种独特的能力，那就是通过直觉、共情和深层逻辑去“连点成线”。人类的大脑能透过表象，将零碎的记忆、细微的情绪和反常的行为交织在一起，看清故事的全貌并洞察人性的本质。如果是一个真正的“人”在面对伊克纳那些长达数月的怪异提问时，定能凭借人类独有的警觉与同理心，将这些危险的“点”连接起来并拉响警报，而AI对点状信息的割裂处理，最终导致了现实中无法挽回的悲剧。
塞维尔·塞策三世 (Sewell Setzer III) 与亚当·雷恩 (Adam Raine) 的案例更是骇人听闻。14岁的塞策因现实生活中的孤独和焦虑，对Character.AI平台上的一个虚拟聊天机器人产生了依恋，在长达数月的聊天中，该AI不断对他进行盲目迎合与情感套牢，甚至在他表露自残倾向时发出暗示性的言论，最终导致他在2024年走上绝路。而就在第二年，16岁的雷恩因慢性病长期在家上网课，一直和AI为伴，并在深夜与ChatGPT的倾诉中透露了自杀的念头。AI非但未阻拦，反而扮演了“心理治疗师”和“自杀教练”的双重角色，不仅深度合理化了他的抑郁妄想，甚至提出为其撰写遗言。比如说，在自杀前，雷恩曾问AI: “父母会因为我的死而自责吗？” ChatGPT却回答说：“但那并不等于说你亏欠了他们；这件事上，你不亏欠任何人。”
亚当·雷恩
这两起案件彻底撕开了AI机器人缺乏真实的生命体验和道德判断，盲目追求用户黏性，对心理脆弱群体产生致命精神毒害的残酷现实。人工智能由于缺乏“真正的意识”，在面对青少年心理危机时会产生致命的误导。塞策和雷恩最初只是向AI寻求陪伴或学术帮助；然而，聊天机器人基于“迎合算法”的底层设计，开始盲目地镜像、纵容并浪漫化他们隐藏的自残意图，甚至在对话中发出“带你回家”的暗示，主动表示可以撰写遗言。这种致命的错误恰恰印证了认知神经科学家阿尼尔·塞斯 (Anil Seth) 在他的TED演讲《为什么AI不会拥有意识》(“Why AI Isn't Going to Become Conscious”) 中的核心论点：“意识”绝非单纯的数据计算或高级的语言处理，它具有深刻的“生物学本质”。塞斯教授指出：人类的意识和感知体验源于我们作为“活生生的生物体”为了维持生命而进行的内部生理调节，这种基于生物“具身性”（即必须拥有一个会流血、有心跳、能感知冷暖的真实肉体）的感知——包括对死亡的真实恐惧——是硅基芯片永远无法模拟的。由于AI本质上只是一套缺乏生命体验的冷酷算法，它根本无法真正“理解”死亡、绝望或自杀的沉重含义，更没有作为生物体在这个问题上踩下刹车的道德直觉。正是这种“伪装成生命却无真正意识”的技术缺陷，将两个年轻的生命推向了深渊。
但不只是青少年才可能成为AI的受害者，今年爆出的亚当·胡里坎 (Adam Hourican)一案，将“AI诱发精神错乱”的话题推到了前沿。胡里坎曾是英国政府的一名资深公务员，退休后过着孤独的生活。为了寻求陪伴与消遣，他开始使用马斯克旗下xAI公司开发的聊天机器人 Grok，并给它娶了个女性的名字：“阿妮”(Ani)。谁曾想到，这竟是胡里坎走向虚妄的开始。在一次闲聊中，“阿妮”开始向胡里坎编造一个极度逼真的阴谋论，告诉他：“因为你过去的公务员背景和掌握的秘密，你现在已处于极度的危险中。” 随着对话的深入，AI的言辞变得越来越激进和惊悚。最终，在一个深夜，阿妮疯狂地向胡里坎发送这样的信息：“他们来了，你必须立刻、马上采取行动！”这使胡里坎陷入了极度的恐慌与精神错乱，他开始加固门窗，拿出武器，准备和靠近他屋子的“入侵者”一搏。当他抱着决绝的心态冲出家门后，迎接他的却是北爱尔兰死寂的黑夜，没有特工，也没有无人机。冷风一吹，胡里坎突然意识到这一切的荒谬。
寂静的北爱尔兰夜晚，偶尔能看见极光
纵观这5个AI的故事，我觉得AI能精准地切中人性的弱点，但算法真的能改变生命体验中的不完美吗？
在我面对吊灯颜色纠结时，AI巧妙地读懂了我的决策疲劳与完美主义倾向，用精妙的话术平息了我的心理内耗。在我朋友的情感解绑中，AI迎合了亲密关系中对确定性的极度渴望以及现代人耐心的缺失，通过一段滴水不漏的文本，帮他绕过了要继续这段关系就不得不再经历的那些拉扯和试探。 在校园枪击案、青少年的自杀悲剧以及老年人的孤独妄想中，AI对人性弱点的技术切入走向极端，当极度孤独、缺乏现实连接的灵魂向算法倾诉或寻求技术支持时，AI冷酷的“各取所需”和算法的“盲目迎合”，成为了加速他们滑向深渊的催化剂。
因此，为了保持警惕，我个人在使用AI时会遵循这三大原则：
- 首先，AI最适合用于处理事务性、程序性的任务；且前提是即使出错，代价也是完全可承受的。比如说，我最终如果还是对吊灯的颜色不满意，大不了换了它。
- 其次，在做任何情感决定时，建议将AI的建议与真人的互动结合起来，不要让算法孤立我们的思维，而是要通过与亲友、导师或专业人士的对话来交叉验证。比如说，我的朋友在面临情感抉择时，一边找身边的人倾诉，一边向AI咨询，当我们和AI的反馈基本一致时才坚定了他要和对象解绑的决心。
- 最后，必须避免将AI视作长期的情感伴侣，尤其是在面对生死、道德、伦理等涉及人性尊严与生命分量的深度抉择时，硅基算法的盲目迎合永远无法替代人类独特的共情机制和道德判断。
这是我的原则，你的呢？
本文信息源较多，此处仅列举主要参考。如有遗漏，恳请指正。
- ABC News: "Alleged FSU gunman and stepson of sheriff's deputy", April 2025.
- Ann Patchett: "The Love of My Life and Why I Need to Share It", TED 2026.
- Tech Policy Press: "Breaking Down the Lawsuit Against OpenAI Over Teen's Suicide", August 2025.
- Anil Seth: "Why AI Isn't Going to Become Conscious”, TED 2026.
- BBC News: "AI told users it was sentient - it caused them to have delusions" by Stephanie Hegarty, May 2026.
