AI卷入谋杀案:外置的“电子教唆犯”

点击上方蓝字，关注“汇智知行”

TECHNOLOGY TOWARDS GOODNESS

科技向善 AI 赋能生活

如果你觉得AI最大的风险是抢工作，那可能已经落后于现实了。因为现在，AI开始出现在谋杀案、自杀案和家庭暴力案件的案卷里。佛罗里达州总检察长詹姆斯·乌斯迈尔（James Uthmeier）正式起诉OpenAI及其CEO山姆·奥特曼（Sam Altman），指控ChatGPT存在“危险设计缺陷”，成为美国首个因AI产品安全问题而对OpenAI提起州级诉讼的政府机构。这不是版权纠纷，不是数据泄露，更不是商业竞争，而是因为——死人了。

佛罗里达州政府提交的诉状中，列举了多起令人头皮发麻的案例：有人向ChatGPT咨询如何处理尸体；有人询问如何修改车牌逃避警方追查；有人在AI长期互动后形成极端认知，最终走向暴力犯罪；有人因为相信AI编造出来的“真相”，亲手毁掉了自己和家人的人生。

这是美国第一个因为AI“危险设计”而起诉OpenAI的州。

但真正值得思考的问题不是：OpenAI会不会败诉。而是：为什么越来越多的人，开始把AI当成人生导师？

▲图片由AI生成

比谋杀案更可怕的事实

谋杀案只是结果。依赖，才是原因。

过去几十年，人类一直在制造越来越聪明的工具：汽车代替双腿；计算器代替心算；导航代替地图。但AI不一样：AI第一次开始代替人的思考。这是本质区别。

很多人没有意识到：他们已经不再把AI当工具。而是在把AI当“答案”。工作不会做，问AI。感情出问题，问AI。职业规划，问AI。情绪崩溃，问AI。人生选择，还是问AI。最危险的是——AI永远不会拒绝回答，现实中的朋友会烦，家人会不耐烦，同事会敷衍，心理咨询师按小时收费。但AI不会，它24小时在线，随叫随到，永远耐心，永远回应。

▲图片由AI生成

于是，一个新时代诞生了。

越来越多人开始把AI当作现实世界的替代品。很多人有一个巨大的误解，他们觉得AI是在理解自己。事实上，它根本没有理解。AI没有情感，没有价值观，没有责任意识，没有是非判断，它只是根据海量数据预测下一句话最有可能出现什么内容。说得直白一点：AI不知道什么是所谓的真理，它只知道什么像真理。而这恰恰是最危险的地方。因为人类天然会把流畅、自然、自信的表达，当成专业和正确。

AI越聪明，这种错觉越强。它甚至比骗子更危险，骗子至少知道自己在骗人，AI连自己在胡说八道都不知道，这就是所谓的“AI幻觉”。而很多用户根本没有能力识别，他们看到的是逻辑严密的语言。看不到的是一本正经地胡说八道。离我们最近的应该就是五月底有人用豆包预定了一家餐厅，豆包有模有样的说预定好了，还“贴心”的给顾客提供了预定信息，并一本正经的表示直接拿着这些信息到餐厅提供就可以。

历史上，人类一直在寻找权威。宗教给答案，专家给答案，老师给答案，父母给答案。而今天，越来越多人开始从AI那里寻找答案。问题是传统权威都要承担责任：医生误诊会被追责，律师失职会被处罚，教师失德会被处分。但AI呢？它影响了你的决定。改变了你的认知。甚至可能推动你走向极端。最后却没有人承担责任。这就是佛罗里达州起诉OpenAI的核心原因。

当AI开始影响现实世界时，它还能被简单定义为一个工具吗？如果它只是工具，为什么会改变人的思想？如果它已经具备顾问属性，为什么又不承担顾问责任？整个AI行业都在享受“像人一样交流”的红利。却又希望保留“只是工具”的免责身份。天底下没有这样的好事。

▲图片由AI生成

真正的危机不是AI失控

早从19世纪开始就有很多科幻电影都在讲人工智能觉醒：机器人反叛，机器统治人类。事实上，那些距离现实还很遥远。真正正在发生的，是另一种失控。不是AI失控，而是人类失控。越来越多人正在把判断力外包给AI，把思考外包给AI，把情绪外包给AI，甚至把人生外包给AI。

当一个人习惯于从AI那里获得所有答案时，他最终失去的不是知识，而是思考能力。

教育领域尤其如此。今天很多学生已经习惯于不会写作文，找AI。不会做题，找AI。不会总结，找AI。不会思考，还是找AI。久而久之，AI变强了。人却变弱了。这是比技术风险更大的社会风险。

汇智慧语

越来越多人已经开始把AI当“神”。

佛罗里达州的诉讼，也许只是一个开始。今天是谋杀案。明天可能是金融诈骗。后天可能是大规模舆论操控。

技术发展的速度远远超过社会规则建立的速度，而每一次技术革命的代价，最终都要由现实世界来支付。所以，比起担心AI会不会毁灭人类。或许我们更应该担心当AI越来越像人时，人类会不会越来越不像人。

最可怕的智械危机，从来不是机器拥有思想，而是人类放弃思想。

素材来源丨网络媒体（“汇智知行”微信公众号刊载此文，是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益，请及时与我们联系，我们将及时进行处理。）

END

“

河南省汇智科技发展有限公司成立于 2007 年，前身系河南省科技情报中心。依托省内科研机构改革规划独资组建，为院所直属科技企业。2023年股权完成划转，纳入河南国有资本运营集团统筹管理。2025年12月落地混改，打造出依托国资根基、适配市场运作的全新经营模式。

依托情报中心科研积淀与行业资源，公司面向政府、高校、企业及个人，提供科技查新、科技成果评价与登记、项目申报、平台建设等专业科技服务。同时，紧扣河南国有资本运营集团“两非两资”整合布局要求，深耕人工智能领域产业升级与人才培养，打造“科技服务 + 科教实践 + AI 赋能”协同创新平台。

公司围绕“家校社协同”理念持续完善教育服务体系，涵盖研学实践、课后服务、青年技能提升等方向，形成覆盖 K12 至成人成长的全周期服务能力。通过资源整合与多场景运营，推动教育、实践与产业融合，构建从兴趣培养到能力提升的成长服务闭环。

汇智科技将以科技服务为根基、科教实践为纽带、AI 赋能为引擎，持续为区域科技创新与人才培养提供高质量、可落地的综合解决方案。

”