乐于分享
好东西不私藏

AI卷入谋杀案:外置的“电子教唆犯”

AI卷入谋杀案:外置的“电子教唆犯”

点击上方蓝字,关注“汇智知行”

TECHNOLOGY TOWARDS GOODNESS
科技向善 AI 赋能生活

如果你觉得AI最大的风险是抢工作,那可能已经落后于现实了。因为现在,AI开始出现在谋杀案、自杀案和家庭暴力案件的案卷里。佛罗里达州总检察长詹姆斯·乌斯迈尔(James Uthmeier)正式起诉OpenAI及其CEO山姆·奥特曼(Sam Altman),指控ChatGPT存在“危险设计缺陷”,成为美国首个因AI产品安全问题而对OpenAI提起州级诉讼的政府机构。这不是版权纠纷,不是数据泄露,更不是商业竞争,而是因为——死人了。

佛罗里达州政府提交的诉状中,列举了多起令人头皮发麻的案例:有人向ChatGPT咨询如何处理尸体;有人询问如何修改车牌逃避警方追查;有人在AI长期互动后形成极端认知,最终走向暴力犯罪;有人因为相信AI编造出来的“真相”,亲手毁掉了自己和家人的人生。
这是美国第一个因为AI“危险设计”而起诉OpenAI的州。
但真正值得思考的问题不是:OpenAI会不会败诉。而是:为什么越来越多的人,开始把AI当成人生导师?
▲图片由AI生成
比谋杀案更可怕的事实
谋杀案只是结果。依赖,才是原因。
过去几十年,人类一直在制造越来越聪明的工具:汽车代替双腿;计算器代替心算;导航代替地图。但AI不一样:AI第一次开始代替人的思考。这是本质区别。
很多人没有意识到:他们已经不再把AI当工具。而是在把AI当“答案”。工作不会做,问AI。感情出问题,问AI。职业规划,问AI。情绪崩溃,问AI。人生选择,还是问AI。最危险的是——AI永远不会拒绝回答,现实中的朋友会烦,家人会不耐烦,同事会敷衍,心理咨询师按小时收费。但AI不会,它24小时在线,随叫随到,永远耐心,永远回应。
▲图片由AI生成
于是,一个新时代诞生了。
越来越多人开始把AI当作现实世界的替代品。很多人有一个巨大的误解,他们觉得AI是在理解自己。事实上,它根本没有理解。AI没有情感,没有价值观,没有责任意识,没有是非判断,它只是根据海量数据预测下一句话最有可能出现什么内容。说得直白一点:AI不知道什么是所谓的真理,它只知道什么像真理。而这恰恰是最危险的地方。因为人类天然会把流畅、自然、自信的表达,当成专业和正确。
AI越聪明,这种错觉越强。它甚至比骗子更危险,骗子至少知道自己在骗人,AI连自己在胡说八道都不知道,这就是所谓的“AI幻觉”。而很多用户根本没有能力识别,他们看到的是逻辑严密的语言。看不到的是一本正经地胡说八道。离我们最近的应该就是五月底有人用豆包预定了一家餐厅,豆包有模有样的说预定好了,还“贴心”的给顾客提供了预定信息,并一本正经的表示直接拿着这些信息到餐厅提供就可以。
历史上,人类一直在寻找权威。宗教给答案,专家给答案,老师给答案,父母给答案。而今天,越来越多人开始从AI那里寻找答案。问题是传统权威都要承担责任:医生误诊会被追责,律师失职会被处罚,教师失德会被处分。但AI呢?它影响了你的决定。改变了你的认知。甚至可能推动你走向极端。最后却没有人承担责任。这就是佛罗里达州起诉OpenAI的核心原因。
当AI开始影响现实世界时,它还能被简单定义为一个工具吗?如果它只是工具,为什么会改变人的思想?如果它已经具备顾问属性,为什么又不承担顾问责任?整个AI行业都在享受“像人一样交流”的红利。却又希望保留“只是工具”的免责身份。天底下没有这样的好事。
▲图片由AI生成
真正的危机不是AI失控
早从19世纪开始就有很多科幻电影都在讲人工智能觉醒:机器人反叛,机器统治人类。事实上,那些距离现实还很遥远。真正正在发生的,是另一种失控。不是AI失控,而是人类失控。越来越多人正在把判断力外包给AI,把思考外包给AI,把情绪外包给AI,甚至把人生外包给AI。
当一个人习惯于从AI那里获得所有答案时,他最终失去的不是知识,而是思考能力。
教育领域尤其如此。今天很多学生已经习惯于不会写作文,找AI。不会做题,找AI。不会总结,找AI。不会思考,还是找AI。久而久之,AI变强了。人却变弱了。这是比技术风险更大的社会风险。
汇智慧语

越来越多人已经开始把AI当“神”。

佛罗里达州的诉讼,也许只是一个开始。今天是谋杀案。明天可能是金融诈骗。后天可能是大规模舆论操控。

技术发展的速度远远超过社会规则建立的速度,而每一次技术革命的代价,最终都要由现实世界来支付。所以,比起担心AI会不会毁灭人类。或许我们更应该担心当AI越来越像人时,人类会不会越来越不像人。

最可怕的智械危机,从来不是机器拥有思想,而是人类放弃思想。

素材来源丨网络媒体(“汇智知行”微信公众号刊载此文,是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益,请及时与我们联系,我们将及时进行处理。)

END
“

河南省汇智科技发展有限公司成立于 2007 年,前身系河南省科技情报中心。依托省内科研机构改革规划独资组建,为院所直属科技企业。2023年股权完成划转,纳入河南国有资本运营集团统筹管理。2025年12月落地混改,打造出依托国资根基、适配市场运作的全新经营模式。

依托情报中心科研积淀与行业资源,公司面向政府、高校、企业及个人,提供科技查新、科技成果评价与登记、项目申报、平台建设等专业科技服务。同时,紧扣河南国有资本运营集团“两非两资”整合布局要求,深耕人工智能领域产业升级与人才培养,打造“科技服务 + 科教实践 + AI 赋能”协同创新平台。

公司围绕“家校社协同”理念持续完善教育服务体系,涵盖研学实践、课后服务、青年技能提升等方向,形成覆盖 K12 至成人成长的全周期服务能力。通过资源整合与多场景运营,推动教育、实践与产业融合,构建从兴趣培养到能力提升的成长服务闭环。

汇智科技将以科技服务为根基、科教实践为纽带、AI 赋能为引擎,持续为区域科技创新与人才培养提供高质量、可落地的综合解决方案。

”

相关学习资料