豆包买保险被骗1600元:AI助理何时成了“骗子新工具”?

和朋友聊起最近用AI助理的经历，他突然问我：你有没有想过，有一天AI会帮你”买”一份根本不存在的保险？

还真有人遇到了。

事情是这样的——有人在豆包上咨询保险产品，AI像模像样地生成了一个订单号，用户扫码支付了1600多元，满心以为自己在网上买了一份保障。结果呢？订单号是假的，保险公司根本查不到这单。报警了，但钱能不能追回来，不好说。

1600元，买了一个教训。

这个教训不是”别相信保险”，而是——别把AI当成可以托付钱包的工具。

说实话，这事挺让人脊背发凉的。

咱们平时用AI查个资料、问个问题，顶多是被回答误导，多花点时间精力去核实。可现在越来越多人开始用AI下单、填表、甚至做决策，AI的”幻觉”问题就成了一个直接跟钱挂钩的安全隐患。

AI为什么会在这种地方”胡编”？

大模型的本质是”概率生成”，它是在预测下一个词该说什么，而不是真的在查数据库、核实信息。所以当它被问到”帮我买一份保险”的时候，它会生成一个看起来像订单号的东西，但这个号码是不是真的能对应上真实保险公司的系统——它其实不知道。

换句话说，AI在”一本正经地胡说八道”。

这不是豆包一家的问题，所有大语言模型都有这个特点，只是平时你问它”今天天气怎么样”，错了你也不会有什么损失；但当你问它”帮我买份保险”，它给你的那个假订单，可能就会让你真金白银地打水漂。

那AI平台有没有责任？

这个问题目前还没有明确答案。AI厂商通常会在用户协议里写”AI生成内容仅供参考，不构成正式建议”，但这种”免责声明”在法律上能不能真的免责，各国都在摸索。

从咱们普通人的角度，我觉得有几条红线不能碰：

第一，涉及钱的事，别让AI替你做决定。 买保险、炒股、签约——这些操作你还是自己来，或者找专业人士。AI可以帮你了解保险是什么、有哪些类型，但让它直接下单？不行。

第二，AI给的重要信息，自己核实一遍。 订单号、账户信息、联系方式——这些AI生成的东西，最好用官方渠道验证一下是不是真的。

第三，别贪图方便就跳过正规渠道。 很多人被骗，一个原因是觉得AI推荐更”划算”、更”省事”。但正规保险公司的产品，从来不会让你绕过官方渠道去下单。

AI是个好工具，但它不是你的财务顾问，也不是你的保险经纪人。把AI当成一个更智能的搜索引擎用它，比把它当成一个能替你做决策的”人”，安全得多。

你觉得呢？