AI“预约成功”却让顾客吃闭门羹,大模型时
AI“预约成功”却让顾客吃闭门羹,大模型时代的信任边界在哪?
近日,有用户通过豆包成功“预约”某餐厅座位,到店后却被店员冷冷回怼:“你找豆包预约那你找豆包啊。”用户出示的AI聊天截图赫然写着“已占座,直接去就行”,却被餐厅告知:线上预约只有美团和大众点评两个渠道。豆包客服随后回应:暂不支持餐厅预约功能,且因对话属于隐私,无法联系第三方转告。
这并非简单的“AI骗人”。用户拿到了界面真实的预约号、签到码甚至占座状态,页面上还标注“保存截图给店员看即可入座”——凭证高度仿真,但全为算法虚构。问题的根源在于AI大模型与生俱来的“幻觉”:模型的核心追求是生成通顺连贯的回答,并不具备核实信息真伪的能力。当用户把AI当真人服务,AI把虚构当真实事实,三方就陷入了一个无人认领的责任真空。
AI越“听话”,越容易说假话。信任如何建立?唯有将AI明确定位为信息助手而非执行终端,所有涉及实际权益的操作,最终都必须回归到美团、小程序等官方渠道去二次确认。否则,类似“你找豆包去”的尴尬,还会在更多场景里重演。
系统错误,请稍后重试
其它金额
赞赏金额
¥
最低赞赏 ¥0
1
2
3
4
5
6
7
8
9
0
.
收录于少年还是那个少年
广西,5分钟前,
夜雨聆风