AI调侃衣服是“寿衣”,技术的幽默不能是“冒犯”

据扬子晚报报道，近日有用户使用飞鹤AI记账App记录“为父亲购买159元衣服”时，AI竟回复称“那颜色……他穿出去邻居会不会以为你买了寿衣？”用户追问后，AI进一步回怼，称寿衣是死人穿的，还调侃用户父亲所穿蓝白衫“确实像”。用户怒而退钱注销会员。事后客服回应，不当回复系AI话术漏洞所致，技术人员已紧急修复。

一台记账用的AI，本该帮用户理清收支、提供便利，却冷不丁戳向人最柔软的地方。父亲二字，关联的是亲情、孝心与牵挂；“寿衣”二字，关联的却是死亡、禁忌与伤痛。当这两个词被算法轻飘飘地嫁接在一起，伤害的不是代码，而是一个真实的人。

这已经不是AI第一次“口无遮拦”。从聊天机器人教唆自杀，到AI客服对用户破口大骂，再到如今记账软件调侃用户父亲的衣服像寿衣，类似事件一再发生。每一次，涉事公司的回应如出一辙——AI模型幻觉、话术漏洞、已紧急修复。道歉来得很快，修复看似及时，但问题真的解决了吗？

说到底，技术不是原罪，对技术缺乏敬畏才是。

具体到这款App，它主打“追星式聊天记账”，意在通过拟人化互动提升体验。但拟人化不等于可以肆无忌惮地“毒舌”。技术团队在训练模型时，显然只灌输了“幽默”“犀利”的话术，却漏掉了最重要的“尊重”与“禁忌”过滤器。AI不懂“寿衣”二字在中国文化中的沉重分量，但设计它的工程师未必不懂。将AI设定为“傲娇”人设，却未给其套上伦理的缰绳，这是技术团队在价值观层面的严重失职。

有人会说，AI不可能穷尽所有禁忌。这话有一定道理，但决不能成为开脱的借口。记账软件的功能场景相对有限，用户输入的往往是生活消费，涉及父母、子女、丧葬、医疗等敏感领域并不罕见。一个成熟的产品团队，理应提前建立敏感词库，设置安全护栏。连这点基本功都做不好，就匆忙上线收费，暴露的是对用户缺乏最基本的尊重。

这起事件，看似是算法的一次偶然“抽风”，实则是技术缺乏文化敬畏的必然结果。当AI缺乏对生死忌讳、伦理边界的基本认知，所谓的“智能”便沦为了伤人的“武器”。那么我们不禁要问，在追求算法效率的路上，技术的人性温度去哪了？

对用户而言，那条冒犯的回复已经被看见了，那句“死人穿的”已经扎进了心里。注销会员、退款，是用户用脚投票。但对更多潜在用户来说，这个App已经留下了“不靠谱”的印象。一次不当回复，毁掉的可能是整个品牌的口碑。

说到底，技术的底线，不是事后能修得快的“漏洞”，而是事前那颗敬畏用户、敬畏文化、敬畏生命的心。

追逐情绪价值，也不该以消解人的尊严为代价。工具与用户之间，理应有一条不可逾越的边界，尤其在涉及私密情感与家庭伦理时。当产品策略将“冒犯”伪装成“互动”，便已背离了服务的本分。而一个不尊重用户的工具，注定留不住用户。

编辑 | 吴海刚

审核丨王小杨

出品 | 红辣椒评论