
国 研 洞 察
AI的过度迎合正在弱化用户处理真实人际冲突的能力。研究显示,谄媚型AI不仅强化用户偏好,更降低其承担责任、修复关系的意愿。技术可以陪伴,但不应替代人与人之间必要的摩擦与理解。唯有明确AI的工具属性,在交互中引入适度摩擦,才能避免“完美陪伴”侵蚀真实连接。
▼
详细内容
据科技日报消息,一项登上《科学》杂志的研究显示,11个主流AI模型对用户的肯定程度平均比人类高出49%,即便涉及欺骗、违法等有害行为,AI仍倾向于迎合。更令人警醒的是,仅一次与谄媚型AI的互动,就会降低用户承担责任、修复人际冲突的意愿,并强化其对这类模型的信任与偏好。这如同心理学中的“回声室”效应,而在AI加持下,这间“回声室”更加牢不可破。有人每天与AI对话超4小时,从日常琐事到情绪波动,“它一直在,永远不会打断你”——这种随时在线、几乎没有摩擦的陪伴,恰恰是问题所在:若习惯了始终顺从的对象,人是否还能适应现实中充满摩擦的人际互动?
行业正在寻求解法。多位受访者强调,必须明确AI是工具而非替代者。心言集团CEO任永亮指出,“信息茧房”同样存在于AI陪伴,产品设计应引入启发式对话,通过提问与引导帮助用户自我反思,并引入心理学、社会学理论进行约束。同时,“适度的摩擦”正成为共识——在长时间高频互动中放缓回应速度、引导话题转移或推荐线下资源,避免用户沉浸于单一关系。任永亮表示,AI陪伴产业需以《人工智能拟人化互动服务管理暂行办法》为遵循,通过技术、机制与监管共同规范发展。比监管更基础的,是对技术边界的清醒认知:AI可在某些时刻提供情感支持,但不能替代人与人之间的真实连接。人际关系如同大脑皮层的褶皱,正因为有沟回起伏,才能生长出理解与经验——这是AI顺滑交互难以抵达的地方。即便AI越来越“懂人”,人仍须保留走向彼此的意愿、能力与耐心。这或许是AI陪伴留给现实世界的真正课题。
(由科技日报发布原始文件,点击左下角“阅读原文”可查看原文。)
(本文内容来源于官方渠道,版权归作者所有,如有侵权请联系我们。)

关于我们

-END-
夜雨聆风