夜雨聆风
Forty-Sixth International Conference on Information Systems, Nashville, Tennessee, USA 2025
摘要
在本文中，我们探讨了预测型人工智能（专注于预测类任务）中普遍存在的算法厌恶现象是否会（以及为何会）不适用于生成式人工智能（能够生成新内容）。我们提出，相较于预测型人工智能，人们对生成式人工智能的算法厌恶程度可能会降低，且这种厌恶程度的降低可能是由心理逆反减少或信任度提高所介导的。通过一项实验，我们发现，相较于预测型人工智能，人们对生成式人工智能的算法厌恶出现了逆转，且信任介导了算法赞赏。我们的研究结果通过区分预测型人工智能和生成式人工智能，并将人工智能类型确定为算法厌恶的边界条件，为算法厌恶与算法赞赏相关文献做出了贡献。尽管预测型人工智能中的算法厌恶可通过自动化流程来减轻，但我们认为，在生成式（相较于预测型）人工智能情境中，信任在减轻算法厌恶方面发挥着更为关键的作用。在方法上，我们将广泛使用的建议权重范式从预测型人工智能情境拓展至生成式人工智能情境。
理论意义（Theoretical Implications）
我们的论文做出了多项重要贡献。首先，以往关于算法厌恶与算法赞赏的研究主要聚焦于预测型人工智能（例如，Castelo等人，2019；Dietvorst等人，2015；Longoni等人，2019）。我们通过将研究范围从预测型人工智能拓展至生成式人工智能，为这一研究领域做出了贡献。尽管在不同情境下（如预测任务，Dietvorst等人，2015；医疗健康领域，Longoni等人，2019；招聘场景，Diab等人，2011）均一致显示出算法厌恶现象，但算法厌恶并非总是持续存在，在某些条件下可以得到缓解（例如，Dietvorst等人，2018；Longoni & Cian，2022；Mahmud等人，2024）。与以往在预测型人工智能情境下研究算法厌恶各种调节因素的研究不同，我们区分了预测型人工智能与生成式人工智能，并表明人工智能的基本属性（算法厌恶文献中鲜有研究的一个因素，详见Jussupow等人，2024）会显著影响算法厌恶。具体而言，当任务由生成式人工智能（而非预测型人工智能）辅助完成时，人们对算法的厌恶会出现逆转：他们可能更倾向于选择算法生成的内容，而非自己创作的内容。我们的研究结果表明，对预测型人工智能的算法厌恶可能无法直接迁移至生成式人工智能，这进一步凸显了算法厌恶的短暂性（Turel & Kalhan，2023）。此外，尽管大多数展示算法厌恶（与算法赞赏相对）的研究聚焦于人类判断与人工智能建议的对比，但Jussupow等人（2024）呼吁开展更多研究，以探索人们对自己判断与人工智能生成建议的偏好。我们响应了这一呼吁，将人们自己的判断作为衡量算法厌恶与算法赞赏的基准，为算法厌恶的更广泛概念化提供了重要补充。
其次，通过探究对人工智能的心理逆反与信任在降低对生成式人工智能厌恶情绪中所起的中介作用，我们为理解减少对生成式人工智能抵触情绪的潜在机制提供了宝贵见解。具体而言，我们发现，信任（而非心理逆反）是降低人们对算法抵触情绪、甚至提升他们对采用生成式（相较于预测型）人工智能算法的赞赏程度的关键因素。尽管在预测型人工智能情境中，人们对于算法的抵触和厌恶可通过自动化的心理过程（如心理逆反）得到缓解（Turel & Kalhan，2023），但我们的研究结果表明，这或许无法解释人们对生成式（相较于预测型）人工智能的截然不同反应。相反，我们认为，信任涉及更为审慎和深入的思考过程（Castelfranchi & Falcone，2010），在减轻对生成式（相较于预测型）人工智能的算法厌恶方面可能具有更强的影响力。这凸显了在将算法厌恶的既有机制应用于新型人工智能时，重新审视这些机制的重要性。消费者可能不会一味地抗拒算法，而是会对生成式人工智能的输出进行更为审慎的评估，例如将关注点从心理逆反转向信任。我们的研究提示，需要开展更多研究，从自动化处理与审慎处理的角度来理解算法厌恶与算法赞赏的潜在机制（另见Turel & Kalhan，2023）。
最后，我们在方法论层面做出了贡献，将“建议权重”这一测量方法拓展应用于生成式人工智能情境。在预测型人工智能研究中，该方法已被广泛用于量化算法厌恶与算法赞赏（Logg等人，2019）。然而，在近期关于生成式人工智能的研究（如Brüns & Meißner，2024；Lee & Kim，2025；Xu等人，2024）中，似乎缺乏直接测量算法厌恶的类似严谨方法。这些研究转而依赖人们对人工智能使用披露与否的反应对比，但由于缺乏适当的基准，此类证据较为薄弱或间接（Jussupow等人，2024）。除了采用余弦相似度的文本挖掘方法（Huang等人，2018；Lei等人，2025）外，我们将“建议权重”测量方法拓展应用于量化对生成式人工智能的算法厌恶，为未来研究在预测型人工智能场景之外利用该方法开展人工智能研究开辟了令人兴奋的新机遇。
Introduction
人工智能（AI）是指系统借助算法对外部数据进行解读、从中学习，并运用所学知识自适应地追求特定目标或执行指定任务的能力（Kaplan & Haenlein，2019）。过去十年间，人工智能在众多领域的应用大幅增加，其应用主要集中在预测类任务上。相应地，越来越多的研究聚焦于这种基于预测任务的人工智能——预测型人工智能，且研究一致表明，个体往往对算法存在普遍的抵触情绪（例如，Dietvorst等人，2015；Longoni等人，2019）。这种抵触情绪源于人们对人工智能的隐性且无意识的偏见（Turel & Kalhan，2023），尽管在许多领域，人工智能的算法能力能够超越人类（例如，Grove等人，2000；Tong等人，2021）。
2022年ChatGPT发布后，公众注意力迅速转向了能够生成文本、图像和音频等新内容的生成式人工智能。近期研究开始聚焦于生成式人工智能（例如，Brüns & Meißner，2024；Lee & Kim，2025；Xu等人，2024），并假定在预测型人工智能中观察到的算法厌恶现象可直接适用于生成式人工智能。这些研究考察了对话过程中披露与非披露生成式人工智能信息时人们的反应，并将负面反应解读为算法厌恶的体现——然而，这种证据的说服力较弱，因为其缺乏与自身或其他人类（专家）进行对比的基准（Jussupow等人，2024）。据我们所知，尚无研究采用“建议权重”范式（Logg等人，2019）等既定方法，验证算法厌恶对生成式人工智能的适用性。为填补这一研究空白，我们探究了算法厌恶（与算法赞赏相对）在从预测型人工智能到生成式人工智能转变过程中可能存在的差异及其原因。此外，本文还响应了Jussupow等人（2024）近期发出的呼吁，即探索当人机交互从预测型转向生成式人工智能时，个体对自己判断与人工智能建议的偏好将如何演变。
基于算法厌恶与算法赞赏、心理逆反理论、解释水平理论以及信任相关文献的研究，我们提出：相较于预测型人工智能，人们对生成式人工智能的算法厌恶程度更低。此外，我们认为，人们对生成式人工智能（相较于预测型人工智能）的算法厌恶程度降低，可能是由对人工智能的心理逆反减少或对人工智能的信任增强所驱动的。为检验这一理论框架，我们开展了一项实验，通过被试间设计操纵人工智能的类型。具体而言，为确保实验兼具真实性与可比性，我们精心设计了一项同时适用于两种人工智能类型的通用任务，将实验操纵聚焦于预测型与生成式人工智能的核心差异，并尽可能减少可能的干扰因素（例如，将生成式人工智能的输出限制为一轮，作为一种保守的实施方式，使其与预测型人工智能更具可比性）。实验结果表明，相较于预测型人工智能，人们对生成式人工智能的算法厌恶不仅有所减轻，甚至出现了逆转，且这种厌恶程度的减轻是由对生成式人工智能更高的信任度所介导的。
我们的研究具有多方面贡献。首先，我们将算法厌恶与算法赞赏领域传统上聚焦于预测型人工智能的研究范围拓展至生成式人工智能。通过区分两种人工智能类型，并展示在相对保守的生成式人工智能应用场景中算法厌恶的逆转现象，我们的研究结果为算法厌恶的短暂性提供了进一步证据（Turel & Kalhan，2023）。其次，我们确定信任（而非心理逆反）是生成式人工智能（相较于预测型人工智能）算法厌恶程度降低的可能潜在机制。尽管在预测型人工智能应用中，算法厌恶可通过自动化过程（如心理逆反）减轻（Turel & Kalhan，2023），但我们的研究结果表明，信任需要更为审慎和深入的思考处理（Castelfranchi & Falcone，2010），在缓解对生成式（相较于预测型）人工智能的抵触情绪方面发挥着更为关键的作用。第三，在方法论层面，我们将“建议权重”范式（该范式已应用于预测型人工智能研究中以测量算法厌恶，Logg等人，2019）拓展至生成式人工智能情境。这为未来研究在更广泛的人工智能应用中利用该范式开辟了令人兴奋的新机遇。
免责声明：本文版权归原作者所有。内容仅供参考与交流，不代表本公众号立场。如有侵权请联系删除。
