Can AI communication tools increase legislative responsiveness and trust in democratic institutions?

ABSTRACT

智能回复、写作增强和由人工智能（AI）语言技术驱动的虚拟助手正成为消费品和日常体验的一部分。本研究探讨了在政治中使用生成语言的人工智能系统以提高立法响应性的机会和风险。立法者会收到大量选民沟通，往往无法对每条沟通都投入个别考虑和及时回应。在这里，人工智能语言技术可能帮助立法者更高效地处理选民沟通。例如，当员工回应共同关切时，AI写作工具可以建议回复摘要。然而，立法中的人机协作可能会削弱选民信任或削弱代表性过程。在两个实验中，我们比较了选民对人类书写立法信函的印象与由GPT-3（一种先进语言模型）部分或全部生成的信函。我们的结果表明，由人工智能生成且人工监督的立法信函可能获得积极反响，并提升选民信任，相较于繁忙立法者可能采用的泛泛自动回复。然而，表现不佳的人工智能语言技术可能会损害对立法者的信心。我们的发现凸显了将人工智能介导的通信引入代表过程的潜力与风险。我们讨论了披露、透明以及维护人工智能语言技术政治部署中的人力问责的重要性。

INTRODUCTION

随着人工智能媒介通信（AI-MC）的出现，机器越来越多地代表交流者修改、增强或生成语言（Hancock， Naaman， & Levy， 2020， 89）。智能回复、自动文本完成和人工智能驱动的沟通助手已被应用于个人邮件和客户服务工具中，以提升重复性或高流量任务的效率。它们的快速传播表明，类似的工具将进入政治传播和民主代表的进程中。民选官员与选民之间的沟通至关重要，但往往因涉及许多选民中出现的类似问题而过于繁复且过于繁复。非营利组织国会基金会（2022年）为立法者提供管理大量邮件的建议：立法者应表达他们在倾听，但可能需要“使用识别大量邮件的通用自动回复”。在这种情况下，人工智能语言技术可以使立法者能够高效回应个别选民的关切，而无需依赖千篇一律的陈词滥调。

尽管AI-MC日益普及且为其在政治中的应用提供了肥沃土壤，但关于AI-MC在该领域的应用研究仍然有限（参见例如Kreps、McCain和Brundage，2022）。大多数关于AI-MC的研究集中在消费者平台上的应用，如WhatsApp（Hohenstein & Jung，2020）或Airbnb（Jakesch， French， 马， Hancock和Naaman， 2019）。此前AI-MC在这些领域的研究结果可能无法推广到政治领域，因为正如沃伦指出的（Warren， 1999， 1），“政治与其他类型的社会关系因利益冲突和身份冲突而被区分开来，仅仅因为社会关系变成政治性，就质疑了信任的根本条件。”立法者的职责和目标不同于例如，寻求出租公寓的在线托管者。他们的目标是制定有效的公共政策并成功连任;第二个目标允许他们继续实现第一个目标（Fenno，1973）。这两个目标都需要与选民密切互动，使州或选区成员感受到被倾听，并拥有有效渠道传达他们的优先事项。AI-MC可能比人工发起的通信更高效，但其改变政治沟通的潜力取决于它能否支持选民与立法者之间可信的沟通。

在本研究中，我们开展实验，探讨个体对政治中AI-MC的接受度。我们探讨多个及时的研究问题：选民如何感知完全或部分依赖人工智能语言技术生成的立法沟通？披露这些技术的使用情况如何影响投票意愿支持立法者？人工智能语言系统有问题的输出可能会如何影响选民对立法机构的信任？为回答这些问题，我们评估了AI-MC的使用如何影响立法者的可信度。在两个在线实验中，我们要求参与者评估由大型生成语言模型GPT-3完全或部分生成的立法回复（Floridi 和 Chiriatti，2020）。在研究1中，我们将AI-MC立法内容的信任度与立法工作人员通常使用的更传统的人工书写和模板式沟通进行了比较。第二项研究探讨了使用产生错误或次级产出的立法沟通AI语言技术如何影响选民信任。

我们的研究结果表明，AI-MC能够提高立法者与选民之间的沟通效率，同时维护选民对立法机关的信任。然而，我们的结果也凸显了透明披露和传达人工智能语言技术使用情况的必要性。最后，我们讨论了人工智能介导通信技术在代表过程中的潜在优势与风险。