当AI成为工具:它帮助我们跨越障碍,也带来了新的挑战

阅读提示：

本文约 3300 字，听读时长约 7 分钟，建议根据个人习惯调整读屏语速，以获得更好的收听体验。

低视力伙伴可点击右上角菜单中的“调整字体”，设置舒适的文本大小。

如有其他阅读需求，欢迎随时给我们留言反馈。

7月17日，世界人工智能大会在上海举办。会上，人们谈论着 AI 为生活和生产带来的便利，交流着最新的技术进展，也反思着人工智能可能引发的风险与挑战。

从2022年 ChatGPT 的广泛应用，到2025年豆包、DeepSeek 等国产 AI 产品的相继推出，再到近期受到关注的 OpenClaw 龙虾等新型AI工具。各类AI应用正在快速进入普通人的日常生活。对于大众而言，人工智能早已不再是遥远而高深的技术，而是触手可及、操作便捷的搜索工具和创作助手。

然而，当 AI 不断提升效率、为我们带来便利的同时，一些新的障碍也随之浮现。

7月14日，某摄影比赛被曝出一等奖作品（图1）由 AI 生成；与此同时，有学校发现学生论文中的参考文献为 AI 虚构。

这些新闻也引发了新的思考：AI 一方面帮助我们跨越了许多过去难以逾越的门槛，另一方面，也可能在不知不觉中制造出信息辨别的障碍，以及AI使用的伦理问题。

例如，一个视频究竟是AI生成还是真实拍摄，一段看似合理的AI生成论述是否包含虚假信息，都可能成为新的判断难题。更重要的是，我们该如何划分AI使用的边界。

本期内容，我们将从日常生活中最常见的 AI 软件出发，探讨它们如何减少了人与信息、人与服务之间的障碍，又如何在使用过程中催生出新的障碍，并思考我们应该如何应对这些变化。

图1：某摄影比赛第一名的AI照片

图注：该照片在奖项公布不久后就引发巨大的争议，图中环卫工人衣服上的文字存在结构异常、笔画模糊等典型AI生成特征。

AI如何帮助我们跨越

过去的信息与沟通障碍？

我们在使用各类 AI 软件时，最直观的感受，就是它让原本复杂的信息变得更容易理解。

例如，一篇英文论文，只需借助常见的免费 AI 工具，几十秒内便可以完成中文翻译，还能够自动生成摘要、提炼结论等。这在很大程度上降低了普通人获取知识的门槛。

但AI降低的并不仅仅是普通人的信息获取门槛。对于一些长期面临沟通障碍的人群而言，AI也正在成为连接个体与社会的重要桥梁。

在过去，听障骑手主要依靠平台内的文字消息与顾客进行沟通。然而，在实际配送过程中，文字信息并不一定能够被顾客及时看到或回应。

为减少这一沟通障碍，某外卖平台推出了一项基于AI技术的沟通辅助工具——“智能外呼”（Intelligent Outbound Call, IOC）。

这一功能利用AI文字转语音（Text-to-Speech）技术，将听障骑手输入的文字转换为更加自然的语音，并通过自动电话的方式向顾客传达信息。

例如，当骑手需要联系顾客时，可以在应用中选择预设的信息，例如“您的餐品将放在储物柜中”，或者根据实际情况自定义内容。随后，系统会自动生成语音电话，并在开头说明“我是听障骑手”，帮助顾客理解沟通方式的差异。

一项研究显示（图2），这一AI工具投入使用后，听障骑手的订单完成效率和平台留存情况均有所改善。

图2： AI 应用前后听障骑手工作表现对比。

图注：与 AI使用前相比，AI使用阶段听障骑手的平台留存率有所提高，与非残障骑手之间的差距缩小。

这一案例说明，AI的价值并不只是替代人工完成任务，也可以通过降低沟通成本，帮助残障群体突破一定的就业障碍。

除了信息获取和就业支持，AI也开始进入情绪陪伴领域。

一些研究发现（图3），AI陪伴工具能够通过日常交流，在一定程度上缓解老年人的孤独感，并提供情绪支持。当然，AI无法替代真实的人际关系，但它降低了寻求陪伴和表达情绪的门槛。

然而，当信息获取越来越容易时，另一个问题也开始出现：

我们获得的信息，真的可靠吗？

图3：韩国利用人工智能帮助老年人的报道页面

图注：主页大标题为：“他们说，是 AI 救了我”：韩国如何利用人工智能守护老年人

当AI开始创造内容，

信息判断成为新的挑战

相信经常使用 AI 软件的人，都可能遇到过这样的情况：AI 能够在短时间内生成一段结构完整、语言流畅的回答，但其中却可能隐藏着并不存在的信息。

例如，AI 可能生成一个实际不存在的链接，引用并不存在的文献，或者提供已经过时的数据。

这类问题在人工智能领域被称为 LLM Hallucination（大语言模型幻觉），主要表现为事实捏造、信息错误以及细节失真。

更值得注意的是，AI生成的信息并不一定表现为明显的错误。有时，一段回答整体观点看似合理，但其中涉及的时间、地点、人物关系等具体信息却可能完全不准确；甚至还会出现“伪精确”（False Precision）现象：AI提供大量看似专业的数据和细节，但这些内容实际上并没有可靠依据。

这意味着，AI时代的信息障碍正在发生变化：过去，人们面临的困难可能是“无法找到信息”；而如今，我们更需要面对的是“如何判断信息是否真实”。

有研究（图4）进一步分析了AI产生错误答案的原因。

研究发现，这类问题一方面源于大语言模型自身的局限，另一方面，用户输入的提示词（Prompt）以及上下文信息，也可能影响AI生成结果，使其进一步产生看似合理但并不准确的回答。

这意味着，AI带来的挑战并不仅仅是“错误信息增加”，而是错误信息可能以更加真实、更加可信的形式出现。

过去，人们面对的信息障碍可能是“找不到信息”；而在AI时代，新的障碍逐渐转变为：我们如何判断眼前的信息是否真实？

AI降低了信息获取的门槛，却也提高了信息辨别的要求。当任何人都可以快速生成文字、图片和视频时，判断信息来源、理解AI局限、保持批判性思考，正成为每个人都需要面对的新挑战。

而这也进一步引出了一个重要问题：

在AI快速进入日常生活的今天，我们是否已经具备与这项技术相处的能力？

图4：论文标题：大语言模型的幻觉如何像滚雪球一样不断扩大。

图注：摘要主要论述了当模型一开始给出错误答案后，它往往会继续编造更多错误的细节来支持自己的结论，形成“滚雪球式幻觉”，使错误不断累积和扩大。

AI素养：人工智能时代，

我们需要怎样的能力？

当AI不断降低信息获取的门槛时，我们也正在进入一个全新的信息环境。

正如前文提到的，AI生成的文字、图片和视频正在变得越来越接近真实。它们可以帮助我们提高效率，也可能在不知不觉中模糊真实与虚构之间的界限。因此，在人工智能时代，除了掌握AI工具本身，我们还需要具备理解、判断和合理使用AI的能力。

今年3月，《南风窗》曾报道过一则新闻：一位老人沉迷于AI“霸总”视频，在情感交流中逐渐放下戒备，最终被骗钱（图5）。

这一事件表面上看，是一起利用AI技术实施诈骗的案例，但更值得关注的是，它反映出部分群体在面对AI生成内容时，仍缺乏足够的信息判断能力。随着AI技术的发展，人们不仅需要判断一段文字是否真实、一张图片是否经过AI生成，也需要理解网络中的视频人物，究竟是真实的人，还是由算法创造出的虚拟内容。

近年来，一个新的概念逐渐受到关注——AI素养（AI Literacy）。

AI素养强调的并不仅仅是一个人会不会使用AI工具，更重要的是能否理解AI的基本运行逻辑，合理利用这项技术，并能够对AI生成的信息进行判断、评估，认识其中可能存在的局限与风险。

换句话说，AI素养不仅意味着知道AI“怎么用”，也意味着知道AI“可能错在哪里”。

面对AI生成的内容，我们需要思考：这段信息是否有真实来源？这些数据和案例是否经过验证？AI提供的建议是否适用于具体情境？

这些问题，正在成为人工智能时代每个人都需要面对的新能力挑战。

然而，AI真正进入大众生活也不过短短几年时间。对于许多老年人、儿童，以及对AI技术了解有限的人群而言，他们接触和使用过AI，却未必拥有识别AI内容真实性的能力。

这也意味着，人工智能时代产生的新障碍，并不只是技术本身带来的问题，而是技术快速发展与公众理解能力之间产生的差距。

因此，提升全民AI素养，并不是要求每个人都成为人工智能专家，而是帮助人们建立面对AI信息时的理解、判断和反思能力。但与此同时，个人能力的提升仍然不足以应对所有挑战，AI时代的安全使用也需要制度层面的支持与保障。

图5：老年人与AI虚拟视频

图注：图片由AI生成

让AI成为跨越障碍的工具，

而不是制造新的障碍

我们对AI的理解，本身就是一个不断深入的过程。当我们享受着AI带来的信息获取便利时，也逐渐开始意识到，AI生成的内容并不等同于事实本身。

去年9月，国内发布了《人工智能生成合成内容标识方法》，要求对AI生成的文字、图片、音视频等内容进行标识。然而，在实际应用过程中，仍存在部分AI生成内容未按规定标注的情况，许多人也尚未形成辨别AI生成内容真实性的能力。

如果说技术的发展更多依赖于开发者不断优化算法与模型，那么，如何保障每一位使用者能够安全、合理地使用AI，减少人工智能时代的信息判断障碍，则不仅需要提升全民AI素养，也需要法律、教育、媒体等不同领域共同参与，持续完善与AI相关的政策法规和伦理规范。

只有技术创新、社会支持与制度建设同步推进，AI带来的便利才能真正服务于每一个人，让技术的发展方向始终回归人的需求。