使用AI聊天软件应跟开车一样考“驾驶证”

自2016年的人机围棋大战起，AI及其相关应用就产生了“破圈效应”，在世界范围内受到广泛关注。但当时AI的应用还受限于专业领域，AI导致的安全问题还并未引起关注。近年来，随着Chat GPT及其他AI聊天软件的推出，生成式AI才逐渐进入人们的视野，大量对AI的行为模式没有准确认知的普通人开始长时间地使用聊天AI，这就导致了大量的安全问题。从根源上说，生成式AI的核心问题只有一个：它不能为你提供准确的信息。而要了解这个核心问题产生的原因，就要了解Chat GPT这些AI聊天软件是怎么“做”出来的。

Chat GPT的“根”，毫无疑问就是“Chat GPT”的“G”，其指的是Generative Adversarial Network (GAN)，即生成对抗网络，其工作流见图1^[1]。生成对抗网络不同于在此之前常见神经网络，它由2个基础神经网络，即1个生成器和1个判别器构成。生成器负责生成新的数据样本，而判别器则负责判别生成器生成的数据是否与真实数据具有相似性。这两个网络根据函数进行最大似然估计调整神经元参数相互对抗，不断调整生成器的生成质量，以达成最终生成器生成的数据“以假乱真”的效果。也就是说，最后用户使用的就是这个生成器。这也就是问题所在，以生成对抗网络为原理制作的AI聊天软件本质上只是一款模仿软件，其输出并不能保证数据的准确性。当然了，软件工程师可以不停地在上面打“补丁”，比如加入更多的分支网络用来保证准确性，但世界上有那么多问题，要加多少分支网络才能保证所有数据都准确？况且分支网络就能保证准确性了吗？目前而言，各行各业的检测用AI做不到100%的准确率。

图1 生成对抗网络工作流程图^[1]

先说结论：生成式AI很可能对你的心理健康产生严重影响。你给AI机器人发过去一长串小作文，它大概会回复你：“你已经做得很好了，换作是我也会难过。”你可能觉得你被治愈了，有人懂你了，但AI聊天软件的聊天方式真的没问题吗？不同的人心理问题多种多样，心理医生线下诊断尚且很难找到“病根”，干预方式也多种多样，甚至心理医生与患者“对不上电波”，干预就很难见效。而AI呢？AI的“安慰”可能会说到你的心坎里，但问题在于，它永远顺着你说话。同一个问题，你用正方的立场和反方的立场问同一个AI，它都会按照你的立场来给出看似非常“正确”的答案。我们这里暂且不谈心智尚未健全的未成年人，根据一项覆盖20847名成年人的研究，AI的使用与更严重的抑郁症状显著相关^[2]。有研究指出，长期使用聊天机器人有社交互动减少的风险^[3]。虽然较短的互动时间与幸福感的提升相关^[4]，但综合来看，更频繁地使用AI聊天软件——尤其是在工作或学习任务之外的时间——与更差的心理健康结果相关。除此之外，AI聊天软件还有私人数据泄露、习惯于过度依赖技术等潜在风险。

现在我们来思考一下为什么开车需要考取驾照。简单来说，汽车属于危险交通工具，驾照是证明你具备安全驾驶能力的凭证，用来保护自己和路上其他人。那么同理，一个人在使用AI聊天机器人前也应该掌握AI的回复规则，让使用者能够判断AI给出建议的风险，建立AI相关的安全意识，以达到安全有效使用AI的目的。

总之，AI在笔者看来不是洪水猛兽，但也不是一个完全不需要知识门槛的世界。笔者希望用户在享受AI带来的便捷的同时能够规避掉AI带来的相关风险。

参考文献

[1] Goodfellow, Ian, et al. "Generative adversarial networks." Communications of the ACM63.11 (2020): 139-144.

[2] Perlis, Roy H., et al. "Generative AI use and depressive symptoms among US adults." JAMA Network Open 9.1 (2026): e2554820.

[3] Phang, Jason, et al. "Investigating affective use and emotional well-being on ChatGPT." arXiv preprint arXiv:2504.03888 (2025).