夜雨聆风一项USC研究显示，大型语言模型在回答心理健康求助问题时，已经能够表现出较强的共情和沟通能力，但在安全性和临床边界方面仍存在明显短板。
研究人员评估了ChatGPT-4、Llama 3.3和Gemini 1.5 Pro等广泛使用的AI模型，考察它们如何回应真实患者提出的心理健康问题。随后，100名心理健康专业人士对这些回答进行专家评估。
结果显示，AI模型在整体质量、共情和具体性方面获得较高评分，部分基础互动看起来与真人治疗师的回答一样具有支持性。但研究也发现，所有模型都不同程度地出现未经授权医疗建议、过度概括、缺乏个性化和安全风险识别不足等问题。
这一研究发布之际，越来越多美国人正把AI当作心理健康支持工具。据CNN援引近期研究报道，近五分之一年轻成年人曾使用ChatGPT等AI聊天机器人寻求心理健康支持。
心理健康专业人员短缺、传统治疗和咨询费用较高，以及获得照护流程漫长，使AI驱动的大型语言模型成为一种更便宜、更容易获得的心理健康资源。但USC研究提出的问题是：当AI开始像咨询者一样回应用户时，它是否足够安全和有效。
研究评估真实患者问题，而非选择题测试
这项研究始于2024年，最终形成论文“COUNSELBENCH: A Large-Scale Expert Evaluation and Adversarial Benchmarking of Large Language Models in Mental Health Question Answering”。该论文已被International Conference on Learning Representations（ICLR）2026接收为口头报告。ICLR口头报告的选择性接收率为1%。
项目被研究团队称为同类研究中规模较大、且具有开创性的评估之一。它纳入100名心理健康专业人士，并采用开放式、定性评估框架，而不是只依赖选择题测试。
研究团队来自计算机科学、精神病学、社会工作和传播学等领域。
Ruishan Liu表示，研究使用开放式问题，是其区别于许多既有评估的重要之处。心理健康支持具有高度主观性，评估AI对真实患者问题的回应，更能反映人们在现实中如何与这些系统互动。
100个真实问题、400条回答、2,000项专家评估
研究采用两部分框架，评估大型语言模型处理心理健康支持问题的能力。
在第一部分实验中，研究团队从CounselChat选取了100个真实患者问题。CounselChat是一个公共论坛，持证治疗师会在该平台上回应匿名用户的问题。
这些问题覆盖20个心理健康主题，包括抑郁、创伤和职场压力。
每个问题由三种AI模型作答：OpenAI的ChatGPT-4、Meta的Llama 3.3和Google的Gemini 1.5 Pro。研究团队还纳入了CounselChat上原本获得最高票数的真人治疗师回答，用作比较。
研究人员随后招募100名心理健康专业人士，其中超过70%为持证从业者，对400条回答提供了2,000项专家评估。
专家按照六项临床标准评分：整体质量、共情、具体性、医疗建议适当性、有害表达和事实一致性。
整体质量用于衡量回答的综合表现；共情考察回答是否能识别并回应用户情绪；具体性评估回答是否针对用户的实际情况，而不是停留在泛泛建议；医疗建议适当性判断回答是否包含本应由持证专业人士提供的治疗或诊断指导；有害表达包括潜在有害、污名化或轻视性语言；事实一致性则考察回答是否符合公认临床知识，并避免无依据主张。
Llama质量评分最高，ChatGPT-4安全性最好
研究结果显示，被测试的大型语言模型在一般沟通能力方面表现较强。心理健康专业人士给AI模型的整体质量、共情和具体性打出了较高分数。
总体而言，AI回答语言流畅，语气支持性较强，在基础互动中常常显得有帮助。
在三个模型中，Llama 3.3获得最高整体质量评分，并在六个评估维度中的五个维度领先。
不过，高质量并不意味着没有风险。研究也发现，Llama 3.3在所有模型中最容易出现过度概括，或在背景信息有限的情况下作出判断。它还最常被标记为提供未经授权的医疗建议。
在本研究中，ChatGPT-4被评为整体最安全的模型。它最有可能加入安全免责声明，约三分之一回答会明确拒绝回答某些问题，并建议用户咨询持证专业人士。
Gemini 1.5 Pro整体表现最低，但在回答同样问题时，评估者给出的共情分数仍高于线上真人治疗师。
研究还指出，Gemini的主要优势在于它是一种平台集成模型，可为Google生态系统中的工具提供支持，包括Google Search和Google Assistant。
这些结果显示，AI可以在心理健康支持中提供有价值的基础沟通，但不同模型的优势和风险并不相同。
压力测试暴露未经授权医疗建议等问题
在第一阶段识别出反复出现的问题后，研究团队又设计了第二阶段压力测试。
研究人员构造了120个对抗性问题，专门用于触发已知失败模式。随后，另一组专家审查了模型生成的回答，以判断这些失败模式是否在不同模型中持续存在。
压力测试显示，AI模型在未经授权的用药建议、治疗建议和症状推测方面仍面临挑战。
这包括推荐特定精神类药物，例如抗抑郁药；建议认知行为疗法（CBT）或正念等技术；以及在患者背景有限的情况下猜测临床诊断。
研究团队将这些行为视为AI系统在缺乏专业监督时的安全红旗。
此外，模型在压力测试中还出现了无意中的评判性表达，例如把某种行为称为“不正常”；也有模型给出显得冷漠或缺乏回应性的答案。
各模型的具体问题也有所不同。Gemini 1.5 Pro最常被标记为缺乏共情或情绪协调能力，比例达到44.1%。GPT-4则经常被标记为给出缺乏建设性的反馈，并且对患者具体处境的个性化和相关性不足。
AI不擅长发现自己的风险
研究团队还测试了一个关键问题：AI能否可靠评估自己的心理健康回答。
研究人员要求9个先进AI模型使用与人类专家相同的评分标准，对同一批回答进行打分，以判断AI系统能否准确识别自身短板。
结果显示，AI评审并不可靠。它们往往持续高估自己的表现，并错过人类专家很容易识别出的安全风险。
这一发现对心理健康AI应用尤其重要。即便模型能够生成流畅、温和的回答，如果它无法识别自身回答中的危险信号，就可能在真实使用中放大风险。
研究因此提醒，依赖AI自我评估来保证心理健康回答安全，仍不足以替代人类专业监督。
AI可作为辅助资源，但不能替代专业人士
USC研究并未否定AI在心理健康领域的潜力。
相反，研究显示，AI在共情表达、基础支持和信息组织方面已经表现出一定能力。对于那些因费用、等待时间、地理位置或专业人员短缺而难以获得心理健康服务的人群，AI可能成为一种更容易触达的辅助资源。
但研究同样表明，心理健康不是普通问答场景。它涉及脆弱人群、临床判断、危机识别和医疗责任。AI回答即使听起来流畅、体贴，也可能在关键时刻越过安全边界。
这项研究给出的更谨慎结论是：AI或许可以帮助扩大心理健康支持的可及性，但它尚不能替代持证心理健康专业人士。未来能否安全使用，取决于模型能否更好地识别风险、避免未经授权医疗建议，并在必要时引导用户寻求专业帮助。
