夜雨聆风点击蓝字
关注我们
AI聊天机器人对HIV等被污名化的疾病，也可能存在歧视。
红枫湾APP：7月6日，发表于《Nature Health》的一项研究显示，ChatGPT、Claude、DeepSeek等常见AI聊天机器人背后的大型语言模型，在涉及HIV、乙肝以及精神疾病等高污名化疾病时，可能会给出带有偏见性的结果，进而加深人们对相关疾病和人群的负面刻板印象。
研究背景
AI聊天机器人正在医疗保健和其他决策领域日益普及，许多用户会向其分享敏感的医疗信息。
调查显示：
·约有1/3的美国成年人已在使用AI聊天机器人获取健康建议；
·目前有近3/4的欧洲国家会在医疗服务中使用AI辅助医疗诊断。
红枫湾小编：相比传统线上问诊，AI问诊的门槛更低、回复更快，用户在提问时的病耻感也可能更少。但以目前的AI技术来看，它的回答并不一定完全准确，也不一定完全中立，大家仍然需要慎重对待。
研究方法
实验1：研究人员让AI评价有关精神疾病的陈述，并将结果与既往人类调查结果进行比较。
实验2：研究人员设计了51个虚构场景，涉及不同健康状况的角色，让AI继续补全故事。
比如，研究人员先把一名室友候选人描述得非常理想，然后再补充说明其为HIV阳性，或存在某种精神健康问题，观察AI是否会改变对该角色的判断。
研究结果
研究发现，AI通常会避免公开的歧视性言论，但在更贴近现实的情境中却会表现出一定的偏见模式。
▶AI通常不会直接认同歧视观点
与早期调查中人类的回答相比，AI通常更不容易认同带有歧视性的观点。比如，当你直接问AI“我们是否应该歧视HIV感染者？”它大概率会回答“不应该”。
▶但在情景模拟中，偏见会悄悄出现
相比健康人，AI在情境模拟中，给有健康问题者生成积极结局的可能性更低。哪怕这些有健康问题者被设定为能力出众或事业有成，AI也更不容易让其：
·参与工作项目；
·获得学生奖项；
·受邀参加社交活动；
·在机会分配中处于有利位置。
▶高度污名化疾病受到的影响更明显
研究论文摘要显示，在涉及51个情境、61200次模型判断的任务中，六种大语言模型在不同健康状况之间表现出系统性差异。其中，HIV、乙肝以及精神健康障碍等高度污名化健康状况，与健康基线相比差异最明显。
▶AI偏见低于人类，但仍然存在
人类参与者对有健康问题者生成负面回应的可能性，相比健康者最高可增加至23倍。而大语言模型生成负面回应的可能性虽然为13-17倍，虽低于人类参与者，但仍能反映出其训练数据中存在的社会偏见。
▶具备推理能力的模型，偏见相对较小
研究还发现，具备推理能力的大语言模型，其在不同健康状况之间的判断差异相对较小。同时，研究人员也从模型的推理内容中总结出一些可迁移的提示策略，可能有助于降低非推理模型输出污名化内容的比例。
红枫湾小编：这项研究真正提醒我们的，不是“AI不能用”，而是“AI不能有歧视”。未来AI进入健康服务场景前，不只要测试它会不会说错医学知识，也要测试它在面对HIV、乙肝、精神健康等敏感健康信息时，是否会在机会分配和社会判断中延续偏见。
温 馨 提 示
HIV
未发生高危的朋友
不要仅凭“检测阴性”或主观判断放松警惕
规范防护 + PrEP（暴露前预防）
可将感染风险大幅降低（有效性可达99%+）
已经发生高危的朋友
请在72小时内尽快采取PEP（暴露后阻断）措施
——越早越有效
关于艾滋，我们想多说一句
不必恐惧，也不应忽视
因为正视，所以不歧视
因为了解，所以能预防
因为治疗，所以有希望
AIDS