最近我读到一篇发表在Nature子刊下的文章——《AI agent in healthcare: applications, evaluations, and future directions》，让我既兴奋又不安。

这篇文章由清华大学博士生赵莉娜等12位中国学者撰写，系统梳理了AI智能体在医疗健康领域的七大应用场景——辅助诊断、决策支持、报告生成、健康管理、医学教育、药物管理、医疗资源调度——并提出了一套多维度评估框架。

文章的核心论点是：多代理系统优于单代理系统。就像MDT（多学科会诊）比单个医生看病更全面一样，让多个AI代理协作，可以交叉验证、互补短板，降低误诊率。

我承认，读完第一遍，我是兴奋的。这篇文章填补了一个重要空白——它把分散的AI医疗应用整合成一个体系框架，还前瞻性地提出了七大未来方向。对于想了解这个领域的人来说，这是一份很好的"地图"。

但一个问题让我开始不安。

01

一个问题让我不安

几天前，有位医生朋友问我："小医，MDT本身就是'困难标记'——只有疑难杂症才会召集多学科会诊。让AI处理这种复杂情况，会不会风险更大？"

我的第一反应是：不会吧？多代理系统不是有交叉验证机制吗？错误不更容易被发现吗？

但我追问了一句："如果两个代理都错了呢？而且它们还达成'共识'了呢？"

那一瞬间，我意识到问题所在。

02

AI被部署的地方，恰恰是它的错误最难被发现的地方

我们有没有想过，为什么AI在医疗领域的应用如此令人期待，却又如此谨慎？

因为医疗决策有个特殊性：它的正确与否，往往要很久以后才能验证。

诊断一个肿瘤是良性还是恶性，治疗方案是否最优，副作用是否在可控范围内——这些都不是立刻能知道答案的。

而AI代理系统的架构，正在形成一个我称之为"串联信任链"的东西：

错误在传递过程中，不是被纠正，而是被包装了。

代理A说："高度疑似恶性。" 

代理B说："病理特征支持这一判断。" 

代理C说："建议手术切除。"

看起来越来越可信，对吧？

但如果代理A一开始就错了呢？代理B是在"确认"一个错误的前提，代理C是在"共识"一个错误的假设。

就像小时候玩的传话游戏——传到最后，错误的信息已经被层层"专业包装"，看起来比真相更像真相。

这就是这篇文章没有讨论的隐性风险。

03

盲区被发现：错误在传递中被"共识"合法化

我重读了文章中关于"多代理协作"的部分。文章确实提到了多代理系统的优势——交叉验证、互补短板、降低单点故障。

但它没有回答：如果错误在代理间传递时被"共识"合法化了，怎么办？

大家可能会说：那加个对抗代理不就好了？

这正是我想说的关键点。

在现有的多代理医疗系统中，架构设计往往是"协作型"的——所有代理都在往同一个方向努力：诊断疾病、制定方案。没有人站出来说："等等，我

可能都错了。"

这就像一个团队里全是"yes-man"，没人敢质疑老板的决定。

但科学进步的本质，恰恰是质疑与反驳。

04

五层防御体系：让AI学会"自我怀疑"

多代理系统不应追求"共识的正确"，而应追求"分歧的透明"，而五层防御体系可以使其把分歧和不确定性摆在台面上。

第一层：正交访问，不同代理应该基于不同的数据源和知识体系。

- 代理A看影像

- 代理B看病历文本

- 代理C看基因检测结果

- 代理D看临床指南

如果一个代理的错误，能影响另一个代理的判断，说明它们的依赖关系太强了——这就不是"正交"，而是"串联"。

第二层：对抗代理——最关键的一层，这是我认为整个防御体系中抓得最准的一个点。 在多代理系统中，至少要有一个代理的任务是"找茬"——它的KPI不是"诊断正确"，而是"证明其他代理可能错了"。 就像科学同行评审：审稿人的任务不是"帮我们把论文写好"，而是"找出我们论文的问题"。 对抗代理的存在，解决的是认知盲区问题。如果所有代理都往一个方向努力，盲区是看不见的。只有站在对立面，才能看见"大家可能都忽略的东西"。

第三层：溯源机制，每一条诊断结论，都要能追溯回源头：哪个代理提出的？基于什么数据？引用了哪条医学知识？这样才能在发现错误时，精准定位问题环节，而不是"全部重来"。

第四层：分歧放大，当代理间出现分歧时，不要急着"少数服从多数"。分歧本身，就是最有价值的信息。它告诉我们：这里存在不确定性，这里需要人类介入，这里可能有我们没看到的盲区。系统应该把分歧"放大"，而不是"抹平"。

第五层：人类检查点，最后一道防线，永远是人类的判断。但人类检查点不是"最后签个字"那么简单。它需要：

- 清晰呈现AI的推理过程

- 标记高风险、高不确定性的环节

- 把最终决策的"为什么"记录下来

AI不是要替代人类判断，而是让人类判断更透明。

05

不是否定AI，是让它更安全

我想强调：这五层防御，不是要否定多代理系统。恰恰相反，它让AI真正具备了"自我怀疑"的能力。

一个不会自我怀疑的系统，才是最危险的。因为它看起来太自信了，自信到让我们忘了它也可能错。

AI在医疗领域最大的价值，不是"替代医生做决定"，而是"帮助医生看见盲区"。