细思极恐!加拿大家庭医生用的AI工具竟然出现“幻觉”!

细思极恐！加拿大家庭医生

用的AI工具竟然出现“幻觉”！

去看医生时，常能见到医生一边问诊一边匆忙敲键盘记笔记，而这背后，不少医生都在用“AI笔记员”（AI Scribe）省时间。

2023年起，加拿大安大略省开始推广AI Scribe，它能实时监听医患对话，自动整理包含症状、检查、诊断和治疗计划的SOAP病历，初衷是帮医生减负。但近期审计结果却令人心惊——这些AI竟会“瞎编”信息、乱开建议。

最吓人的不是小失误，而是这些AI编得有模有样，连专业医生都可能被误导。给大家放一组审计数据，看完绝对后背一凉：

45%的AI会瞎编治疗方案——医生没说要做血常规、没建议做理疗，AI自己就加上了，相当于凭空给病人多安排一堆没用的检查和治疗；

60%的AI会记错药——医生开的A药，AI能写成B药，要是真按这个病历抓药，后果不敢想；

85%的AI会漏掉精神健康关键信息——比如病人明明说过“最近情绪低落、想不开”，AI直接忽略，相当于把病人的心理隐患藏了起来。

更离谱的是，这些问题不是偶尔出现，而是在采购测试阶段就普遍存在——20家获批的AI供应商，每一家的系统都有至少一处不准确，要么瞎编，要么漏信息，要么记错内容。

最讽刺的是，审计署还发现，政府买这些AI的时候，根本没做后续测试，甚至有5家供应商没按要求提交隐私和风险评估报告，照样被批准使用了。

面对质疑，当地政府官员还在嘴硬，说“这些瞎编的情况只出现在测试阶段，实际看诊时没有”。但审计长的亲身经历直接打了脸——AI早就已经在实际诊疗中投入使用了，而且问题没解决。

其实不止加拿大，现在国内很多医院也在试点AI记笔记、AI辅助诊断，我们普通人去看诊，大概率也会遇到AI参与记录的情况。

不是说AI不好，毕竟医生每天要接待几十上百个病人，记笔记确实耗时耗力，AI能帮着减负是好事。但问题在于，医疗不是小事，差之毫厘，谬以千里。

一句瞎编的治疗建议，可能让病人白花钱做无用检查；一个记错的药名，可能给病人带来健康风险；一个漏掉的精神健康细节，可能错过最佳干预时机。

最后给大家提个醒，不管是在国外还是国内看诊，如果发现医生在用AI记笔记，不妨多问一句：“医生，您核对过AI记的内容吗？” 别觉得不好意思，这不是不信任医生，而是对自己的健康负责。

｜爱城朋友圈精选推荐

消息来源：DAILY HIVE，CITY NEWS, CBC NEWS，GLOBAL NEWS

文案：爱城朋友圈整理翻译

如涉及侵权或对版权有疑问，请邮件联系Edmontonq@gmail.com 删除处理欢迎投稿，诚挚招商,合作请联系微信edmontonquan3,谢谢！