如果未来出现能帮助老年人独立生活的辅助型人工智能系统,那么在使用这些系统的过程中,可能会面临一个关键问题:当老年人认知能力持续下降到连AI也无法再有效帮助他们时,谁应该接手决策责任?
随着人口老龄化加剧,许多老年人担心一旦出现认知衰退,就会失去独立生活的能力。甚至一些年轻人早早就开始担心自己的老年生活。
人工智能被寄予厚望,可能帮助老年人管理药物、支付账单、安排日程、监测健康状况等。
该研究以一位名叫莎拉的八旬老人为例:她独自居住,需要服用多种药物,但最近开始搞混早晚用药,有时忘记续方(慢性病患者在病情稳定后,通过复诊或线上渠道再次获取相同处方药品的医疗服务流程),自己整理药盒也越来越吃力。她的子女开始怀疑,是否已经到了需要由家人或护工来接管药物管理任务的时候。研究者将这种时刻定义为“代理权转移点”——当一个人因认知衰退无法再持续做出符合自身利益和价值观的决定时,就需要将决策责任转移给另一位代理人。
研究分析了AI系统可能帮助老年人推迟代理权转移点的四种方式。
1.降低关键任务的复杂性。比如AI自动整理收入和支出数据,生成账单提醒,让老年人无需手动核算;
2.降低任务的风险。例如AI可以监控老人在厨房做饭的过程,减少使用炉灶的风险;
3.增强老人的决策能力。比如AI通过提醒服药时间弥补记忆缺陷,或用通俗语言解释复杂选项;
4.将重要决策安排在老人一天中认知状态最好的时间段。比如在早饭后到午餐前这段时间讨论医疗方案。
这些方法各有侧重,实际应用中往往会结合使用。
然而,研究指出一个尚未被充分认识的问题:即使AI系统成功帮助老人推迟了代理权转移点,老人的认知衰退通常仍在继续。最终,AI的支持可能也无法弥补老人的能力缺口,代理权转移点会再次出现。换句话说,老人可能在某一天连在AI指导下也无法完成药物分拣或做饭,这时系统必须做出反应。如果AI什么都不做,老人将面临健康风险;但如果AI擅自行动,又可能违背老人的意愿。
研究认为,这种情况带来新的困境。AI就像一座桥,但桥的另一端如果没有安排好人接应,老人行动的危险性必然增大。
面对这一问题,研究者讨论了三种不同的应对政策。
第一种是“自由放任”,即不要求老人在使用AI系统前指定代理人。但这样做的风险在于,当老人真正失去决策能力时,可能已经无法告知AI该联系谁,也没有任何事先计划。研究认为,这种做法对于最脆弱的老年人群体——那些缺乏亲友支持网络、不愿麻烦家人或与家人关系疏远的老人——可能造成极严重的后果。
第二种是“法定默认顺序”,即当老人没有指定代理人时,AI系统自动联系公共紧急服务或社会福利机构。但在美国(本研究的国家背景),各州对默认代理人的规定不同,可能将权力转交给老人本来不希望依赖的家庭成员。同时,频繁的误报也会增加紧急系统的负担。
第三种是“应急规划”,即要求老年人以使用AI辅助系统为条件,事先完成代理权转移的规划。具体来说,当老人选择使用AI来帮助自己完成一项关键任务时,系统必须要求他指定在代理权转移点出现后,该任务的责任应该转移给谁。如果不愿意立即指定,也需要在规定的时间窗口内完成,以确保这个窗口结束时老人仍保留决策能力。研究者认为,这种政策虽然在短期内限制了老人的自主选择,长远来看是为了尊重他们的自主权和福祉——确保当老人无法再表达和行动时,仍能按照他们自己的价值观和愿望被照顾。同时,提前指定代理人也让代理人有机会了解老人的意愿,逐步介入照顾过程,避免突然接手带来的不适应。
研究进一步探讨了AI系统本身在应急规划中可能扮演的积极角色。
第一,AI可以在帮助老人完成具体任务时,顺势发起“情境中的对话”。比如在帮老人分药时问:“如果以后我帮不了你了,你希望联系谁来帮你?”这种在具体情境下的讨论,可能比抽象地谈论未来更容易让老人表达出真实而细致的偏好。
第二,AI可以作为一个存储库,记录老人关于代理权转移的权威性陈述。比如老人明确说“如果我将来无法独自管理医疗账单,我想让我的女儿帮我”,AI可以将这句话记录下来,避免被当作随口一说的话而在日后忽略。
第三,AI可以尝试根据对老人社交网络和偏好的建模,推断出老人可能希望谁来担任代理人。但研究者认为,这种推断能力需要经过大量研究验证,并且存在编造信息的风险。
第四,在代理权转移点发生后,AI可以继续为代理人提供支持。比如告诉老人的子女,老人喜欢吃什么饭菜、习惯什么时间吃药等。
对于AI系统本身能否直接充当代理人,研究持保留态度。目前AI系统还远不具备执行家务任务所需的物理能力,而且最先进的对话式AI存在“胡编乱造”的问题,无法满足对老年人重大利益决策所需的可靠性和忠诚度。
不过,研究认为,虽然能够帮助老年人独立生活的辅助型AI尚未真正问世,但现在就应该提前思考这些问题。未来的AI系统在设计时需要考虑如何识别和应对代理权转移点的再次出现,如何帮助老年人完成应急规划,以及如何向代理人提供准确的信息。同时,政策制定者也应该制定相应的证据标准和性能要求,确保这些系统在管理代理权转移时能够安全可靠地运行。避免让依赖AI独立生活的老年人,最终站在一座“无处可去的桥上”。
参考文献:London, A.J., Chang, M.L., Reig, S. et al. Avoiding a bridge to nowhere: managing the transfer of agency when an older adult can no longer use assistive AI. AI Ethics 6, 138 (2026).
人类声明
本栏目内容涉及AI技术的社会影响、伦理讨论及未来展望,包含公开资料、作者个人观点、学术探讨、跨界思辨等,旨在引发思考与对话。无论人工智能如何发展,人类都应保持批判性思维,独立判断。欢迎在评论区理性探讨,但思辨就是这样,很可能没有“答案”。这不代表我们的思考是没有意义的。
如有存在内容侵权、不希望被转载等情况,原内容创作者可私信本账号说明,账号将立即进行删除处理。
夜雨聆风