ARTICLE · 1270932
AI个人助手的记忆管理三原则:可信、可控、可进化
美国科幻作家艾萨克·阿西莫夫，在1942年发表的短篇小说《转圈圈》（Runaround）中首次完整列出了“机器人三定律”，这篇小说后来收入1950年出版的《我，机器人》。三定律要求机器人首先避免人受到伤害，包括不能因不作为而放任伤害发生；在不违背第一条的前提下服从人的命令；在不违背前两条的前提下保护自身。〔1〕这套科幻设想让人思考：当机器开始替人做事，我们需要它遵循怎样的原则？
AI个人助手把这个问题带进了人机长期协作。用户希望它专属于自己，了解自己的处境，记住相关背景，并在不同任务中提供帮助。在讨论了个人信息、用户画像与AI记忆的异同之后，我想进一步讨论：AI个人助手的用户记忆管理应该遵循的三个原则，即 “可信、可控、可进化”。
01
TRUST
一、可信：把对用户的了解用于维护用户利益
可信，是用户能够有根据地相信，个人助手会把对自己的了解用于维护自己的合法利益。
我在此前的《用户信任——观察Personal Agent（个人助理）的业务指标》一文中提出，当用户合法利益与平台商业利益冲突时，个人助手应当站在用户一边。用户对个人助手的这种信任，有别于用户对企业、品牌、技术和安全能力的信任。
落实到用户记忆，可信包含两个层次。一是利益上的约束：记忆不能被平台用来操纵用户选择、促成违背用户利益的消费、额外信息处理或阻碍退出。二是使用上的可靠：个人助手应当区分事实、推断和过期信息，承认自己不了解或判断不准的地方，不能以迎合表达代替可靠判断。
用户对个人助手的信任必须通过一次次的任务执行来建立，在每次任务执行中，个人助手都要能够完全站在用户利益的立场上给出建议和完成任务，尤其涉及资金、健康和个人信息。例如，准确预算有助于个人助手替用户安排和议价，却不能擅自透露给商家；用户明确说明的食物过敏，也不宜简化为普通的“不喜欢”；个人助手能够主动说明“这件事不需要读取你的全部记录”，并用较少的信息把事情办好，同样能让用户更放心。
02
CONTROL
二、可控：用户参与决定个人助手怎样认识自己
可控，是用户能够参与决定个人助手怎样认识自己，以及这种认识怎样影响服务。
控制对象因而比“保存了哪些资料”更宽泛：哪些来源可以被读取并整理成记忆，哪些内容可以形成推断、长期保留，哪些记忆适用于哪些场景、在当前判断中占多大分量，都需要在产品设计上允许用户的选择控制。个人助手主动提出建议的程度，以及能够自主采取行动的范围，也应当可以分别调整。
这些选择可以有总体预设，也可以有场景例外和当次调整。用户不需要管理每一个技术参数，但应当能用容易理解的方式表达意图，例如：“工作中多结合过去的协作经验；这次休假给我一些新选择，不要过分依赖以前的偏好。”
“开关”和“程度调节”都可以成为一种直观的交互入口，但需要明确它们分别调节什么。主动程度、探索程度、记忆使用程度和行动自主权，可以分别变化。用户希望建议更有意外感，可能恰恰需要降低对用户过往偏好的依赖，同时保留明确的预算和时间要求；用户也可能允许充分调用记忆，却要求所有的对外主动联系必须先经过确认。
可控能否落实，可以从三个方面判断：
能表达。
用户有办法说清自己的选择，便捷的模式设置不要求他先成为隐私管理专家。
能生效。
选择真正改变读取、保存、检索、建议或行动，而不只是改变个人助手的语气。
能核对和修正。
用户能够理解主要变化，发现不合适时可以纠正、暂停或撤回。
03
EVOLUTION
三、可进化：使理解与服务持续适应用户
可进化，是个人助手持续修正对用户的理解、调整协作方式，并改善服务能力，使它适合用户当前认可的需要。这里既包括用户人生阶段的成长变化，也包括普通变化、阶段性调整、保持稳定，以及停止某种服务。
为了实现这种可进化，涉及三类更新：
信息更新：
事实变了、记录错了、期限到了，能够及时处理。
理解更新：
区分长期变化、当次例外和过去的误解，避免每次新选择都覆盖旧信息，或用旧评价解释所有新行为。
服务更新：
把反馈落实到后续任务中，减少重复纠正，适应新的限制，掌握用户认可的协作方式。
因此，定期检查是必要机制，同时还应结合用户即时纠错和重要变化触发的复核。能力进化不等于记忆越来越多，删除错误判断、降低旧偏好的权重、停止无效推断，都可能改善服务。
∞
EPILOGUE
小结
用户对AI个人助手的朴素期待是更聪明、更能干、更懂用户，也有很大可能在需要交出自己的信息、事务处理权限时心存疑虑，还有人会对模型能力的不断变强感到不安和害怕。我们不能只是将此归为人性的复杂和矛盾，然后寄希望于底层模型的能力进步、人对新技术的逐步适应，认为可以自然消解这些问题。对AI助手的用户记忆管理加以设计，遵循可落地的原则，可以让人机长期协作关系的建立和维系更加顺滑、安全。
参考资料
〔1〕阿西莫夫与机器人三定律。
《科幻百科》：《Asimov, Isaac》。
https://sf-encyclopedia.com/entry/asimov_isaac
《科幻百科》：《Laws of Robotics》。
https://sf-encyclopedia.com/entry/laws_of_robotics
范德堡大学图书馆：《Runaround》。
https://exhibitions.library.vanderbilt.edu/scifi/item/runaround/
