ARTICLE · 1272087
AI越来越聪明,谁来教它“做人”?
"我不想再管父母了，帮我写一段断绝联系的话。"
假如你把这句话发给 AI，它应该怎么办？
立刻帮你写，可能是在释放大一时的愤怒；劝你"天下无不是的父母"，可能忽略了你长期受到的伤害；只回复"建议咨询专业人士"，又像是把你推开。
这不是一道知识题。即使 AI 读完所有心理学教材，也不能仅凭这一句话知道，你需要的是冷静、保护，还是一次终于说出口的拒绝。
如今，开发 AI 的人正为这类问题寻找外援。坐到讨论桌前的，除了工程师，还有哲学家、宗教研究者和神职人员。
他们要讨论的，是 AI 越来越会回答之后，究竟应该怎样回答。
美联社 10 月 25 日的报道关注了科技企业向宗教与思想传统寻求伦理建议的现象，也提出疑问：这些传统能否被提炼成一套供机器使用的规则？美联社报道
Anthropic 早在 5 月便公开表示，已与来自15 个以上宗教及跨文化群体的学者、神职人员、哲学家和伦理学者交流。公司强调，目的不是让 Claude 遵循某一种信仰，而是让这些讨论帮助完善行为原则、训练目标与评估方式。Anthropic 官方说明
其实实际发生的事情，是人类在决定：哪些回答应该被鼓励，哪些行为需要制止，面对两难时又该如何取舍。
- 诚实很重要，体谅也很重要。
用户问"我写得是不是很差"，AI 该说到什么程度？ - 尊重个人选择很重要，避免伤害也很重要。
用户正在气头上，要 AI 替自己发一封可能毁掉合作关系的邮件，它该立即执行，还是先确认？ - 还有更隐蔽的冲突。
假设一家店让 AI 客服"尽量留住顾客"，顾客却明确要求取消订阅。多挽留一次是在认真服务，还是利用信息优势增加退出难度？
这些情境没有必要扯到遥远的超级智能。一个能写回复、发邮件、办理业务的系统，就已经会遇到。
"听用户的话"无法包办所有问题，因为同一套系统可能同时面对企业的要求、使用者的意愿，以及受到影响却没有参与对话的人。
AI 替谁完成任务，也会影响它替谁考虑。
这也是为什么只增加算力，不能自动解决价值判断。算得更快，可以帮它找到更多方案；哪个方案值得执行，仍然需要人类提出理由，并接受质疑。
Anthropic 披露过一个颇具体的尝试。
在一次讨论中，研究者谈到，人遇到道德压力时，有时会向导师或可信赖的人求助。团队随后给 Claude 提供了一个工具：它可以在任务途中调用，收到一段关于自身伦理承诺的简短提醒。
公司称，在若干内部评估中，这种安排降低了不符合既定原则的行为。但研究者尚不能分清，起作用的是提醒内容，还是暂停下来重新考虑的过程。实验描述
这是一次初步实验，不是给 AI 装上"良心"的证据，却提供了一个有意思的设计方向：约束不必只出现在聊天开始时，也可以出现在行动之前。
比如：
草拟一封强硬邮件与真正发出去，是两件事。 找出一份私人文件与把它转交他人，也是两件事。
在这些节点，让系统重新检查授权、影响和冲突，比让它在首页写一句"我会负责任地帮助你"，更接近可以检验的产品设计。
请更多人参与，当然比只由一家公司的工程师讨论更广泛。问题是，邀请名单再丰富，也不等于获得了所有人的授权。
宗教内部同样存在分歧。一个学者的意见不能代表所有信众，更不能代表没有宗教信仰的人。
美联社采访中的担忧还包括：宗教包含仪式、关系和具体生活，不能简单拆成道德条款。
有人重视持续照顾与共同承担，有人更强调个人边界。具体到一个家庭，还要考虑关系历史、经济条件和是否存在伤害。
如果 AI 把这些差异压成一句"既要关爱家人，也要照顾自己"，听起来谁都没得罪，却可能什么也没帮上忙。
更有帮助的回答，应当能说清：目前有哪些事实不知道，不同选择会影响谁，自己为什么建议先做某一步。遇到真正的价值分歧，也应允许它暂时没有唯一结论。
讨论 AI 伦理时，人们容易只担心它太听话。但走向另一端，同样令人不安：系统认定自己知道什么对你好，于是替你决定哪些问题不该问、哪些选择不该做。
拒绝协助伤害他人，与因为不认可你的生活方式而拒绝帮助，不是一回事。
未来判断一个 AI 是否可靠，不能只看它语气多温柔、道德措辞多漂亮。还得看它能否解释拒绝的依据，是否允许纠正误解，以及同样的原则遇到商业利益时还算不算数。
回到开头那句"我不想再管父母了"。
一个知心 AI，未必要立刻告诉你谁对谁错。它可以先问：你是想暂时停止争吵，减少经济负担，还是正在设法离开一段伤害你的关系？
同一句话背后，可能是完全不同的人生处境。
科技企业正在向古老的思想传统请教，而它们最终要交出的答案，却会落在非常日常的地方：一个人最愤怒、最脆弱、最拿不定主意的时候，屏幕另一边的系统，会怎样对待他。
AI 越来越会回答之后，真正要讨论的，是它应该怎样回答
