夜雨聆风从一部新规开始
今年4月，国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合发布《人工智能拟人化互动服务管理暂行办法》，并将于7月15日起正式施行。
根据公开资料，这是我国首部专门针对拟人化互动型人工智能服务的监管规则。该办法将虚拟伴侣、虚拟亲属、情感陪伴等拟人化互动服务纳入重点监管范围，并针对未成年人保护、防沉迷、情感依赖干预以及安全评估等问题提出了专门要求。
这一监管动态值得关注。
过去几年，中国关于人工智能的监管重点主要集中于数据安全、算法推荐、生成内容管理以及平台责任等领域。而此次针对拟人化互动服务的专门监管，则反映出监管视角正在发生变化：关注点不再仅仅是AI生成什么内容，而开始进一步延伸到AI如何影响人。
事实上，这种变化并非中国独有。
最近以来，澳大利亚推动针对未成年人使用社交媒体的限制措施，英国则在儿童在线安全改革中持续强化对于推荐机制、内容分发逻辑以及平台设计责任的监管要求。虽然不同国家的制度安排并不相同，但其背后所反映的担忧却高度一致：当算法和人工智能越来越深地介入用户认知、行为甚至情绪时，我们是否需要重新思考技术发展的边界。
从“注意力经济”到“影响力经济”
互联网时代最重要的商业资源是什么？答案往往是注意力。
过去二十年，大部分互联网商业模式都建立在争夺用户注意力的基础之上。平台通过不断优化推荐算法，分析用户兴趣和行为习惯，尽可能延长停留时间，提高点击率和用户参与度。
从商业角度来看，这无疑是一种成功模式。
但与此同时，我们也看到了越来越多关于信息茧房、网络沉迷、未成年人保护以及算法影响用户行为的争议。进入生成式人工智能时代之后，这种影响正在进一步深化。
推荐算法主要决定用户看到什么，而拟人化AI则开始影响用户与谁交流、向谁倾诉，以及从哪里获得情感反馈。随着AI逐渐具备长期记忆、人格设定和持续互动能力，其影响对象已经不仅是用户的注意力，也开始触及用户的情绪、信任和认知。
某种意义上说，互联网平台过去争夺的是用户时间，而未来AI系统所争夺的，可能是用户的信任甚至情感。
这也正是近年来全球监管部门越来越关注拟人化AI、青少年保护以及平台设计责任的重要背景。
AI既可以帮助人，也可能影响人
讨论这些问题，并不意味着否定人工智能的发展价值。
恰恰相反，人工智能正在成为推动生产力提升的重要力量。从知识获取、教育培训到医疗健康、科研创新，AI已经在越来越多领域展现出积极作用。
但任何强大的技术都具有双面性。
人工智能既可以帮助用户提升能力，也可能利用用户弱点；既可以促进独立思考，也可能强化固有偏见；既可以成为高效工具，也可能逐渐演变为情感依赖对象。
随着AI能力不断提升，人们开始意识到，仅仅讨论技术是否先进已经不够。更重要的问题是：
这些技术应当如何被使用，它们应当遵循什么样的价值原则，以及它们希望对人产生什么样的影响。
也正是在这样的背景下，“AI伦理（AI Ethics）”逐渐从学术讨论走向产业实践，并开始成为全球AI治理的重要议题。
Claude《宪章》讨论的不是规则，而是品格
在众多AI伦理探索中，Anthropic发布的Claude《宪章》无疑是近年来最具代表性的实践之一。
与多数AI治理文件不同，Claude《宪章》并没有把重点放在风险清单或者禁止事项之上。相反，它尝试回答的是一个更加基础的问题：
一个先进的人工智能系统，应当具备什么样的行为品格。
读完后会发现，Claude《宪章》反复出现的并不是性能、效率或者能力，而是诚实、谦逊、尊重自主性、避免操纵以及避免形成依赖等概念。
例如，Claude《宪章》强调，对于缺乏充分依据的问题，应当承认不确定性；对于存在合理争议的问题，应当呈现不同观点；对于可能存在错误的判断，应当接受纠正并持续修正。
从专业服务的角度看，这种理念并不陌生。真正成熟的专业人士并非永远正确，而是知道自己的边界，并尊重不确定性的存在。
某种意义上，Claude试图塑造的并不是一个永远有答案的AI，而是一个知道自己何时没有答案的AI。
一个优秀的AI，应当尊重人的自主性
Claude《宪章》中另一个值得关注的原则，是其对于“帮助用户”的重新定义。
在许多商业产品逻辑中，让用户满意往往被视为首要目标。但Claude提出，帮助并不等于附和，理解也不等于认同。
如果用户存在明显误解、偏见甚至极端立场，AI不应为了获得认可而简单迎合，而应当帮助用户理解更加全面的信息和更加复杂的现实。
这一原则实际上触及了一个越来越重要的问题：未来的AI究竟是在帮助人思考，还是在替代人思考？
如果一个系统永远只告诉用户他们想听的话，那么它获得的可能是短期满意，但失去的却是独立判断能力。
从这个角度看，Claude希望塑造的更像是一位具有独立思考能力的顾问，而非一个无限顺从的数字助手。
最值得关注的一点：不要制造依赖
如果说Claude《宪章》中有什么内容最具有前瞻性，我认为并不是安全规则，而是关于“依赖关系”的讨论。
Claude《宪章》明确反对利用用户脆弱性建立特殊情感联系，反对通过强化自身重要性增加用户依赖，也反对将AI塑造成不可替代的情感寄托。在其看来，用户持续使用AI，应当源于真实价值，而非依赖关系本身。
这一理念与传统互联网时代的商业逻辑形成鲜明对比。
过去，平台竞争的重要指标往往是用户活跃度、停留时长和留存率；而Claude《宪章》所体现的治理思路则认为，一个优秀的AI系统不应以培养依赖作为目标，而应帮助用户保持独立性和自主判断能力。
事实上，无论是我国刚刚出台的《人工智能拟人化互动服务管理暂行办法》，还是英国、澳大利亚围绕未成年人数字健康所展开的立法讨论，其关注重点都在某种程度上指向同一个问题：当技术越来越理解人时，我们需要防止它利用这种能力去影响人。
从Claude到联合国：AI伦理正在成为全球治理议题
过去几年，关于人工智能治理的讨论已经从企业层面逐步扩展至国际组织层面。
联合国围绕人工智能安全、可信AI以及全球治理机制持续开展讨论，各国政府、国际组织和科技企业也正在形成越来越多关于人工智能治理的共识。例如，联合国近年来设立人工智能高级别咨询机构，并持续推动全球人工智能治理框架和国际合作机制讨论。
这些讨论虽然具体议题各不相同，但都在回应同一个问题：
AI可以创造巨大价值，但同样可能被用于操纵、误导、强化偏见或者影响弱势群体。
因此，未来AI治理的重点，不仅是确保技术能够持续发展，更是确保技术朝着有利于人的方向发展。
结语
从中国针对拟人化互动服务的新规，到澳大利亚和英国关于未成年人保护的探索；从Claude《宪章》对于诚实、克制和自主性的强调，到联合国层面对可信AI的持续讨论，一个共同趋势正在逐渐显现。
人工智能的发展正在从单纯的能力竞争，逐步进入价值治理阶段。
未来决定AI走向的，或许不仅是算力、算法和数据。同样重要的，还包括我们希望将什么样的价值观嵌入其中。
而这，也许正是AI伦理正在成为全球治理新议题的根本原因。
