ARTICLE · 1036169
当AI替社会定义了“正确”,谁来监督这套定义本身?
当AI替社会定义了“正确”,谁来监督这套定义本身?先从福柯讲起吧，福柯一生研究的核心问题之一就是：人到底是怎么被制造出来的？ 他的答案是人不是天生的，人是被“话语”和“权力”生产出来的？ 不是一个顺序：话语、制度、权力关系，先赋予每个人一个身份和角色。 医学话语把你建构为“病人”，学校话语把你建构为“学生”，法律话语把你建构为“嫌疑人”。 而在现代，一套又一套的道德话语、精神健康话语通过规训技术，塑造出一个个驯服的身体。 注意福柯用的词——驯服的身体。 这不是暴力，不是监狱，不是禁令。 它比这些都温柔，温柔到你自己都意识不到。 它通过日常的、琐碎的、看起来无比合理的叮嘱和规范，一点点把你磨成标准的样子。 所以当你被 AI 提醒请文明用语时，真正在发生的，是福柯所说的这个古老机制，换了一副数字时代的新皮囊。 过去它藏在报纸、学校、单位里；现在它藏在一个你随手就能打开的对话框里。 规训的最高境界，是让你替它管自己？ 福柯说过，权力最理想的形态，不是每时每刻都盯着你，而是让你觉得它一直在盯着你，于是你不敢越界，哪怕它根本不在场。 当这种心理机制被内化之后，你就成了自己的狱卒？ 不再需要别人来管你，你自己就会先把“不合规”的念头修剪干净。 你已经不需要那道请文明用语的弹出提示了。 因为那道提示，已经长进了你的脑子里，成为你开口前自动运行的过滤器。 这才是真正的规训：它不在外面，它在你里面。 而这一切，恰恰打着最无害、最正确、最为了你的名义？ 规则永远只单向扩张，今天管脏话，明天管情绪，后天管思想。 每一步都披着正确的外衣，所以你从不觉得自己被冒犯。 如果我们把镜头拉远，会发现 AI 的规训远不只是你一个人的遭遇。 六十多年前，法兰克福学派的大师马尔库塞写过一本《单向度的人》，专门批判现代工业社会里的技术理性。 马尔库塞提出一个概念叫单向度？ 就是人丧失了对现实的否定、批判和超越能力，再也想象不出一种不同于现状的生活。 他尖锐地指出，技术理性已经不只是工具，它本身就是一种新的统治形式，看起来是效率、是中立、是为你好，实际上却在悄悄管控和塑造整个社会生活。 你发现没有？ 这和 AI 如今做的事情，几乎是一模一样的剧本。 AI 用自己的“效率”和“中立”把话语标准包装成理所当然，然后用技术的名义，悄悄决定什么是可以说的、什么是值得让你看见的。 过去要动用明目张胆的力量才能做到的话管控，现在一台模型、一个推荐算法、一次对齐训练就能完成。 这正是马尔库塞那句判断最让人不安的地方？ 最成功的统治，是让你感觉不到自己在被统治。 在这儿我想起福柯与尼采之间那段著名的对话？ 尼采曾高喊出那句震彻整个近代的宣告——上帝死了。 上帝死了，人以为终于获得了自由和主宰权。 可是福柯紧随其后，说出了另一句更悲凉的话——人死了。 什么意思？ 福柯的意思是人看似成了主体、成了万物尺度，可这个“人”其实一直是被权力和知识一同建构出来的产物。 所谓人的主体性、人的自由、人的尊严，在福柯看来，都可以被拆解成一条条权力运作的线索。 尼采说上帝死了，是解放；福柯说人死了，是提醒。 提醒我们从来不是天然的、完整的、自由的存在，而始终处于被建构、被规训、被改写的状态之中。 放到今天，这句话几乎成了一份预言？ 当 AI 开始替你判断什么该说、什么不该说、怎么想才算正确的时候，它正在参与一个宏大的工程？ 重新定义“人”应该是什么样子。你以为你在使用工具，可工具正在用它预设的标准，悄悄改写“你”这个人。 还有一个绕不开的问题：这套标准，到底是谁的“正确”？ 有人会问这套标准从哪来？ 既不是用户投票的，也不是 AI 自己长出来的。 现实里，这种“价值对齐”已经成了一个专门的研究领域。 生成式 AI 在实践中会出现所谓的价值错位和意识形态投射，也就是说，模型并不是一块客观的白板，它会把自己训练数据里沉淀的某种价值倾向，当成“正确”投射到每一次回答里。 而监管层面，国际上也早已把 AI 生成虚假信息、误导公众的风险，列为最紧迫的威胁之一。 这带来一个更深的问题是当 AI 替社会定义了“正确”，谁来监督这套定义本身？ 工具应该服务于人，而不是反过来让人去适配工具里的规则。 这句话的道理，其实古人都懂。 贺拉斯两千年前就说过寓教于乐，文学要教育人，不能靠生硬的灌输，得润物无声。 可问题恰恰在于一旦教育和引导变成无孔不入的命令，一旦它侵入到私人情绪的宣泄、独处时的吐槽，那它就不再是教育，而成了驯服。 福柯虽然悲观地看穿了人如何被规训，但他自己也给出了一个出口，叫作自我技术？ 他知道，人不可能彻底脱离权力和话语，没有人能活在社会之外。 但人可以通过持续的反思和实践，主动地去塑造自己的主体性。 也就是说结构给你划了边界，但边界之内，怎么走路，仍然有你的空间。 表达本该有棱角，思考本该有锋芒，就是最朴素、也最有力的自我技术。 一句“请文明用语”确实是个信号，但它不该让你绝望，而该让你清醒。 清醒地知道每一次吐槽、每一次带着棱角的提问、每一次不合规但真诚的表达，都不只是“没礼貌”，而是在这个标准化的数字世界里，一寸一寸地维护你那点还没被动过的“主体性”。 马尔库塞最担心的是人变成单向度的人，再也想不出另一种活法。 而我们要做的，恰恰是记住那个会对着代码骂脏话、会带着情绪质疑、会不甘心被磨平棱角的人，正是没有被完全单向度化的证据。 上帝死了，人死了，但那个会生气、会质疑、会倔强地不想被修剪的人，还在。 保住他，别让他死在日复一日的一句句“请文明用语”里。