ARTICLE · 1055053
屈建修专栏丨AI当助手,别坐裁判席
AI当助手，别坐裁判席
文/屈建修 图/网络
这话是我半夜想到的。也不对，不是“想到”。它像根刺，扎很久了。我把它拔出来，搁屏幕上。看着像求人办事：你搭把手行，别上桌。可“应该”和“是”中间那段路，我没走明白。
去年朋友被裁。先找他的不是主管，是系统。考勤、产出、协作、回邮件快不快，三年数据全喂进去，出来一个数：留任概率17%。他跟我说，要是主管把他叫进会议室，说你别干了，他认。现在是个公式把他开了，他没法认。人你还能吵，能求，能骂。公式你骂谁去。
我说，那要是公式比人公平呢？主管可能因为你顶过一句，记你一辈子。公式不记仇。
他想了半天，说，那我也还是想被一个人开掉。
为什么。我后来老想这个。比AI有没有判断力更让我在意。它就算更准，更公平，我们为什么还是想让一个人坐裁判那个位置。
后来我想，可能因为裁判在故事里是个角色。得有脸，有脾气，有前史，最好还有点把柄。法官敲槌，槌声落在谁身上。算法不敲槌，它就让一个数字浮出来。数字没脸，也没前史。你没法恨一个概率。文学里最可怕的不是坏人，是没有人。没有人物，只剩过程。连恨都没地方落。
我以前写过，爱、理想、对美的追求，没有最优解。这话漂亮，但不经问。爱没算法吗？生物学家一串：多巴胺、催产素、血清素。理想没公式吗？行为经济学家也能说，你那信念，可能只是概率权重函数里的偏差。写的时候我心里发虚。我知道自己在拿诗意挡问题。人的判断，未必比算法神秘。甚至更糟。
可就算AI在能算的地方全赢了。更准，更稳，不累，不受贿，不看脸色，不记仇。它就该当裁判吗？
我反倒觉得，它越完美，越不该。
裁判不是把答案算对就完事。裁判得做决定，做完还得让人能追着问：你凭什么？你收了没有？你是不是没睡好？
人类法官，你可以问他收钱没有，有没有偏见，那天是不是没睡好。你可以让他负责。他能挨骂，能被免职，能被记住。他错了，错最后落在他头上。
算法呢？找谁？写代码的？标数据的？买系统的？批准上线的？一圈问下来，谁都能说不是我。最后没人疼。
我们让人当裁判，倒不是觉得人更聪明更公正。恰恰因为人又蠢又偏，才得有个具体的人站出来，说这事我定的，出了事找我。
我想说的其实是这个。AI能力够不够，可能不是重点。重点是裁判这位置，得有人能担责。人会脸红，会心虚，会内疚，会半夜睡不着。这些事挺没效率的。但责任可能就长在这些没效率的地方。AI不会脸红。
我不是看不起AI。我是觉得裁判这词，可能从来就不是“最优解机器”的意思。它更像一个人站出来，把自己的名声、饭碗、后半辈子押上，说，我定了。
可这里有个问题我一直没想透。如果人负责，但人蠢呢？人偏呢？人被收买了呢？我朋友宁愿被一个人开掉，那个人万一就是个混蛋呢？他说他认。他认的是什么？是那个混蛋会遭报应，还是至少他能指着那个混蛋的鼻子骂？我不知道。
他认的也许不是什么正义。就是一个活人。混蛋也是活人。活人能恨，能写，能记住。系统不是活人。系统只有参数。被系统淘汰，像被天气淘汰，你怨不了云，也告不了雨。可能恨就一定比空好吗？我也说不准。也许他只是要个出口，哪怕出口是错的。文学里的人也常恨错人。恨错了，至少还有故事。没有故事，就只剩结果。
AI当个医生助手、律师助手、法官助手，都行。给建议，做分析，提醒我哪儿没想到。都行。但最后按“是”或“否”的那只手，得是人的手。不是那只手不会错。是错了以后，有人要挨骂，要受罚，要良心过不去。
写到这里天快亮了。雨早停了。
我忽然觉得，写这些字本身也是在找一个裁判。我把刺拔出来放在屏幕上，像把某个决定交出去：这是我说的，我认。也许以后这些话会废，也许算法真能被追责。但至少今天，它还不是结论。它更像一个还没想完的问题。我把它放在这儿，等天亮了再看。
大概就是这个意思。
作者简介：
屈建修，男，65年生人，18岁至今行医。弄文30余载，喜书法，诗词。偶有成就。今已老气横秋，然童心犹在。
往期精彩，点击阅读：
投稿须知
一、本刊长期面向全国征集优秀稿件。投稿须为原创首发，体裁不限，拒绝一稿多投，拒绝AI智能辅助工具合成的作品。投稿以word文档附件形式发指定邮箱，并附100字内的作者简介及生活照一张。 二、投稿请加执行主编微信：li603352818，以便领取稿酬。稿酬从赞赏金中提取，以红包形式发放，赞赏七天后到账，其中60%作为稿酬（如有音频，作者与主播平分，自带音频除外）低于10元，不予发放，用作平台维护。单篇文章，七天内阅读量过500，赞赏金全额发作者。赞赏到账后，不主动与主编联系，视为放弃。 三、投稿请关注本刊公众号（ID:qswk866）或扫文后二维码，添加关注。以便了解文章刊发情况。文章一旦推出，谢绝删除，因作者自身原因要求删除者，每篇须付编辑费100元。 四、文章刊发后，请作者及时转发、推广。阅读量过低的作品，后续投稿会延迟刊发。 五、投稿邮箱：2442033792@qq.com 
长按可关注
感谢有你
AI当助手，别坐裁判席
文/屈建修 图/网络
这话是我半夜想到的。也不对，不是“想到”。它像根刺，扎很久了。我把它拔出来，搁屏幕上。看着像求人办事：你搭把手行，别上桌。可“应该”和“是”中间那段路，我没走明白。
去年朋友被裁。先找他的不是主管，是系统。考勤、产出、协作、回邮件快不快，三年数据全喂进去，出来一个数：留任概率17%。他跟我说，要是主管把他叫进会议室，说你别干了，他认。现在是个公式把他开了，他没法认。人你还能吵，能求，能骂。公式你骂谁去。
我说，那要是公式比人公平呢？主管可能因为你顶过一句，记你一辈子。公式不记仇。
他想了半天，说，那我也还是想被一个人开掉。
为什么。我后来老想这个。比AI有没有判断力更让我在意。它就算更准，更公平，我们为什么还是想让一个人坐裁判那个位置。
后来我想，可能因为裁判在故事里是个角色。得有脸，有脾气，有前史，最好还有点把柄。法官敲槌，槌声落在谁身上。算法不敲槌，它就让一个数字浮出来。数字没脸，也没前史。你没法恨一个概率。文学里最可怕的不是坏人，是没有人。没有人物，只剩过程。连恨都没地方落。
我以前写过，爱、理想、对美的追求，没有最优解。这话漂亮，但不经问。爱没算法吗？生物学家一串：多巴胺、催产素、血清素。理想没公式吗？行为经济学家也能说，你那信念，可能只是概率权重函数里的偏差。写的时候我心里发虚。我知道自己在拿诗意挡问题。人的判断，未必比算法神秘。甚至更糟。
可就算AI在能算的地方全赢了。更准，更稳，不累，不受贿，不看脸色，不记仇。它就该当裁判吗？
我反倒觉得，它越完美，越不该。
裁判不是把答案算对就完事。裁判得做决定，做完还得让人能追着问：你凭什么？你收了没有？你是不是没睡好？
人类法官，你可以问他收钱没有，有没有偏见，那天是不是没睡好。你可以让他负责。他能挨骂，能被免职，能被记住。他错了，错最后落在他头上。
算法呢？找谁？写代码的？标数据的？买系统的？批准上线的？一圈问下来，谁都能说不是我。最后没人疼。
我们让人当裁判，倒不是觉得人更聪明更公正。恰恰因为人又蠢又偏，才得有个具体的人站出来，说这事我定的，出了事找我。
我想说的其实是这个。AI能力够不够，可能不是重点。重点是裁判这位置，得有人能担责。人会脸红，会心虚，会内疚，会半夜睡不着。这些事挺没效率的。但责任可能就长在这些没效率的地方。AI不会脸红。
我不是看不起AI。我是觉得裁判这词，可能从来就不是“最优解机器”的意思。它更像一个人站出来，把自己的名声、饭碗、后半辈子押上，说，我定了。
可这里有个问题我一直没想透。如果人负责，但人蠢呢？人偏呢？人被收买了呢？我朋友宁愿被一个人开掉，那个人万一就是个混蛋呢？他说他认。他认的是什么？是那个混蛋会遭报应，还是至少他能指着那个混蛋的鼻子骂？我不知道。
他认的也许不是什么正义。就是一个活人。混蛋也是活人。活人能恨，能写，能记住。系统不是活人。系统只有参数。被系统淘汰，像被天气淘汰，你怨不了云，也告不了雨。可能恨就一定比空好吗？我也说不准。也许他只是要个出口，哪怕出口是错的。文学里的人也常恨错人。恨错了，至少还有故事。没有故事，就只剩结果。
AI当个医生助手、律师助手、法官助手，都行。给建议，做分析，提醒我哪儿没想到。都行。但最后按“是”或“否”的那只手，得是人的手。不是那只手不会错。是错了以后，有人要挨骂，要受罚，要良心过不去。
写到这里天快亮了。雨早停了。
我忽然觉得，写这些字本身也是在找一个裁判。我把刺拔出来放在屏幕上，像把某个决定交出去：这是我说的，我认。也许以后这些话会废，也许算法真能被追责。但至少今天，它还不是结论。它更像一个还没想完的问题。我把它放在这儿，等天亮了再看。
大概就是这个意思。
作者简介：
屈建修，男，65年生人，18岁至今行医。弄文30余载，喜书法，诗词。偶有成就。今已老气横秋，然童心犹在。
往期精彩，点击阅读：
作者简介：
屈建修，男，65年生人，18岁至今行医。弄文30余载，喜书法，诗词。偶有成就。今已老气横秋，然童心犹在。
往期精彩，点击阅读：
作者简介：
屈建修，男，65年生人，18岁至今行医。弄文30余载，喜书法，诗词。偶有成就。今已老气横秋，然童心犹在。
往期精彩，点击阅读：
投稿须知
一、本刊长期面向全国征集优秀稿件。投稿须为原创首发，体裁不限，拒绝一稿多投，拒绝AI智能辅助工具合成的作品。投稿以word文档附件形式发指定邮箱，并附100字内的作者简介及生活照一张。 二、投稿请加执行主编微信：li603352818，以便领取稿酬。稿酬从赞赏金中提取，以红包形式发放，赞赏七天后到账，其中60%作为稿酬（如有音频，作者与主播平分，自带音频除外）低于10元，不予发放，用作平台维护。单篇文章，七天内阅读量过500，赞赏金全额发作者。赞赏到账后，不主动与主编联系，视为放弃。 三、投稿请关注本刊公众号（ID:qswk866）或扫文后二维码，添加关注。以便了解文章刊发情况。文章一旦推出，谢绝删除，因作者自身原因要求删除者，每篇须付编辑费100元。 四、文章刊发后，请作者及时转发、推广。阅读量过低的作品，后续投稿会延迟刊发。 五、投稿邮箱：2442033792@qq.com 长按可关注
感谢有你
投稿须知
一、本刊长期面向全国征集优秀稿件。投稿须为原创首发，体裁不限，拒绝一稿多投，拒绝AI智能辅助工具合成的作品。投稿以word文档附件形式发指定邮箱，并附100字内的作者简介及生活照一张。 二、投稿请加执行主编微信：li603352818，以便领取稿酬。稿酬从赞赏金中提取，以红包形式发放，赞赏七天后到账，其中60%作为稿酬（如有音频，作者与主播平分，自带音频除外）低于10元，不予发放，用作平台维护。单篇文章，七天内阅读量过500，赞赏金全额发作者。赞赏到账后，不主动与主编联系，视为放弃。 三、投稿请关注本刊公众号（ID:qswk866）或扫文后二维码，添加关注。以便了解文章刊发情况。文章一旦推出，谢绝删除，因作者自身原因要求删除者，每篇须付编辑费100元。 四、文章刊发后，请作者及时转发、推广。阅读量过低的作品，后续投稿会延迟刊发。 五、投稿邮箱：2442033792@qq.com 长按可关注
感谢有你
投稿须知
长按可关注
感谢有你
漆水文学团队
平台顾问：孙 毅
文学顾问：李建兴
法律顾问：姚振勇
平台策划：屈建修
总 编：水云天
主 编：刘安 何科选
副主编：师泉河 成强果 弓立闹 豆海维 童子心
宣传推广部：袁学伟（部长） 胡波 李文华 杨英 孙传志
主播团：贾晶（团长）青春不散场 王娟英 岁月如歌
诗词部主任：优游岁月
诗歌部主任：何联社
编委成员：秀美 刘军英 鲁晓荣 李文华 杨奎 张烨 林凯 潘继东 行者
漆水文学团队
平台顾问：孙 毅
文学顾问：李建兴
法律顾问：姚振勇
平台策划：屈建修
总 编：水云天
主 编：刘安 何科选
副主编：师泉河 成强果 弓立闹 豆海维 童子心
宣传推广部：袁学伟（部长） 胡波 李文华 杨英 孙传志
主播团：贾晶（团长）青春不散场 王娟英 岁月如歌
诗词部主任：优游岁月
诗歌部主任：何联社
编委成员：秀美 刘军英 鲁晓荣 李文华 杨奎 张烨 林凯 潘继东 行者