AI魔改歪曲价值观

AI伪史泛滥：当算法开始编造历史，我们还能相信什么？AI在便利人类生活的同时，也给谣棍提供了方便，一些谣棍通过精准掌握用户心理，针对性地利用AI编造史料，误导和玩弄非专业人士，已经成为越来越严重的问题，视频号无良up主尤其是重灾区，而且已经带来西方伪史论成风灯恶劣后果。社会予以放任的话，就会像当年学者们对现代阉党捏造“东林祸国论”不闻不问，令其成为主流观点一样，令真实而深刻的历史研究在网络上覆灭，每一位朋友都应该提高对AI谣言的鉴别意识。

人工智能正在成为“种族主义者”

人工智能在“价值观”上的这种偏差，给社会带来的影响将是巨大的。

去年五月，就有一则报道称美国法院用于犯罪风险评估的计算机程序对黑人罪犯存有偏见。根据调查新闻组织ProPublica的说法，在COMPAS（惩教罪犯管理分析替代制裁）的项目中，关于判断嫌疑人是否是累犯的问题，算法给出的黑人风险值（45%）几乎是白人风险值的两倍（24％），所以会更容易将黑人定为再犯嫌疑人。

与COMPAS类似的很多项目还在全美数百个法院中应用，而这无疑将影响法官和其他官员的判决。我们似乎看到，由于存在种族歧视而被诟病的美国司法制度，已经开始寻求技术的帮助来改变这样的局面，但最终却发现算法本身也存在种族偏见。

提供该软件的公司Northpointe对报告的结论提出异议，但声称该项目由于敏感的商业机密拒绝透露内部算法。无论如何，ProPublica的指责还是揭示了一个困扰许多社会学家和计算机科学家多年的问题，即在计算工具变得越来越先进的同时，其计算原理也变得越来越不透明。计算工具所依赖的逮捕记录、邮政编码、社会关系和收入等数据，不仅带有偏见，也有可能进一步加深人类的偏见。

当我们为计算机算法提供的信息越多，机器学习和其它利用大数据的程序所展现出来的性能也就越好。据麦肯锡的全球管理顾问透露，在过去的一年中，针对人工智能这一领域，科技公司大约投入了200亿到300亿的资金，并主要用于研发。这些公司相信人工智能能够筛选社会所产生的大量信息，并找到有助于人类社会变得更高效、更富有、更高幸福指数的模式。

许多科学家都希望利用机器学习实现很多事情，例如帮助失业人员找到工作、预测养老基金的走势，以及整理税务和海关工作。这些项目将会涉及到人类生活的方方面面，成为一种得到广泛认可的智慧。如其中一位计算机科学家所说：“我们可能不知道人工智能的应用现在有多么广泛，但是，我却知道我们不能后退。”

然而，目前人们对人工智能的关注点往往是在预测未来趋势上，关于如何阻止相关项目进一步加剧过去社会中存在的不平等现象却关注得很少。

旧金山非盈利性人权数据分析组（HRDAG）的首席统计师Kristian Lum表示：“人们常常一不小心就会让程序自动执行不该有的偏见认知。”去年，Lum和一位合作伙伴一起展示了一个称为“PredPol”的项目，计算机基于对过去的犯罪报告的“学习”，可以帮助警察部门预测未来犯罪可能发生的热点地区。而这也导致了警察部门对于黑色和棕色人种聚集的地区过度警惕。一位政策研究员Samuel Sinyangwe表示，这种做法“特别恶毒”，一方面，警察可以说自己没有偏见，只是根据数据的分析结果执行；另一方面，这也在暗示公众计算机的算法是公正的。

计算机的偏见认知是人类赋予的

事实上，计算机本身是不会有偏见的，但是它会从人类所提供的数据中快速学会歧视。虽然机器学习使得计算机可以做很多例如语言翻译、人脸识别或在Netflix队列中推荐电影的工作。但是，随着算法得以从原始代码不断“循环学习”，其中的原理也变得越来越复杂、越来越不透明。而对此，很多像Northpointe一样的公司，碍于算法的商业敏感性往往也不愿意透露算法的内部运行原理。

在公共政策、社会事件、经济金融、灾害事故、科学知识等公众关心关切领域，网络谣言不时滋生蔓延。随着人工智能（AI）技术浪潮汹涌，越来越多的网络谣言搭上AI的“快车”，歪曲事实、误导认知，污染网络空间。

为坚决遏制谣言传播，净化网络生态，在中央网信办违法和不良信息举报中心指导下，中国互联网联合辟谣平台持续发挥权威辟谣主力军作用。2025年共发布各类辟谣稿件1.7万余篇，推出12期《月度辟谣榜》、248期《今日辟谣榜》，《今日辟谣榜》荣获“2025年网络文明建设优秀案例”。与中国人民银行、中国科协等多部门联合发布《经济金融领域年度网络辟谣榜》《利用AI生成类谣言辟谣典型案例》《科学领域流言月榜》等多份专项辟谣榜单，及时阻断网络谣言传播。

岁末年初之际，中国互联网联合辟谣平台特此盘点2025年度网络谣言，对于过去一年传播较广、误导性强的热点谣言，拆解套路、廓清迷雾、锚定真相。

（2025年度网络谣言部分热词云图）

中国互联网联合辟谣平台提醒广大网民，网络不是法外之地。谣言止于理性与责任，请保持科学求证的态度，坚守道德法律底线，不造谣、不传谣、不信谣。让我们携手筑牢真相防线，共同守护清朗有序的网络空间。

人工智能之所以作出有偏见的决定,根源有两方面,一方面,算法从获得的数据中分析并寻找模式,得出的结论是研究者无法预测的,另一方面,输入算法中的数据可能存在偏见,因此导致算法得出有偏见的结论。

　　不可否认,在一些社会领域,人工智能在作出公正、公平的决定上有着巨大潜力,例如医疗卫生方面,人工智能可以在临床试验上检测到人类无法察觉的临床表征,但同时,在劳工市场、司法系统等方面,却可能带来影响绝大多数人的严重后果,因此在运用时应该更加谨慎。

　　从一个信息高度匮乏的社会走到今天,不过是几十年的时间。但全球互联网所产生的数据量就已远远超过此前几千年人类社会积累的数据总和。当互联网的各种服务把信息推送到我们嘴边的时候,我们没有办法知道这一勺勺的数据中间有多少有益的营养成分,有多少可能的副作用,我们只能选择咽下去。

　　面对可能出现的算法歧视,一个值得信赖的第三方监管机构也亟待建立,对人们认为受到歧视的人工智能决定进行调查,对有关算法进行审计,这既能消除企业对商业机密外泄的担忧,同时也能让当事人对结果感到满意。