夜雨聆风HAMBURG
Universität Hamburg
Foto: Sarah Buth
汉堡大学是超过6200名研究人员的学术家园。在汉堡大学与《汉堡晚报》合作推出的“研究与认知”系列专栏中，我们带大家深入了解他们的科研工作。本期专栏将由Anne Lauscher教授将为我们揭示，当人工智能的训练数据也映射出我们的社会刻板印象时，会带来怎样的后果。
Anne Lauscher教授自2022年起在汉堡大学从事研究工作。她担任的“值得信赖的人工智能(Trustworthy Artificial Intelligence)”教席，是德国联邦与州政府精英研究战略资助的三个“开放式主题教授席位”之一。此外她还在汉堡大学“数字可持续转型”特色倡议等领域开展研究。
Anne Lauscher教授：
ChatGPT、DeepL、Dall-E: 这些人工智能应用可以生成文本、图片或视频——但在此过程中,它们也始终在映射着我们的社会现实。因为尽管用户可能没有意识到,这些系统是通过海量数据进行训练的,而这些数据不仅反映了我们的价值观,也包含了我们的刻板印象。这导致ChatGPT等工具虽然能便利我们的日常生活,但如果它们反映出种族主义、反犹太主义或仇视酷儿(queer-feindliche)的态度,也可能带来有问题的甚至是不道德的影响。
由于人工智能正以极快的速度发展，并已开始深刻影响我们生活的几乎各个领域，我们必须采取行动来应对这一挑战。我希望能为人工智能的构建和应用贡献力量，使其得到负责任的开发，并释放出积极的社会效益。
让AI造成的歧视变得可衡量
Anne Lauscher教授研究的核心重点之一就是揭示并量化人工智能造成的歧视，因为第一步我们必须搞清楚，这些应用究竟在如何歧视哪些群体。我们的工作主要采用实证人工智能研究的方法，也就是说，我们会开展大规模的实验，来研究特定的效应并进行定量分析。为此我们会将自行开发的语言指令输入AI应用软件, 并对比使用不同输入语言后得到的结果。此外,我们还采用所谓的“混合方法”策略, 将实验与问卷调查或访谈相结合, 以便更好地理解其中的社会维度。
如今已有大量证据表明, 人工智能模型在可靠性方面会因输入语言的不同而存在巨大差异。例如, 当我用英语提问时, 得到的错误输出会明显少于用韩语提问。在我们目前的一个项目中，我们还发现，即使在同一种语言内部也存在歧视现象：像ChatGPT这样的大型语言模型，在涉及可能的职业发展道路问题时，对说低地德语等方言的使用者的信任度明显较低；与说标准德语的人相比，模型更频繁地将他们与“没受过教育”或“思想狭隘”等词汇联系在一起。这些偏见在社会中长期存在，如今又被聊天机器人重新激活了。
聚焦基于语言的应用
除了针对基于文本的人工智能应用的研究外，我们刚刚完成了一项研究，首次揭示了音调(Pitch)与音频-语言模型歧视之间的关联。这类人工智能模型可以直接通过语音进行操作——而我们的研究结果表明，其歧视程度有时甚至比基于文本的系统更为严重。音调较高(通常被认为是女性)的人与音调较低的人向AI提问时，会得到不同的结果，并且AI会将“温柔”或“以社群为导向”等刻板印象特征归因于他们。
这些发现尤为重要,因为我们预计, 音频-语言模型未来将比纯文本系统拥有更广泛的普及度。这意味着，用户将不再需要具备文字输入能力。迄今为止, 人工智能应用对读写能力较弱的人群开放度有限，而这一局面的改变是非常积极的。然而, 受影响的人群通常数字素养也相对较低，因此更容易受到这些偏差的影响。
因此, 我们研究的一部分也是为人工智能系统开发训练方法, 以减少歧视, 或在新应用中避免歧视的产生。特别是在人力资源服务等敏感应用领域, 它们必须做到公平运作。我们的工作表明这是可行的: 只要有正确的数据基础, 这些系统是可以被塑造的——但前提是, 人们必须稳健地衡量偏见，明确考虑到受影响的群体和背景, 将他们纳入研究之中, 并持续评估应对策略。
Anne Lauscher教授告诉我们她最喜欢的AI应用软件是机器翻译，因为它们有潜力让讲不同语言的人们更加紧密地联系在一起。
汉堡大学
Universität Hamburg
© www.uni-hamburg.de
汉堡大学（Universität Hamburg）成立于1919年，是北德地区最大的高等教育和研究机构，也是德国的第四大高校。在其超过100年的建校历史中，诞生了7位诺贝尔奖得主，6位莱布尼茨奖得主，3位蓝马克斯科学文化勋章获得者，1位普朗克奖章获得者和沃尔夫数学奖获得者。截至目前，汉堡大学的学生人数已超过43000人，教职员工和研究人员共4400余名。
汉堡大学是德国顶尖大学联盟“U15”中的一员。2019年，汉堡大学入选德国精英大学，凭借四大精英研究集群在德国联邦政府卓越计划评选中取得了非凡的成就。
汉堡大学共有8个学院，近180个学士和硕士学位课程，此外还开设有超过25个英语授课硕士课程。在2025年QS世界大学排名和QS大学学科排名中，汉堡大学名列德国第九，且有4大学科门类共20个专业进入德国前十。
汉堡大学现有5000余名来自全球130多个不同国家的外国学生。尤其对计划赴德攻读硕士和博士学位的同学来说，汉堡是一个理想的选择。汉堡大学重视国际交流与合作，与各大洲多所一流大学和高水平科研机构建立了紧密的协作关系。中国是汉堡大学国际合作的重点地区。
需要更多汉堡大学相关信息请联系
严朱宵 先生
经理|教育、培训、文化项目
汉堡驻中国联络处
Email:Yan.zhuxiao@hamburgshanghai.org
Here is Port ofHAMBURG!
© Mediaserver Hamburg/Andreas Vallbracht
来源和更多信息
原文标题：Wie sehr diskriminiert künstliche Intelligenz?
原文链接：www.uni-hamburg.de/newsroom/forschung/2026/0529-fv-ha-bwl-ki-werte.html
扫码关注汉堡全媒体
