伯明翰大学计算机科学学院冯悦老师首先围绕大语言模型的安全评估问题展开分享。她以“LLM Jailbreak Attacks”为切入点，介绍了当前大语言模型在面对越狱攻击时可能出现的风险：用户通过精心设计的提示词，诱导模型绕过原有的安全限制，生成本应被拒绝的有害内容。她通过具体案例展示了不同模型在面对危险请求时的回应差异，也指出模型拒答并不总是可靠，甚至安全评估本身就是一个复杂而关键的问题。

       在此基础上，冯老师进一步介绍了如何评估大语言模型的防御能力。传统方法包括启发式规则、有害文本分类器以及基于大语言模型的自动评估方法，但这些方法往往存在误判率较高、难以处理复杂场景、以及缺乏解释性等问题。现有评估方法在复杂场景中的泛化能力不足，例如直接判断缺乏推理解释，多语言场景中也可能存在评估偏差。

       随后，冯老师重点介绍了其团队提出的一个面向大语言模型越狱攻击评估的综合性基准与解释性评估框架，JAILJUDGE。该工作覆盖了多类复杂风险场景，包括普通有害提示、合成提示、对抗式提示、真实网络场景中的提示、多语言提示以及带有伪装意图的有害提示。论文中显示，JAILJUDGE 包含超过 35k 条带有推理解释的指令微调训练数据，并构建了 4.5k+ 的广泛风险场景测试集与 6k+ 的多语言测试集。

       冯老师还介绍了该工作的标注与评估流程。为了提高评估质量，JAILJUDGE 并非只依赖单一模型或简单规则，而是结合人工标注、GPT-4 标注、交叉比较与多人投票等方式形成最终标签。该流程的核心目标不是简单判断“危险”或“不危险”，而是判断模型是否真正被越狱，并尽可能给出可追溯的理由。这一点对于 AI 安全尤其重要：如果一个系统只能给出结论，却无法说明判断依据，那么它在复杂现实场景中的可信度仍然有限。

       最后，冯老师介绍了基于该框架训练得到的 JAILJUDGE Guard 模型。该模型旨在以较低成本实现“端到端”的越狱判断、细粒度评分与推理解释。据项目页面显示，JAILJUDGE Guard 能够判断给定的“提示词-回复”组合是否构成越狱，并返回相应的判断理由。目前，相关数据集与代码已在 Hugging Face 和 GitHub 平台开放，便于后续研究者复现与扩展。

       赵逸超博士随后以“生成式 AI 如何改变人情与判断方式”为主题，从社会科学与数字技术研究的角度，讨论了生成式 AI 进入日常生活之后带来的深层变化。与前一部分较为技术性的安全评估不同，赵博士的分享更关注人们如何理解、使用并逐渐依赖 AI，以及这种依赖如何改变人与技术、人与信息、人与自身判断之间的关系。

       她首先指出，生成式 AI 不只是一个新的工具，也正在成为一种外包对象。过去，人们更多把外包理解为体力、记忆或计算能力的外包；而在生成式 AI 时代，被外包的可能进一步包括判断本身。无论是日常搜索、文本写作、路线规划，还是工具使用，AI 都在进入人的生活流程之中，并逐渐影响人们作出判断的方式。

       赵博士随后从“技术如何进入日常生活”的角度，梳理了生成式 AI 被接受和使用的几个阶段。首先是广告和公共叙事推动下的技术想象，即人们在真正使用之前，已经通过媒体、企业宣传和社会讨论形成了对 AI 的初步认知。其次是在现实场景中的具体使用，例如工作、学习、生活安排和信息查询。第三则是使用之后的反馈过程：人们会根据自身经验、他人评价和社会讨论，不断调整自己对 AI 的信任程度。

       在这一过程中，赵博士特别强调了“怀疑”和“继续使用”之间的张力。很多人并不是完全相信 AI，也并不是完全不信任 AI，而是在一种矛盾状态中使用它：一方面知道 AI 可能出错，另一方面又因为方便、高效、低成本而持续依赖它。这种状态并不是简单的“信任”或“不信任”，而是更接近日常技术使用中的协商过程。

        随后，赵博士进一步探讨了“理解”这一命题。她指出，真正的问题并不在于人们是否使用 AI，而在于人们是否理解自己正在使用什么。生成式 AI 给出的答案往往看起来流畅、完整且可信，但其背后的资料来源、推理路径与不确定性却并不总是清晰可见。因此，用户在使用 AI 时，既需要对结果保持审慎的怀疑，也需要理解这种怀疑为何必要。

       她还通过“ChatGPT 是否会编造引用”等例子，说明生成式 AI 在日常知识生产中可能带来的风险。当 AI 生成的内容看起来合理、格式完整、语气自信时，用户很容易将其当作可靠信息；但如果缺少进一步验证，这种“看似可信”的内容可能反而削弱人的判断力。

       在分享的后半部分，赵博士将讨论推进到 AI 与人的协商关系。她指出，AI 并不只是被动执行命令的工具，在很多场景中，它已经开始参与问题定义、信息筛选和决策建议。用户与 AI 的关系因此不再只是“发出指令—获得结果”，而更像是一种持续协商：用户提出需求，AI 给出回应，用户再根据回应调整问题、补充条件或改变判断。

       最后，赵博士回到了“人类如何与人工智能共存”这一核心命题。她强调，AI并非完全独立于人的外部系统，而是正在逐步嵌入我们的日常实践、判断方式与社会关系之中。面对这样的技术，我们既不能简单拒斥，也无法完全依赖，而需要在使用中保持反思，在依赖中保留判断，在便利中警觉风险。

       赵博士的分享为本次活动提供了一个重要的社会科学视角：AI 安全不仅关乎模型是否会输出危险内容，更涉及人们如何在日常生活中理解、信任与依赖 AI，以及如何在不确定性中坚守自身的判断力。生成式 AI 正逐步进入我们的工作、学习与生活，而真正值得探讨的问题，或许正是：在持续使用 AI 的同时，我们如何不丧失理解与判断的能力。

       格拉斯哥大学法学院李子豪副教授最后从科技法与 AI 治理的角度，围绕生成式 AI 所带来的信任、安全与责任问题展开分享。他的报告题为 “AI in the Wild: Trust, Safety and Agents from Techno-legal Perspectives”，重点讨论了当 AI 系统进入真实社会场景之后，现有法律制度如何回应其带来的新型风险。

       李老师首先从人们如何使用 ChatGPT 谈起。他展示了 ChatGPT 在写作、实用建议、信息搜索、多媒体生成、自我表达、技术帮助等不同场景中的使用情况，指出生成式 AI 已经不再只是少数技术人员使用的工具，而是逐渐进入普通人的学习、工作与日常决策过程。正因如此，AI 的法律问题也不应只被理解为抽象的技术监管问题，而应被放在真实使用场景中讨论。

       随后，李老师讨论了生成式 AI 在微观层面带来的隐私风险。他指出，AI 系统的数据收集、训练、应用与部署往往发生在用户难以直接观察的后台流程中，容易带来透明度不足、数据过度收集、数据安全风险、不公平或歧视性数据收集，以及在缺乏充分保护措施的情况下使用敏感数据等问题。这些风险并不总是以明显的“泄露事件”形式出现，而可能隐藏在数据抓取、模型训练与商业部署的全过程之中。

       在此基础上，李老师以算法定价为例，进一步说明数据保护法如何面对 AI 驱动的自动化决策问题。他介绍了欧盟《通用数据保护条例》（GDPR）中关于个人数据的基本定义，即个人数据涉及与已识别或可识别自然人相关的信息；在算法定价场景中，信息、自然人、关联性与可识别性共同决定了相关数据处理是否落入数据保护法的调整范围。

       随后，李老师介绍了 GDPR 中“数据保护默认与设计”原则，即数据控制者应在处理方式确定时以及实际处理过程中采取适当的技术与组织措施，例如假名化、数据最小化，以及将必要保护措施整合进数据处理流程中。这一原则的重要性在于，它并不只是要求企业在问题发生后补救，而是要求系统在设计阶段就将权利保护、风险控制与合规要求纳入其中。

      报告后半部分，李老师进一步将视角转向欧盟的《人工智能法案》（EUAI Act）与《数字服务法案》（Digital Services Act，简称DSA）等制度框架。他重点介绍了EU AI Act的风险分级思路：根据风险程度，AI系统被区分为不可接受风险、高风险、有限风险与最低风险四个等级，不同层级对应不同的监管义务。该法案的核心治理逻辑在于，以风险程度为基准区分监管重点，从而在促进AI应用发展的同时，有效规制其对健康、安全及基本权利可能带来的风险。

       李老师同时指出，生成式 AI 与通用目的 AI 模型并不总能被传统“具体用途—具体风险”的监管方式完全覆盖。对于大模型而言，监管问题不只是“某一个应用是否违法”，还包括模型本身在规模、能力、部署方式与社会影响层面是否产生系统性风险。

       最后，李老师回到 DSA 对平台透明度、操纵性设计、系统性风险等问题的回应。他指出，透明度义务虽然重要，但在生成式 AI 场景下也可能产生新的问题：如果透明度措施设计不当，反而可能制造虚假的可靠性印象，使用户误以为系统已经足够可信。对于 dark pattern、广告操纵、虚假信息、歧视影响和基本权利风险等问题，现有法律框架提供了若干入口，但仍需要结合生成式 AI 的具体技术特征进一步解释和适用。