夜雨聆风大模型的输出，我们究竟能在多大程度上信任？当它被用于临床决策、金融、自动系统等安全关键场景时，"知道自己何时不确定"或许比"给出答案"更重要。本期 Advanced AI Seminar 荣幸邀请到香港城市大学数据科学学院终身副教授 Kaidi Xu（许凯第），带来关于 大模型不确定性量化（Uncertainty Quantification） 的深度分享。
📅 讲座信息
题 目：判断大模型识别可信的边界：面向决策任务时的大模型不确定性量化分析
时 间：北京时间 7月11日 10:00–11:00（美东时间 7月10日 22:00–23:00，EDT）
形 式：腾讯会议
会议号：361 009 471
👤 讲者简介
许凯第现任香港城市大学数据科学学院终身副教授，于 2021 年在美国东北大学获得博士学位。他的主要研究方向是可信人工智能，包括形式化验证、实用对抗攻击以及不确定性量化。作为项目负责人，许教授主持了多项由美国国家科学基金会（NSF）和国家实验室资助的研究项目，其工作将严谨的理论保证与切实可行的人工智能稳健性方案相结合，推动了人工智能系统在现实应用中的安全性与可靠性。
在加入香港城市大学之前，许教授于 2021 至 2025 年期间担任 Drexel University 计算机科学系助理教授。他在机器学习、计算机视觉和自然语言处理等领域的顶级学术会议和期刊上发表了大量论文，并多次担任顶级会议的程序委员会成员和领域主席以及顶级期刊副编辑。此外，许教授四度夺得国际神经网络验证大赛（VNN-COMP 2021、2022、2023、2024）冠军，荣获 Drexel 科研卓越奖，入选斯坦福世界前 2% 学者，并在 NeurIPS 2024、IJCAI 2025 的 workshop 中获得最佳论文奖。
📖 报告摘要
Foundation Models 在内容生成和指令遵循方面展现出强大能力。然而，我们必须明确用户在何种情况下可以可靠地信任其输出，这也凸显了提升基础模型透明性与可靠性的必要性。本次报告聚焦于其中的关键方法——不确定性量化（Uncertainty Quantification, UQ）：
UQ 旨在估计和刻画模型给出确定性答案时所面临的挑战，包括源于输入模糊性的数据不确定性（aleatoric）与源于模型知识局限的模型不确定性（epistemic）； UQ 对临床决策、金融、自动系统等安全关键型应用尤为重要； 报告将构建一个全面且具有理论保证的 UQ 框架，覆盖单轮问答（如大型语言模型）、序贯决策（如具身智能与 LLM 智能体）、跨模态（如大型多模态模型）等多种场景； 并进一步探讨 UQ 在多种实际应用场景中的落地。
🙌 参与方式
本次讲座通过腾讯会议线上进行，欢迎准时参与：
会议号：361 009 471
北京时间 7月11日 10:00–11:00（美东时间 7月10日 22:00–23:00，EDT）
本期讲座由 PaperWeekly 与 STARC Institute 联合呈现
关于发布方
🌟 星弧 Starc Institute
一个为天赋与梦想而生的非营利组织。科研不该被资源垄断,真正的探索精神应当跨越出身与背景的界限。在这里,教授不再是遥不可及的权威,而是愿意亲自拉弓、助你射向知识星辰的引路人;学生不再是被动等待机会的履历堆砌者,而是被点燃、被赋能的未来之星。
👉 关注公众号「星弧 Starc」,获取更多 AI 前沿讲座与学术资源
欢迎关注公众号之后后台回复“加群”，与更多志同道合的朋友一起交流学习，并第一时间获取最新讲座信息与各种AI相关资料。
