乐于分享
好东西不私藏

AI科技创新导报 第20期

AI科技创新导报 第20期

AI科技创新导报 第20期

主标题:北大校友苏炜杰斩获考普斯会长奖 统计学筑牢大模型可信根基
副标题:AI水印溯源 偏好对齐 差分隐私保护,数理理论破解生成式AI黑盒难题

本期《AI科技创新导报》第20期,聚焦国际统计界重磅事件:北大数院07级校友苏炜杰教授斩获考普斯会长奖。考普斯会长奖被誉为统计学界的诺贝尔奖,每年全球仅评选一名40周岁以下的青年学者,代表国际统计学界对青年科研工作者最高程度的认可。

苏炜杰本科就读于北京大学数学科学学院,斯坦福大学统计学博士,现任宾夕法尼亚大学沃顿商学院教授,同时兼任数学系、计算机系教职,学术休假期间进入OpenAI开展人工智能相关研究。他与菲尔兹奖得主王虹、邓煜是北大本科同班同学,同一届走出数位世界级科研人才,这份成果背后,离不开一代代建设中国高校的教育工作者的耕耘付出。

当下人工智能产业,大多将目光投向算力、参数量、工程迭代。大模型在快速落地的同时,大量现实难题接踵而至:AI生成内容无法溯源、模型幻觉持续出现、训练过程用户隐私容易泄露、大模型输出难以对齐人类价值取向。仅仅依靠工程层面反复调试,只能缓解表象问题,很难实现根源性解决。

苏炜杰的研究打通统计学和生成式AI的学科边界,搭建起大模型可信运行的统计理论框架。
第一,完成AI水印溯源相关统计理论研究,能够识别AI生成的文本与图像,解决AI伪造内容难以甄别溯源的现实困境;
第二,开展人类偏好对齐方向研究,用统计方法量化人类价值判断,约束大模型输出,缓解幻觉带来的逻辑错乱;
第三,完善差分隐私理论框架,在保障统计结果准确的前提下保护个体原始数据安全,这套理论已经应用于美国人口普查,如今成为AI训练数据隐私保护的重要基础。

除此之外,他还通过统计分析,发现AI国际顶会审稿当中存在的系统性偏差,提出优化方案,推动学术评审更加公平公正。

这期导报通过奖项背景、人物履历、核心科研成果、行业启示多个板块,拆解统计学如何赋能人工智能。它向行业传递一个客观事实:算力可以把模型做大,而扎实的数理统计理论,才能够让人工智能走得稳、走得远。基础学科的沉淀,是AI可信、安全发展不可缺少的底层支撑。

北京,2小时前,