乐于分享
好东西不私藏

AI安全研讨会/人工智能安全:信任、可靠性与智能体

AI安全研讨会/人工智能安全:信任、可靠性与智能体

引言

    2016年,一个叫Tay的聊天机器人在推特上线,16小时内被用户教成了种族主义者,微软紧急下线了,而绝大多数人不知道这件事意味着什么。然而,短短几年后,比Tay更智能的大语言模型开始进入千家万户。人们用它写代码、写文案,甚至看病、做法律咨询、辅导孩子写作业。但大多数用户不知道:这些系统会产生幻觉,会被精心设计的提示词绕过安全机制,会在法律上处于一个几乎没有人负责的灰色地带。人们大概率是在乎这些事情的,但可能没有人能及时告诉他们。

    知识有很宽容的传播规律:它除了能从顶部流向底部,也能从密度高的地方流向密度低的地方。作为知识密度相对较高的科研工作者,我们能做些什么呢?在一个小小的研讨会里,让知道的人聚在一个房间里,互相传播知识,互相知道对方知道。这听起来微不足道,但这正是知识开始扩散的条件。我们会把我们知道的带到我们的生活里,会带到我们未来的工作里,不仅提醒我们自己,也提醒着身边的家人、同学、同事。

   AI安全无小事,现实可能比科幻更魔幻,请和我们一起用温和且理性的方式一起探讨AI安全和它如何影响到我们的生活?以及我们以后可能会有什么策略。

   5月10日下午两点,AI in the Wild: Trust, Safety and Agents,在UCL Chadwick Building 2.18欢迎大家参与。

嘉宾

01

冯悦/伯明翰大学计算机科学学院-助理教授   

   冯悦现任伯明翰大学计算机科学学院助理教授,博士毕业于伦敦大学学院计算机科学系。她的研究方向主要包括自然语言处理(NLP)与信息检索(IR),近年来重点关注大语言模型驱动的 AI 智能体、LLM 的事实性与可信度,以及生成式 AI 的评测与推理等问题。成果见于 ACL、EMNLP、NAACL、SIGIR、WSDM、CIKM、NeurIPS、AAAI 等国际会议,并担任 ACL、EMNLP、NAACL、SIGIR、WSDM、TOIS、IPM、TASLP 等会议与期刊审稿人。她曾获 Amazon Alexa Prize TaskBot Challenge Winner、Baidu Excellent Research Intern Star Award 等荣誉,并曾在 亚马逊、字节跳动、百度等公司研究部门从事研究工作。

02

赵逸超/伦敦大学学院Research Fellow

   赵逸超,伦敦大学学院数字媒体与技术博士,现任UCL Research Fellow。她关注数字技术在日常生活中的实际运作方式,尤其是人们如何在具体情境中理解、协商并回应其中的信任与隐私问题。她的博士研究基于数字民族志方法,考察疫情期间中国城市居民与位置性数字系统的互动实践,并提出了一个分析框架,用以解释技术采纳、信任形成与治理合法性之间的关系。

   来不是一句空泛的口号,而是用创新打破边界、用技术回应需求的坚定实践。每一次技术突破,都在为未来生活搭建更智能、更便捷的框架。

  在学术之外,她也参与数字治理相关的实践项目,曾为政府数字化服务与智慧城市发展提供用户研究与政策建议。目前,她将关注点延伸至人工智能与日常生活的交叉领域,探讨生成式AI如何介入人类的认知与判断,以及人们在不确定性与信任条件下如何理解和使用AI系统。

03

李子豪/格拉斯哥大学法学院·副教授

   李子豪,英国格拉斯哥大学科技法副教授、博士生导师,英国国家级高层次人才项目学者、英国CREATe 研究中心人工智能治理学科带头人,格拉斯哥大学科技与法律项目主任,美国斯坦福大学TTLF研究员。拥有法学、计算机专业双学位。研究聚焦于信息技术与法律交叉领域,包括人工智能治理、隐私与数据保护、网络安全、数字版权。主持并参与英国、欧盟多项研究项目,出任英国经济与社会研究理事会ESRC项目首席专家、AHRC项目共同负责人。多次向英国政府、欧盟议会提供提供政策和技术咨询。研究成果发表于Nature Machine Intelligence、Computer Law and Security Review、IEEE Communication Magazine等多个SCI/SSCI一区国际顶级期刊。担任Nature期刊Humanities & Social Sciences Communications(SSCI一区)副主编,剑桥大学期刊Data & Policy编辑。受邀于牛津大学、剑桥大学、帝国理工学院发表专题演讲,接受央视外语频道专访。

活动信息

活动地点:UCL Chadwick Building 2.18,伦敦

活动时间:5月10日(周日)14:00–15:50(请提前约5–10分钟入场)

报名表链接:【腾讯文档】博士联盟·AI安全研讨会(伦敦)

https://docs.qq.com/form/page/DSmZTYWRwUU95dmVI

供稿:梁子民
排版:苏飞跃
审核:梁子民

关于  博士联盟

博士联盟(Doctorate Association)于2013年在中国驻爱丁堡总领馆和英国爱丁堡市政厅的共同支持下成立,总部位于英国爱丁堡市政厅,同时在中国、美国、德国、荷兰和澳大利亚设有分部。成员主要由全球各大知名院校的专家教授、博士生和企业高管组成,涉及农业、理工、医学、人文社科等各专业领域。核心成员具有十年以上的海外学习工作经历,就职于各国知名院校、政府或事业单位。

博士联盟曾多次举办和承办博士讲坛、学者沙龙、海外人才招聘会、技术交流研讨会、各级政府人才宣讲会以及商务对接会等活动,并与英国当地机构合作,共同组织环保活动等。我们坚持以服务人才为根本宗旨,致力于推进全球博士、学者以及各领域高端人才的交流与合作,为政府、企业、高校及科研机构搭建全球人才资源合作平台,大力挖掘前沿未来科技潜力,推动各类创新项目研发落地。