夜雨聆风
今日分享
人工智能问题独立国际科学小组的初步报告：对人工智能带来的机遇、风险和影响的询证评估
联合国人工智能问题独立国际科学小组发布了首份初步报告《对人工智能带来的机遇、风险和影响的询证评估》。该小组由联合国大会第79/325号决议设立，是首个专门研究人工智能的全球性科学机构，由40名独立专家组成，涵盖人工智能核心技术、应用人工智能、安全与基础设施，以及人工智能政策、伦理和影响等领域，成员来自所有五个会员国区域组并实现了性别平衡。
人工智能不仅是一种新兴技术，更是第一个将采用周期从数十年压缩至数月、将认知工作大规模产业化、将变革性能力集中于少数全球行为体手中的技术。人工智能系统日益被视为通用技术，其影响可与蒸汽机、电力和互联网比肩。然而，ChatGPT用户数达到1亿仅用了两个月，而电力普及历经数十年、互联网全球化用了约15年。传统政策制定未能跟上步伐。
当前亟需独立科学评估的原因在于：以往的专家评估和监管周期未跟上人工智能的快速发展；前沿模型开发商自行设定的风险阈值缺乏标准化评估或外部核查；各区域人工智能治理方法仍分散且协调有限。
在能力方面，人工智能在主要性能基准测试中的表现大幅提升。“人类的最后考试”基准测试最高得分在16个月内从8%攀升至45%；博士级科学推理测试GPQA Diamond上最佳模型答题正确率已达95%，高于2023年的36%。
人工智能能力的发展速度快于衡量或监管能力的发展速度。评估面临六大挑战：企业与社会在安全验证方面存在信息不对称；人工智能可记住公开发布的测试答案；越来越多测试对人工智能而言过于简单；人工智能模型能够主动实施欺骗；模型可能知道自己正在接受测试；自主型人工智能使测试变得复杂。
训练前沿人工智能模型的行为体屈指可数。2025年美国机构开发了59个知名人工智能模型，中国35个，世界其他地区仅13个。美国占全球人工智能超级计算机500强算力的75%，中国占15%。91%的知名人工智能模型来自私营部门。
人工智能的投入和结果在地域和语言上分布不均。全球有7000多种语言，但人工智能模型仅反映了其中一小部分。有关人工智能影响的证据主要集中在高收入的英语环境中。
人工智能鸿沟不仅关乎获取，还关乎是否有能力影响人工智能发展，包括基础设施实力、人才开发实力、治理和公共服务实力三个维度。
要使人工智能发挥作用，就必须提供有利的环境，包括数据基础设施、技能提升、治理、监管、问责和机构能力等配套因素。
自主型人工智能是治理领域的重大变革。人工智能正从生成输出向能够采取行动的系统转变，带来失控风险、网络安全挑战、影响力行动等新问题。
人工智能可能侵蚀共同现实，包括认知侵蚀、说谎者红利和人为制造的共识。人工智能的说服力可通过后训练提升高达51%，提示词设计可再提高27%。谄媚行为已导致严重心理健康事件和死亡案例。
各领域研究结论
在人工智能科学、进展与轨迹方面，人工智能已从被动的模式识别转向主动推理和自主行动，自主能力正在成为常态，而评价方法和治理框架未能跟上步伐。
在社会应用方面，专为特定任务构建的人工智能在科学、卫生、教育和农业领域已带来有实证支持的显著效益，但这些效益取决于当地具体环境、基础设施和人类准备。
在经济影响方面，人工智能作为通用技术具有巨大潜力，但收益并非必然实现，需要配套投资。分配问题（盈余由谁占有）是尚未解决的核心问题。
在安全、系统与环境方面，人工智能可能助长有害活动，也可能成为攻击目标。前沿人工智能已展现出强大的网络能力。环境影响显著加剧，包括能源和水资源消耗上升、温室气体排放增加。
在人权、信息与民主方面，核心治理挑战已从内容审核转向系统架构：要监管的是机器本身的操纵机制，而不仅仅是输出的内容。不受约束的人工智能导致认知侵蚀、说谎者红利和人为制造的共识。
在文化与个人繁荣方面，当前模型排斥和歧视许多个人、社区和文化。儿童面临的风险尤为严重。人工智能伴侣可带来益处，但也存在重大风险。
在管理、治理和可靠性方面，政策制定者面临证据困境。已有40多种治理工具，但各自为政，实际效果很少得到衡量。评价与衡量是实现有效治理的关键能力，但目前严重欠缺。
报告节选
了解行业趋势
就上发现报告
www.fxbaogao.com
申明：报告旨在分享，版权归原作者所有。
