20多名AI研究人员联名呼吁加强监管

当AI开始研发下一代AI，监管的优先级可能比技术本身更高。

一份由OpenAI、Anthropic、Meta和微软研究负责人联合署名的论文于周一发布，呼吁政策制定者调查各公司在AI研发自动化方面已达到的程度。这是截至目前大型AI厂商首次以集体署名形式表达对AI自我研发能力的担忧。

01 核心问题：AI研发进入「自动驾驶」阶段？

图1：AI神经网络研究示意 · 来源：AI生图

论文指出，当前AI研发正逐步引入自动化流程：从数据筛选、架构搜索到超参数调优，部分环节已可由AI系统自主完成。研究者们担心，一旦AI研发的主要环节实现自动化，迭代速度可能远超人类监管能力的提升速度。

作者之一、OpenAI首席科学家Jakub Pachocki在论文中表示，这可能成为「人类历史上影响最为深远的技术发展之一」。

02 争议：风险被高估还是被低估？

图2：AI代码自动生成 · 来源：AI生图

这份联名论文在学界引发争议。有研究者认为，当前AI研发自动化程度仍处于「辅助工具」阶段，距离真正的「自我研发」尚有差距；而另一派观点则认为，正因为差距存在，才更应该在失控前建立监管框架。

值得注意的是，联名者均来自AI厂商而非独立研究者，这本身就是一个有趣的信号：行业内部开始出现对自身发展速度的担忧。

03 监管路径：从透明度开始

图3：AI风险警示概念 · 来源：AI生图

论文并未提出具体的监管措施，而是将首要建议指向「透明度」：呼吁各公司披露其AI研发流程中自动化所占比例。研究者们认为，没有透明度，监管无从谈起；而没有监管，「智能爆炸」的风险评估就是空中楼阁。

监管如何落地、各国政府是否响应，仍是未知数。但这封联名信至少表明：AI行业内部正在形成一种新的共识——技术的发展速度，已经需要外部约束。

🔥 今日互动

你认为AI研发自动化是否需要外部监管？行业自律是否足够？

---

本文由AI辅助创作，内容来源：arXiv论文《AI Researchers' Perspectives on Automating AI R&D and Intelligence Explosions》、财联社、新浪财经。