AI无人机首杀！Hinton改口：比我想的复杂

全自主AI无人机已经在实战中杀死了人类士兵，AI教父Hinton为此调整了立场。

据New Scientist报道，乌克兰无人机企业Aero Centre CEO首次公开承认：2024年战场上，10架全自主无人机断开通信链路，自主完成目标搜索、识别和攻击，事后确认击杀俄军士兵。这是首次有技术提供方公开承认的实战案例。

需要说明的是，2021年联合国报告曾记录利比亚战场疑似自主击杀案例，但无当事方确认。且这是一次性测试，未大规模部署。

更值得关注的信号来自Hinton。他曾公开反对AI军事化。但面对乌克兰战场，他改口了："乌克兰因为无人机才得以生存。"

从坚决反对到有条件接受，他坦言情况远比过去想象的复杂，称现状"是一团糟"。这并非完全反转，只是立场微调，他依然担忧AI军事化的长期风险。

Anthropic CEO Dario Amodei发出更直接的警告。他发表《Policy on the AI Exponential》，呼吁政府对前沿AI模型实施类似FAA的强制第三方安全审查：
1）前沿AI模型上线前必须通过独立安全审查，不能让公司自己给自己打分
2）审查标准要跟上技术指数级增长的速度，现有监管框架严重滞后
3）Anthropic承诺投入3.5亿美元设立Economic Futures研究基金和全国奖学金项目，应对AI对劳动力市场的冲击

该提案适用阈值明确：算力超10^25 FLOPs，或年营收超5亿美元、年研发投入超10亿美元的头部企业才被纳入强制监管。

AI能力在指数级增长，监管还在线性爬坡。

无人机已自主杀人，AI教父已改口，头部公司CEO已在喊监管。但没有任何国家的AI安全法规跟上了技术迭代。

现有监管体系远落后于技术发展。等到下一次AI失控事件发生，可能连亡羊补牢的机会都没有。

你怎么看？AI安全监管还能跟上技术速度吗？欢迎留言聊聊。

#AI安全 #无人机 #Hinton #Anthropic #AI监管 #自主武器