NTI:有人正试图滥用人工智能,这恰恰说明安全防护为何重要

图丨Pexels

据降低核威胁倡议组织（NTI）网站9月11日报道，人工智能风险讨论面临的一个挑战是，讨论往往始于假设，也止于假设。在有关人工智能与生物风险的讨论中，经常会看到两个阵营：一方认为几乎没有理由担忧，另一方则认为这种风险关乎人类生存。很多时候，争论的焦点变成了不同假设之间的较量。

这正是为什么Anthropic最新发布的《威胁情报报告》（threat intelligence report）如此重要。大多数专家此前已经得出结论：随着人工智能能力不断提升，它很可能会降低恶意行为者利用生物学造成危害的门槛。这份报告没有再追问人们“可能”利用先进人工智能系统做什么，而是记录了人们已经尝试开展的危险活动。

在生物领域，Anthropic介绍了多个案例，研究人员试图利用其模型开展可能具有双重用途（dual-use）影响的研究。绝大多数先进生物学知识都有正当用途。同样的信息既可以支持疫苗研发、改善公共卫生，也可能在不同情况下遭到滥用。双重用途风险的存在，并不意味着相关研究应该停止。但它确实意味着，安全防护、监测以及负责任的部署变得至关重要。

Anthropic表示，这些案例是“我们迄今发现的最值得关注、最具新颖性的威胁活动案例”，并指出，公司之所以将其公开，是因为它认为自己“有责任披露针对我们服务的恶意滥用行为”。

尽管这份报告并未回应近期有关“人工智能驱动的灾难即将来临”的说法，但它确实证明了一件具体且可以采取行动应对的事情——已经有人试图利用先进人工智能系统从事目的不透明、具有风险且可能造成危害的活动。

好消息是，报告中所描述的风险目前仍然可以管理，而这恰恰是因为企业、研究人员和政府正在对安全防护、检测能力以及透明度进行投入。

文章作者称，这份报告启示了现在的争论已经不再是“究竟会不会有人试图滥用人工智能”，已经拥有明确证据，表明一些行为者确实会这样做。

未来面临的政策挑战，是确保安全防护措施、治理框架和安全实践能够随着技术的发展继续以负责任的方式同步扩展。如果能够做到这一点，社会就可以在获取人工智能巨大收益的同时，将新兴风险牢牢控制在可管理范围之内。