硬件可以被“终结”，但黑化的AI软件将永生

“被终结” —— 一幅展现硬件退役与软件过时之间差异的漫画。
上周，人形机器人公司 Figure 将其大部分退役的 F.02 机器人投入了熔融的钢水中，阿诺德·施瓦辛格（Arnold Schwarzenegger）也加入了一场灵感源自《终结者》的告别仪式。“我们需要以一种能够保护我们专利硬件的方式来处置这些机器人，”该公司解释道。
然而，让 AI 软件退役就没那么简单了，因为在更好的软件出现后，旧模型依然可以发挥作用。即使开发人员已经停止提供支持，它们仍然能够编写代码、撰写具有说服力的电子邮件。
闭源模型依然留在其实验室的控制之下，盗窃和未经授权的访问是主要担忧。但可下载的开源模型可以被复制和修改，而原开发人员根本无法得知它们正被如何使用。Anthropic 警告称，发布具有危险能力的模型会带来“持续且不可逆的滥用风险”。
WormGPT 就是一个典型的例子。据报道，它是基于 2021 年发布的一个模型构建的，并在 2023 年被当作犯罪聊天机器人出售，当时研究人员测试了它撰写诈骗付款请求的能力。
随着功能强大的开源模型变得越来越便宜且普及，会有更多人找到它们的用武之地，其中也包括那些对尖端技术没什么需求的犯罪分子。Figure 可以熔毁其旧机器，但只要有人手里有副本以及运行它所需的算力，一个旧的软件模型就能在任何地方继续工作。