夜雨聆风
新西兰政府长期以来一直在宣传：增加科技和人工智能（AI）的使用，是公共部门适应国家财政紧张、并让政府体系未来在财务上可持续的一种方式。本周政府宣布公共部门运营削减总计24亿纽币后，这个方向变得更加明确。
政府预计，这些削减将通过机构合并、使用AI和科技，以及减少公务员岗位来实现。
财政部长 Nicola Willis 表示，公众每天都在使用AI，“而公共部门中，有些机构已经抓住机会进行创新，但另一些机构仍然被落后的工作方式困住，只会机械式打勾完成流程，而不是注重结果。”
Willis表示，这种情况既不可接受，也不可持续，因此政府将压缩各机构的运营预算，以“推动精简政府机构和实体数量、推进面向公众和后台政府功能数字化，并让公务员人数恢复到历史正常水平。”
不过，虽然公共部门已经开始推进加速使用AI，但目前还不清楚这到底能省下多少钱。
今年2月，政府首席数字官 Paul James 曾表示，目前还没有太多数据能证明AI究竟能为新西兰节省多少钱。虽然AI肯定会降低成本，但真正实现这些节省还需要时间。
本周，工党议员 Reuben Davidson 询问：AI具体预计会取代哪些岗位。公共服务部长 Paul Goldsmith 回应称，政府将在未来三年逐步研究这个问题，目前也正在制定AI劳动力规划。
当被问到是否有证据证明AI能够安全地、大规模承担公共部门工作时，Goldsmith表示：“这取决于具体是什么岗位，但目前AI已经在公共部门某些场景中使用了，就像它已经在全世界广泛使用一样。”
“对AI应用的理解过于简单化”
Joshua Yuvaraj 是 University of Auckland 的高级法律讲师。他表示，政府宣布利用AI来精简公共服务，显示出：
“政府对AI应用的理解过于简单化，没有真正理解政府部门工作的庞大复杂性，以及不同部门面临的风险等级差异。”
他说：
“如果你说这项技术已经可靠到可以让公共部门大规模裁员，那这是一个非常重大的说法，需要非常强有力的证据来证明其有效性和准确性。但据我所知，目前的实际研究证据并不支持这一点。”
Yuvaraj表示，政府没有足够重视AI可能出错的问题，也不清楚这些风险是否已经被纳入“用AI取代大量政府部门岗位”的计划中。
他说：
“目前被讨论使用的一些AI工具，最大的问题之一就是准确性。如果使用生成式AI，其中一个重大问题是，它并不是建立在现实基础上的。它并不知道什么是对、什么是错，也不知道真假。它只是根据训练数据进行生成而已。”
Yuvaraj提出疑问：
“如果AI犯错了，该怎么处理？谁来负责？责任如何划分？公众会怎么看？”
“如果你让AI去模拟原本由人类判断的事情，那你就必须预期：会有错误，会有不准确的情况。”
他说，人们可能会反驳：“人类也会犯错。”这当然是真的，但人类处于一整套责任体系中，包括管理责任、雇佣责任，甚至刑事责任等等。
Yuvaraj最后表示，说AI一定能节省时间其实很容易，“但关于这一点，目前的证据其实是有争议、并不统一的。”
