AI生成引用惹争议 南非紧急撤回人工智能政策草案

南非政府近日宣布撤回其国家人工智能政策草案，此前该文件被发现存在引用虚假学术资料的问题，引发广泛关注与质疑。

这份草案原本由通信与数字技术部发布，旨在为南非未来的人工智能发展与监管提供框架，包括设立国家人工智能委员会（National AI Commission）、人工智能伦理委员会（AI Ethics Board）以及相关监管机构，同时通过税收优惠、补助和激励措施吸引私营部门参与。

然而，在公众评议阶段，有关方面发现该政策文件的参考文献中存在明显问题。在列出的67条学术引用中，至少有6条被证实为不存在的文献，疑似由人工智能工具生成的“幻觉”内容。

对此，通信与数字技术部长索利·马拉齐（Solly Malatsi）承认，这一问题“本不应该发生”，并表示最可能的原因是相关AI生成内容在未经过严格核实的情况下被直接纳入文件。

马拉齐指出，这一失误不仅是技术层面的疏漏，更严重影响了政策文件的完整性与公信力。他在接受媒体采访时直言，此事件“令人尴尬”，并坦言这与政策本身试图建立AI伦理规范的初衷形成了鲜明反差。

他进一步强调，该事件凸显了在人类使用人工智能工具过程中，必须保持严格的人工监督机制。过度依赖AI而缺乏有效核查，可能导致严重后果。

“这一事件再次证明，在使用人工智能时，持续且严格的人类监督至关重要，”马拉齐表示。

目前，相关部门表示将追究责任，并在未来对政策草案进行修订，但尚未公布新的发布时间表。

---