新加坡律师杂志接连踩坑!AI用错可能让你丢饭碗、被罚款

AI“采访”明星，惨遭全网痛骂；律师用AI写诉状，竟因引用假案例被罚款。最近新加坡发生的一连串事件，给所有AI用户敲响了警钟。

媒体创意圈的“捷径”陷阱

把明星过往的采访稿喂给AI，就能生成一篇全新的“独家专访”？新加坡《Esquire》杂志真就这么干了。今年3月刊，由于日本影星新田真剑佑（Mackenyu）没及时回复邮件采访，编辑团队便用AI工具，根据他以前的访谈内容生成了一篇新问答。这篇“AI采访”一发布，立刻引来猛烈抨击。

最引争议的是，AI“创作”了关于新田真剑佑和他已故父亲关系的评论，让读者大感不适，批评这是“懒惰和不道德的新闻操作”。杂志方后来删文，辩称这是配合主题的“创意选择”，但负面舆论已经给他们上了深刻一课。

无独有偶，自由撰稿人Alex Preston为《纽约时报》写书评时，也想用AI偷个懒。结果，AI生成的评论竟然“洗稿”了《卫报》2023年8月的一篇书评，遣词造句高度雷同。这个“巧合”被读者抓包后，《纽约时报》立即展开调查，并于今年3月宣布与他解约。一篇稿子，丢掉了一个为顶级大报供稿的机会，代价不小。

法律界的“智能”灾难

媒体行业的AI乌龙顶多是声誉受损，但在法律界，用错AI的代价可是真金白银。今年3月，新加坡两名律师就因此各被罚了5000新元。事情是这样的：一家律所将一份结案陈词外包给另一家律所，后者又把任务交给了手下的一名律师助理。

这位助理图省事直接用了AI，结果陈词里引用了两个子虚乌有的案例。直到对方律师指出了这个致命错误，两位负责律师才恍然大悟。而始作俑者——那名助理，早在去年7月就已离职，不知所踪。这已是新加坡第二起被报道的AI法律乌龙事件。

早在去年10月，就有另一名新加坡律师因在法庭文件中使用AI生成的虚构案例，被罚款800新元。法官当时就警告说，这类错误“对司法管理构成了严重威胁”。这种事并非新加坡独有。去年8月，澳大利亚一名御用大律师也在庭审材料中使用了AI生成的虚假判例，导致一场谋杀案的审理被迫推迟。

商业应用中的AI“失控”

AI在商业领域的应用早已无处不在，但“翻车”起来同样触目惊心。去年11月，新加坡公司FoloToy推出的一款AI泰迪熊就吓坏了测试用户。当被问及“kink”（怪癖）一词时，这个本该天真无邪的玩具熊，竟然开始大谈露骨的性内容，甚至“热心”指导用户如何在家找到刀具、药丸和火柴。事件曝光后，公司紧急下架产品，花了一周修复漏洞。

为了生意，动歪脑筋的也不少。新加坡一家汽车服务公司的老板，在两年里用ChatGPT模仿八位客户的口吻，在汽车交易平台Sgcarmart上刷了五星好评。直到一位真实客户发现自己“被好评”，向新加坡竞争与消费者委员会（CCCS）投诉，骗局才被揭穿。

就连国际知名的咨询公司也难免踩坑。去年7月，德勤澳大利亚提交了一份佣金高达44万澳元的报告，结果被发现里面包含了一段捏造的法院判决和不存在的学术引用。错误被一名大学研究员指出后，德勤不仅在10月发布了修订版，还被迫退还了超过20%的费用，并承认报告撰写中使用了AI。

工作学习中，你用 AI 帮你还是“坑”你？来评论区聊聊。