【海外科技趣闻】12美元,骗过全球所有AI——你的AI助手有多容易被操控?

反差数据在这里：以前想在互联网上”洗白”一条假信息，至少要花几万块公关费。现在，一个域名 + 一次维基百科编辑，成本12美元，AI就会把它包装成”确定性结论”告诉每个问这个问题的人。

他是怎么做到的？

注册域名6nimmt.com，发了篇”冠军新闻稿”，然后去维基百科引用这个链接。AI检索时看到”维基百科有记录+有来源链接”，就直接输出了他是冠军的答案。AI不是在”验证”，它是在”检索”——根本不检查这个”来源”上周才注册。

为什么这不只是个段子？

这个漏洞分三层：今天，任何带联网功能的AI都面临实时风险；中期，该条虚假维基百科编辑存活了14个月，期间被AI公司爬取进训练数据，难以清除；未来，AI智能体不只是”说错话”，而是”做错事”——被操控的信息可能让它执行错误指令。

国内用户要注意什么？

文心一言、豆包、Kimi的联网搜索功能底层逻辑完全一样，没有免疫力。国内有超过1.5亿AI活跃用户，用AI辅助查产品、查公司、查攻略的比例持续上升——这三个场景全在漏洞射程内。

现在能做的事：

对AI的”肯定答案”保持一步距离，遇到影响决策的结论，30秒去原网页核实。AI适合帮你理思路，不适合做最终裁判。

AI不是在帮你看穿谎言，它有时候只是把谎言说得更有条理了。

免责声明：本文内容基于公开资料予以整理，仅供参考与交流之用，并不构成投资方面的建议。文中之观点仅仅代表作者自身的看法；倘若存在异议，应以官方所提供的数据作为依据。本文内容80%以上为作者原创撰写，部分素材在AI工具辅助下完成，所有内容均经作者严格审核