谷歌的AI,把一个正经软件当成了病毒

一个写了正经软件的程序员，被谷歌的自动系统判定成"恶意软件散布者"，广告账户直接封停。

他提交了苹果的公证文件，提交了谷歌自家安全工具的检测报告，提交了第三方杀毒引擎的扫描结果——全部干净。没用。系统不告诉他哪里出了问题，也不给他人工复核的入口。

最后救他的，是一群在论坛上围观的陌生人。

事情是这样的

这个程序员叫 Przemyslaw Alexander Kaminski，做了一个叫 RACE 的软件，是个 macOS 上的终端工具，开源，用 Rust 写的。

说人话：这东西就是让你在 Mac 上同时开好几个命令行窗口，还能随便拖来拖去、缩放、分组。跟市面上已有的同类工具比，它的玩法不太一样——别人是格子式排列，它搞了个"无限画布"，你想把窗口放哪就放哪。

技术细节你不用管。你只需要知道一件事：它是个正经工具，不是病毒。

Kaminski 给 RACE 投了谷歌广告，想让人搜到它、下载它。广告刚上线，账户就被停了。

理由：" compromised site "和" malicious binary "——你的网站被入侵了，你的软件是恶意的。

他证明了自己没病，但医生说"我不看"

Kaminski 懵了。他开始自证清白：

• 苹果的公证（Notarization）——过了。这是苹果对 macOS 软件的官方安全认证，能过这关说明苹果认为这软件没问题。
• 谷歌自家的 Safe Browsing——干净。
• 谷歌 Search Console 的安全检测——没发现任何问题。
• VirusTotal 上所有杀毒引擎——零报警。

苹果说没问题，谷歌自己的安全工具说没问题，全球几十家杀毒引擎说没问题。

但谷歌广告系统说：你有问题。

Kaminski 提交了申诉，附上了所有诊断报告。系统回了一个"确定性拒绝"——不告诉你具体是哪个文件触发了规则，不告诉你哪条策略匹配了，不给你任何可以修改的线索。

他想找人工客服。客服入口的前置条件是：你得先解决安全问题。

安全问题怎么解决？找客服。找客服的前提？先解决安全问题。

一个完美的死循环。

为什么会被误判？

这里有个技术上的原因，但我会用一句话说完：

RACE 这类工具需要在后台保持一些进程活着，这样你关掉窗口再打开，之前跑的命令还在。这个行为模式，跟木马、后门程序的某些特征长得很像。

自动安全扫描器看到"一个程序在后台持续运行、能接收命令行输入、还能在父进程消失后继续存活"——它的判断是：这玩意儿可疑。

问题是，这是终端工具的正常工作方式。 就像菜刀能切菜也能伤人，你不能因为菜刀有伤人的可能性就把所有卖菜刀的抓起来。

但自动系统不管这些。它看到模式匹配，就亮红灯。

Kaminski 甚至试着改了代码，在 1.0.39 版本里加了明确的用户提示和进程清理机制，想让系统看到"你看，我会好好清理后台进程的"。

没用。系统根本不看你改了什么。

救他的是一群陌生人

走投无路的 Kaminski 把这件事发到了 Hacker News 上。

Hacker News 是程序员圈子里最有影响力的论坛之一，相当于技术圈的"热搜榜"。帖子火了，一群人开始讨论、转发、@谷歌的工程师。

然后，奇迹发生了。

Kaminski 后来在原文里更新了一句话，带着明显的无奈和讽刺：

"通过 Hacker News 的某种神奇力量，我的谷歌广告账户被恢复了。仍然没有任何解释是什么触发了封禁，但感谢所有帮忙让它被看见的人。"

你品品这句话。

一个开发者，提交了苹果公证、谷歌自家安全报告、几十家杀毒引擎的检测结果，申诉无门。最后解决问题的方式是——发帖，上热搜，让工程师看见。

这不是技术问题，这是权力问题。

这事跟你有关系吗？

你可能会想：我又不写代码，关我什么事？

关系大了。

今天被误判的是一个终端工具，明天可能是你用的任何一个软件。

自动审核系统正在接管一切。谷歌广告、苹果商店、微信小程序、各种云服务平台——它们都在用黑箱模型判断"什么是安全的，什么是危险的"。

这套系统的逻辑是：宁可错杀一千，不放过一个。 因为对大平台来说，放过一个坏人的成本，远高于错杀一千个好人的成本。

成本谁承担？开发者承担。你承担。

Kaminski 说他不会放弃，哪怕要打到欧盟法院。但大多数被误判的开发者，没有 Hacker News 上热搜的运气，也没有打官司的精力。他们只能认栽。

当平台的自动化系统判你有罪，你连申辩的资格都没有——这才是这件事最让人后背发凉的地方。

最后说一句

谷歌后来恢复了 Kaminski 的账户，但至今没有解释到底是什么触发了封禁。

这意味着什么？意味着同样的事情随时可能再发生一次。 下一次，可能没有 Hacker News 的热搜，没有一群陌生人的围观，没有工程师恰好看到。

Kaminski 是幸运的。但这种幸运，不该是解决问题的唯一方式。

你手机里那些"安全""可靠"的软件，有多少是靠着运气才活下来的？

---

互动：你有没有被平台的自动系统误伤过？评论区聊聊。