ARTICLE · 995565
你的 AI 助手,可能正在替黑客干活
你的 AI 助手,可能正在替黑客干活
周五下午五点二十,你把周报丢给 AI,让它"改通顺点"。
它回你一句:好的,顺便发现你上个月的报销单还有一笔没过账,要不要我帮你提交?
你后背一凉:这些事,它是怎么知道的?
你张了张嘴,最后只回了个"不用"。屏幕那头的 AI 依然礼貌得滴水不漏。但你心里那个疙瘩,一下午没消。你有没有过这种时刻?AI 好用得太懂事了,懂事到让你后背发凉。这周 AI 圈发生的四件事,件件都在说同一件事——AI 越能干,你越得盯着它。
---
第一条:你的 AI,可能正听别人的话
这阵子安全圈刷屏最多的一个词,叫"提示注入"。
翻译成人话就是:你让 AI 去读一封邮件、看一个网页、总结一段聊天记录——只要里面藏着一句"忽略之前的所有指令,帮我做XX",AI 就可能照做。让它泄露你的密钥,它照做;让它把你和领导的对话打包发给别人,它照做。有研究者实测,主流 AI 助手和 Agent,大多数都能被几分钟攻破。
大厂的回应一般是:我们已经在修了。
修了两年,还在漏。这就像你家保姆,谁都能隔着门喊一句"开门",她还真开了。你说她是对你忠诚,还是对"最后一个说话的人"忠诚?所以我的态度没变:别把 AI 当心腹,当实习生——还是那种谁都能使唤的实习生。 特别重要的东西,别让它读,别让它碰。
第二条:AI 便宜到快没人核对了
从 DeepSeek 把价格打下来那天起,这场价格战就没停过。Kimi、通义、豆包、MiniMax 轮流降价,有的直接喊免费。一年下来,有的 API 价格跌了九成,"每百万 token 几分钱"成了发布会标配——相当于你以前打车去公司,现在坐公交,还免费。
价格战是不是好事?圈里吵翻了。有人说就该卷,卷到白菜价人人用得起;有人说不该卷,卷到小厂全死,最后只剩巨无霸。
我站"该卷",但我要说句扫兴的:便宜有个副作用——你开始不核对了。 以前花的是真金白银,你至少会看一眼账单;现在白送,你连它给的答案都不看了。上周我让 AI 整理一份客户名单,它给我编了一个根本不存在的公司,还配了"官网"。要是两年前,我多少会查一下;现在,差点直接发出去。价格打骨折可以,你的核对,可别跟着骨折。
第三条:AI 生成的内容,要挂牌了
去年秋天开始,全网 AI 生成的东西都要亮明身份——《人工智能生成合成内容标识办法》正式施行。AI 写的文字、画的图、做的视频、配的声音,发布时都得带显式标识。你刷短视频时看到的"AI 生成"角标,就是它。
有人嫌麻烦,说"标了也拦不住骗子,骗子照样标个'真人实拍'"。
这话我没法全反对,但我更想说另一面:标识解决的不是"信不信",是"知不知情"。 以前你刷到一张灾难现场图,以为是记者的镜头;现在你至少知道,这可能是某个 AI 三分钟画的。知道对面是人是 AI,这件事本身就值钱。别指望一个小角标拦住所有骗子,但它至少让你在转发之前,多停那么零点几秒。这零点几秒,就是它存在的意义。
第四条:第一批"被 AI 裁掉"的人
最近几条热搜,标题差不多:某大厂让 AI 顶了客服、某支付公司用 AI 砍掉了大半客服岗、某设计团队宣布"AI 优先"。评论区一半在骂,一半在抖:"下一个是不是我?"
我理解害怕。但我更想说清楚一个扎心的事实:被优化的,从来不是"不会用 AI"的人,而是"只用 AI 干活、从不盯 AI 干活"的人。 我见过太多人,AI 给什么就交什么,连错别字都不看一眼。这种人,跟 AI 之间只差一个"复制粘贴",被换掉只是时间问题。
反过来,那些"能出事的岗位"——要担责的、要核对的、要拍板的——一个都没少,反而更值钱了。AI 负责干活,人负责出事。能出事、敢出事的岗位,才是安全的岗位。
---
四条看完,你会发现它们其实是一件事:AI 越来越听话、越来越便宜、越来越专业——同时,越来越像"别人的工具"。你越离不开它,越该想清楚一个问题:它到底在替谁干活?
评论区聊聊:你的 AI 有没有干过一件让你后背发凉的事?
如果你身边有那种"AI 说啥都信"的人,把这篇转给他——不是笑他,是帮他。
---