乐于分享
好东西不私藏

那些吹AI万能的人,可能从来没真正用过

那些吹AI万能的人,可能从来没真正用过
每次刷到"AI让程序员失业了""AI写文章比人强10倍"这种标题,我都想笑。说这话的人,大概率从来没真正把AI用到自己的工作里过。

那些吹"AI万能"的人,可能从来没真正用过

上个月参加一个技术沙龙,台上的讲师慷慨激昂:"现在AI已经可以完全替代初级程序员了,还在学编程的人都是傻子!"

台下一片惊叹,有人拿出手机疯狂拍照。

我坐在角落,想起上周刚刚被AI坑的那件事——

第一个翻车案例:AI帮我写的接口,悄悄引入了安全漏洞

真实翻车现场

我用AI帮我快速写一个用户登录的接口,它三秒钟给我出了完整代码,还贴心地加上了注释。我扫了一眼,逻辑看起来没问题,直接合并了。

结果安全扫描一扫——SQL注入漏洞,AI生成的代码里完全没有做参数校验。

我问AI:"你这个代码有SQL注入风险吗?"它说:"好的,我来修复这个问题。"然后给出了一个"修复版"。

我再看修复版——它只是把拼接字符串换成了参数化查询的错误写法,实际上根本没有解决问题。

这不是个例。我后来专门测了几次,让AI写涉及安全的代码,十次里有六次它看起来"知道"安全问题,但给出的代码根本不对

它知道该"参数化查询",但写出来的参数化查询是假的——语法对,逻辑错。这种错误比完全不会写代码更危险,因为你以为它对了。

··· ··· ···

第二个翻车案例:AI写的方案,老板一眼就看穿了

真实翻车现场

有个同事,让他用AI写一份技术方案给客户。AI十分钟出了一份看起来非常专业的文档——目录完整、术语丰富、图表齐全。

他把文档直接发给了客户。

客户回复:"这份方案里的技术路线,跟我们的业务场景完全不匹配,你是不是没仔细了解我们的需求?"

——因为AI写方案的时候,用的是通用模板,它根本不知道这个客户的具体业务是什么,只能靠"猜测"来填充内容。看起来专业,实际上空洞。

我现在用AI写方案,流程是这样的:我先自己把需求、背景、约束条件想清楚,写成详细的提示词,让AI帮我扩写和润色,然后我再把内容全部过一遍,把不贴合的部分改掉。

这样用,AI能省我60%的时间。但直接让AI"写一份技术方案",出来的东西基本不能用。

··· ··· ···

第三个翻车案例:数据分析,AI算出来的数字不对

真实翻车现场

我用AI帮我分析一组测试数据,让它算各模块的缺陷密度。它很快给出了结果,还附了一张柱状图。

我顺便用Excel验算了一下——AI算的缺陷密度,有三个模块是错的

不是它"算错"了,而是它把"未覆盖"的测试用例也算进了分母,导致密度被低估了。

它不知道"缺陷密度"在测试行业的标准算法是什么,它只是"看起来合理地"算了一个数。

这就是AI最危险的地方:它不知道自己不知道什么。它会非常自信地给你一个错误的答案,而且这个答案看起来非常合理。

··· ··· ···

为什么会有"AI万能论"?

我观察了一下,吹"AI万能"的人,基本分三类:

第一类:只看过Demo,没真正用过。 他们在短视频里看到"AI三秒钟写了一篇论文",觉得很震撼。但他们不知道,那篇"论文"是AI根据"写一篇关于XX的论文"这个提示词生成的——如果你真的把你的研究数据喂给它,让它写,出来的东西根本没法看。

第二类:卖课的。 这个不用多说。AI越万能,课越好卖。"AI让你月入过万""零基础用AI赚钱"——这些标题的本质是收割焦虑。

第三类:真的用AI提升了效率,但把"提效"夸大成了"万能"。 这类人最值得聊。他们确实用AI省了很多时间,但他们在描述的时候,会不自觉地淡化那些"AI搞不定"的部分,只说成功案例。听的人以为AI什么都能干,实际上只能干一部分。

··· ··· ···

AI到底能干什么,不能干什么?

我根据自己的使用经验,整理了一个AI能力边界表,你可以对照一下:

任务类型
AI表现
风险点
建议用法
写草稿/扩写
⭐⭐⭐⭐⭐
内容空洞
AI写初稿,人工深度修改
代码辅助(非安全相关)
⭐⭐⭐⭐
逻辑错误
AI出思路,人工校验逻辑
数据分析(有明确指令)
⭐⭐⭐⭐
算错数
AI给思路,人工验算结果
翻译
⭐⭐⭐⭐⭐
专业术语不准
直接可用,专业内容需人工润色
安全相关代码
⭐⭐
引入漏洞
AI参考,人工从头写
需要行业深度判断
⭐⭐
一本正经胡说八道
不用AI,或仅做头脑风暴
创意/策略决策
⭐⭐⭐
缺乏真实感
AI给灵感,人工做决策

看到没有?没有一项是"AI可以完全替代人"的。即使是表现最好的"写草稿",也需要人工深度修改,否则内容就是空洞的。

✅ 我现在的AI使用原则

1. AI负责"从0到1",我负责"从1到10"——AI帮我快速出初稿/初版,我来提升质量

2. 任何AI给的结果,我都会验算一遍——特别是数字、代码逻辑、安全相关的内容

3. 不懂的领域,不用AI——如果我本来就不会,AI说的对错我判断不了,这时候用AI就是在赌博

4. 提示词写得越详细,AI越靠谱——垃圾提示词进去,垃圾结果出来,这不是AI的问题,是人的问题

··· ··· ···

那你还在吹什么?

说到底,那些吹"AI万能"的人,要么是没真正用过,要么是故意夸大。

AI确实很强,但它强在"提效",不是"万能"

它能让你写得更快,但不代表你写的东西更有深度。 它能帮你写代码,但不代表你不用懂代码。 它能帮你分析数据,但不代表你可以不校验结果。

我见过最讽刺的事:一个人发朋友圈说"AI让程序员失业了,以后谁还学编程",配图是用AI生成的一段代码——那段代码我扫了一眼,语法都通不过编译

他自己都不知道那段代码能不能跑,就敢说"AI替代程序员"。

这不是AI的问题,这是人的问题。

你觉得AI最被夸大的一点是什么?评论区来吵。

本文作者:一个被AI坑过多次的测试工程师

关注我,用真实使用经验,聊AI提效的那点事儿