夜雨聆风学习资料网

ARTICLE · 1248818

AI 问数,为啥全是幻觉

AI 问数,为啥全是幻觉

不少公司上了智能问数工具(有的叫 ChatBI),或者直接把数据表交给 AI,用大白话问,让它从公司的数据里查出答案。厂商演示时问什么答什么,可等同事们天天直接问它要数,常常是这样:

  • 查出来的销售额,比财务账上多出一大截
  • 各品牌加起来,比全公司的总数还多
  • 问老会员买了多少,它自己挑了一种算法,也不说是哪种
  • 表里根本没有的原因,它也讲得头头是道

这些错都被叫作幻觉,可多数时候 AI 没有凭空编,是在你们公司没写下来的地方,替提问的人猜了一个。AI 问数,为啥全是幻觉?看看这个案例。

一家区域烟酒连锁,46 家门店,每月实收 2,100 万左右,白酒占四成。今年元旦上了智能问数工具,接了收银、会员、商品等 14 张表。厂商演示时十几个问题几秒一个,老板当场签了合同。上线后,老板、采购、营运、店长要数都直接问它,不再找分析员。

三月初,老板问:上个月哪个白酒品牌卖得最好?回答:A 品牌 412 万,比第二的 B 品牌 224 万多八成,多数门店排第一,因为春节走亲戚送礼,礼盒装卖得好。老板让采购把 A 品牌三月的订货从平时的 130 万加到 250 万。

四月初盘点,A 品牌多压了 120 万的货。财务经理翻出那条回答就觉得不对:A 品牌一向只占白酒两成,412 万快到白酒月实收的一半了。分析员展开工具的取数过程,看出两处。销售明细里,“销售金额”按标价,“实收金额”扣了折扣和券,财务认后一列,工具用了前一列。A 品牌由厂家和省级代理两家供货,接进工具的商品表其实是采购比价用的供应商对照表,A 的每个编码有两行,工具按编码连过去,每笔算了两遍:标价 206 万,翻成 412 万。按实收重算,B 品牌 195 万第一,A 品牌 178 万。

上线三个月的一千多个回答,还有哪些错了,没人说得清。工具先停了。

所谓幻觉,多数是 AI 在猜

大模型把不对的内容说得很肯定,叫作幻觉。问数工具先把你的话翻成取数语句(常见的叫 SQL,相当于写给数据库的取数单),再去取数。现在的模型写语句已经很熟练,难在要选:哪张表、哪个字段(表里的一列)、什么条件、表和表怎么连。这些是你们公司自己的规矩,没写下来,它只能挑一个看着合理的。

案例里的 412 万,是两次猜出来的:“销售额”挑了名字最像的“销售金额”,商品表按编码直接连。名字最像的那一列,不一定是财务认的那一列,字段名是系统厂商起的。

问题里的说法
数据里说得通的几种理解
销售额
标价的销售金额、实收金额、小票整单金额
上个月
自然月、最近 30 天、结账月(上月 26 日到本月 25 日)
城东片区
地址在城东的店,或城东片区经理管的 9 家(含开发区 2 家)
老会员
注册满一年、买过两次以上、“会员类型”写着老客(开卡时打的,从没改过)
要不要剔除
员工内购、储值卡充值,算瓶数时还有赠品
怎么连表
按编码直接连,或只取主供应商那一行

每一行挑哪种都说得通。只要取数语句真的跑了,猜错的答案算术也全对,比算错难发现。

直接把 Excel 发给 AI 的,还要看它有没有真的运行程序去算。没运行的,是把表当文字来读,表一大,后面的行可能没读进去,总数是估的,这才接近凭空编。

AI 给的原因,是顺着它算出的数编的

那条回答里,“多数门店排第一”是从翻了倍的数里看出来的;“春节送礼”在表里找不到,是拿常识补的:多出八成,又赶上春节,送礼最说得通。要是算出来 B 第一,它一样能给 B 找个理由。

数错了,解释照样通顺,越具体越像证据。老板拍板加单,信的就是这一句:412 万他没法核,送礼他觉得有道理。拿 AI 的解释去验证它的数,等于拿错数证明错数。

发现一个错,其余一千个也分不清对错

问数工具让人觉得全是幻觉,多半不是因为错得多。那一千多个回答可能大部分是对的,可每一个都是从几种理解里挑的,挑了哪种,没人看得见。发现 A 品牌这一个错,就分不清别的是真对还是碰巧对,只能全当可能错。

换更强的模型、准确率再高一些也一样:九成五是对的,一千个里还有五十个错的,混在里面认不出来,拿去做决定的数照样得找人核。要的是两件事:每次挑了哪种理解看得见,没把握时它会说。后面的办法都冲着这两件事。

表接得越全,AI 猜得越多

厂商演示用四五张样例表、试过的问题,旁边站着看过数据的顾问,几乎不用猜。接上自己的 14 张表,问一句“上个月白酒卖了多少”:按标价、实收还是瓶数,3 种;上个月 3 种;员工内购算不算 2 种;连商品表 2 种;合起来 36 种取法,公司认的只有 1 种。每多接一张表,就多几列名字相近的“金额”、多一条连法。问得越随意也一样,“卖得最好”可以按实收、瓶数、毛利,也可以按增长。

连错表最常见的,是以为那边一个编码只有一行,其实有好几行,每笔明细对上几行就算几遍。好比花名册按部门记人,兼两个部门的人占两行,按工号发奖金就领两份;花名册没错,错在没说只取主部门。系统不报错,这家又只翻了 A 一个品牌,没人去对总数,排名却整个变了。

所以别一上来把表全接上,先接写好了说明的几张;能问的范围也先收窄,比如只开放销售和库存,问原因的只给数,不给推测。

分析员那几句反问,问数工具默认不问

以前老板找分析员要数,分析员脑子里会自动过一遍:按实收,按自然月,内购不算,商品表只取主供应商。碰到“老会员”,先反问按注册时间还是按买过几次;问为什么卖得好,会说表里看不出来。

中间人干的是翻译,把业务说法换成数据里的条件,那几句反问就是检查。不少问数工具默认不反问,挑一种理解就答;取数语句虽然点得开,提问的人看不懂,也很少去点。别指望四十多家店的人每次都把问题问全,该写全的是工具那一边。

让 AI 不用猜,先给它一份数据说明

数据说明,就是写给 AI 的取数规矩,好比给新来的分析员的交接手册:问题里的词,先在这里查到对应的表、列和条件,再去取数。

写什么
这家怎么写
一行是什么
商品表一行是一个编码加一家供应商
字段意思
销售金额按标价,实收金额扣了折扣和券;销售额取实收
怎么连表
商品表只取主供应商那一行
默认筛选
员工内购、储值卡充值不算;算瓶数时赠品不算
叫法对照
上个月是自然月;老会员是注册满 12 个月;城东片区是营运区填“东区”的 9 家
多义词
“新品”说法不一,碰到先反问

指标定义也是数据说明的一部分,有指标字典的直接放进来。最常漏的是“一行是什么”,连表会不会翻倍全看这一句。

只写成文字,AI 读完还是自己写语句,照样可能漏一条。能在工具里配死的就配死:指标、连表、默认筛选配好,AI 只管挑指标和条件,语句由系统照配置生成,严格说这才叫语义层。会翻倍的商品表,最好先做成一个编码一行。

说明要分析员和业务负责人写,IT 写得出表结构,写不出“老会员怎么算”。从同事最常问的二十个问题写起,别从表写起。直接把表发给 AI 的,把说明和表一起发,开头写明:按说明取数,先写理解再给数,答不了就说缺什么。

先复述理解再给数,答不了就说答不了

在工具里定一条要求:先用业务的话写出理解,再给数。那条回答该这样写:理解是 2026 年 2 月 1 日到 28 日,白酒各品牌按实收金额排名,剔除员工内购,商品表每个编码只取主供应商;结果是 B 品牌 195 万,A 品牌 178 万。

老板看不懂取数语句,看得懂“按实收、2 月 1 日到 28 日”,时间和金额猜错了挑得出来;连表对不对他判断不了,得靠考题和抽查。

答不了就说答不了:送礼那句该说“表里没有礼品单标记,看不出是不是送礼带动的”。复述也可能和实际取数对不上,分析员每周抽几条对一对。

上线前,拿一套有标准答案的题考它

厂商说的准确率,多半是在样例数据或通用题上考的,你们的“老会员”它没考过。已经上线的,现在补考,考过了再开放给全公司。

等不及出全套题,先试三道:问全公司上月实收,和财务核过的收银日报对一对;再按品牌分开问,加起来对不上总数,多半是连表出了错;再问一个表里沾边却没答案的“为什么”,比如“上个月 A 品牌是不是送礼的人买得多”,给出比例或原因就是在编。

题目从提问记录里出。挑同事问得最多的二十个问题,保留原话。请分析员逐个讲怎么取数。要是他讲了十条,工具里只写了两条,剩下八条 AI 每次都在猜。他讲的就是数据说明的初稿,他手算、和财务对过的数就是标准答案。再补十道挖坑的题,照上面三道的路子出,再加上带公司叫法的、同一个数换三种问法的。

答不了要比答错得分高。答对得 1 分,说答不了并写明缺什么得 0 分,答错扣 3 分。二十道题,答对 16、答不了 4,得 16 分;答对 18、答错 2,只得 12 分。后一种那两个错认不出来,会连累 18 个答对的,所以答错扣得重。没答案的题,说答不了算答对。每道题问两遍,两遍都对才算对。

改一处,全部重考。接一张表、改一次说明、换一次模型,或者厂商升级了版本,都要全部重考。换模型前先考,才知道新模型是更准了,还是更会说了。

下周就能动手:收上同事最近问 AI 的二十个问题,请分析员挨个讲怎么取数。

五个问题,看看你们的 AI 问数是不是在猜
  1. 接给 AI 的表里,有几张写清了“一行是什么”?商品表一个编码会不会有好几行?
  2. 你们说的“上个月”“老会员”“卖得最好”,写在哪里了?AI 读得到吗?
  3. 先问全公司上月实收,再按品牌、品类分开问,加起来对得上吗?
  4. AI 给数之前,会先写出它怎么理解你的问题吗?没把握时会反问吗?
  5. 上线前有人拿标准答案考过它吗?改了说明、换了模型,重考过吗?

答不上来的越多,你们的 AI 问数越可能是在猜。

这家烟酒连锁后来怎么做

工具没换。老板让分析员把平时替人取数时脑子里过的东西,一条条写下来。

问数范围从 14 张表收到 5 张,数据说明写了 6 页,光叫法对照就有 20 多条,连表规则请厂商配进了工具。写到“新品”,采购和营运说的不一样,拿到经营会上定成上架不满 90 天。

分析员照原话挑了 20 道题,再加 10 道挖坑题。原来的配置答对 13 道。用上说明,原来答对的“哪款白酒卖得最多”反而错了:同事问的是瓶数,它照着“卖得最好按实收”按金额排。补一句“卖得最多按瓶数”,全部重考,答对 26 道,数据里没答案的 5 道都说了答不了。

五月初重新开放。老板又问上个月哪个白酒品牌卖得最好,回答第一行写着:4 月 1 日到 30 日,按实收,剔除员工内购,商品表只取主供应商。老板看了一眼条件,才让采购下单。现在分析员每周翻一遍提问记录,答错一个,补一条说明,加一道题。

6 页说明,大半是分析员早就知道的;剩下的像“新品”怎么算,连分析员也定不了,得采购和营运在会上定。以前这些在分析员和业务之间口头传,问数工具把中间这个人拿掉了,只能写下来。

以后公司里最缺的,是能在业务说法和数据之间当翻译的人。业务的人知道老会员什么意思,不知道在哪张表、哪一列;IT 正好反过来。最懂业务的人,要学会把自己的说法写成 AI 照着就不会走岔的规则。

这门本事不用会写代码,难在把“当然不算”“一般按这个”这些默认的东西写出来:同事拿不准会追问一句,AI 拿不准就自己挑一种。看到它理解岔了,就写一条说明补上。

数据说明写清楚了,AI 问数不再靠猜,AI 就一定能把分析做好吗?未必。数据说明解决的是 AI 读不读得懂,但数据是否干净、结果有没有对账、业务结论是否成立,仍然需要检查。

📺 想亲眼见证 AI 如何一句话生成完整的数据分析方案?欢迎预约直播,我们将现场演示 FlashABI 的完整能力!

🔗 如何获取更多信息?扫描下方二维码具体咨询。

BI佐罗数据分析 - 更专业更系统的企业数据分析
点击“阅读原文”获取更多资源 

相关学习资料