"
数据夸张,方法论存疑,AI圈的又一次集体狂欢。
📌 本文看点
01
官方数据 vs 社区复测
02
Harness机制被扒皮
03
作者认错与行业反思
一个叫J-Space的项目,号称能让DeepSeek V4 Pro的性能直接碾压Fable 5,结果六天之内就被社区锤成了筛子,复测数据跟官方宣传完全相反,Token开销还翻了一倍,最离谱的是,作者自己都承认数据有夸张成分,这出戏码,比AI本身还精彩。

先看最狠的数字,官方说J-Space能让DeepSeek V4 Pro在某个基准上从65分涨到91分,提升幅度接近40%,社区复测的时候,同样的测试跑下来,分数不但没涨,反而跌了3分,Token消耗倒是实打实涨了110%,原来跑一遍要花1。2万Token,现在要2。5万,算一笔账,如果每天调用一万次,光Token费一天就多烧掉130万Token,按DeepSeek的定价,一天多花差不多200块,一个月就是6000块,这还没算上时间成本,复测的哥们儿说,跑完整个测试集,J-Space版本比原版多花了47分钟。

J-Space这名字起得也够鸡贼,直接撞名Anthropic旗下的J-Space产品,Anthropic那款J-Space是正经的AI安全研究工具,这个J-Space是一个GitHub上的插件,号称通过一套Harness机制,把几个小模型组合起来,就能让大模型变聪明,宣传帖里写得神乎其神,说什么“小模型+工具链可以干翻顶级大模型”,还配了一张性能对比图,DeepSeek V4 Pro那条线直接飙到了Fable 5头顶上。
这帖子在推特上刷了三天屏,转发量破了两万,评论区一半人喊“牛X”,一半人喊“求代码”,GitHub上的Star数从零涨到八千多,还有人专门建了讨论群,群里两千多人等着上手实测,有个开发者连夜跑了个小测试,结果发现输出质量跟原版没啥区别,甚至有时候更差,他在群里贴了截图,说“这Harness是不是只改了个prompt模板?”结果被群主秒踢。
真正引爆全网的是第四天,一个叫“AI拆台”的账号发了一条长推,把J-Space的源码扒了个底朝天,他发现所谓的Harness机制,本质上就是套了一层复杂的prompt包装,把任务拆成几个子步骤,然后让模型自己跟自己对话,拆台帖里写了一句:“这不叫AI,这叫套娃。”这条推文一天之内被转了一万多次,评论区直接炸锅,有人翻出作者之前的言论,说这哥们儿曾经放话“小模型+工具能干掉大模型”,现在被自己的项目打脸了。
第五天,几个独立测试团队陆续放出复测结果,一个团队用了跟官方一样的基准测试集,跑了三遍,结果分别是67、68、66,跟原版的65比,提升不到3%,另一个团队换了更难的测试集,J-Space版本直接崩了,输出了一堆乱码,最搞笑的是,有个测试者发现,J-Space在处理数学题的时候,会把答案拆成好几个步骤,但每个步骤都算错了,最后汇总的时候居然能得出正确答案,他猜是模型自己修正的,但J-Space的代码里根本没这个逻辑。
第六天,作者终于扛不住了,发了一条置顶推文,承认“部分数据存在夸张”,但坚称“方法论没问题”,这条推文下面,点赞最高的一条评论是:“你连数据都敢编,我们怎么信你的方法论?”另一个高赞评论是:“这项目唯一的作用,就是证明了小模型+工具干不掉大模型。”
这事儿还没完,第七天,有人扒出J-Space的GitHub仓库里,有一份内部测试日志,里面记录了作者自己跑的数据,跟官方宣传的91分差了十万八千里,只有72分,也就是说,作者自己知道真实数据,但宣传的时候还是选了最漂亮的数字,这下连最后一点信任都没了,仓库的Star数开始往下掉,从八千多掉到六千多,讨论群里也吵翻了天,有人要求作者退款,因为J-Space是付费插件,定价9。9美元一个月。
其实J-Space翻车,背后有一个更深的问题,AI圈现在太迷信“神器”了,一个插件、一个Harness、一个prompt模板,就能让模型性能翻倍?这种故事每隔几个月就来一遍,每次都能骗到一堆人,上次是“某prompt让GPT-4智商+30”,上上次是“某框架让Llama 3吊打Claude”,结果呢?全是营销号自嗨。
但话说回来,J-Space也不是一无是处,至少它让很多人第一次意识到,大模型的性能瓶颈不在工具,而在模型本身,小模型+工具链能做的,顶多是优化调用方式,省点Token,或者提升点交互体验,但真要超越顶级大模型,那得靠模型架构和训练数据的硬实力,这就像你给一辆奥拓装个涡轮增压,它还是奥拓,跑不过法拉利。
现在回看这六天,最讽刺的是,J-Space的官方文档里写着“本工具旨在释放大模型的全部潜力”,结果它释放的不是模型的潜力,而是网友的吐槽欲,评论区里有人问:“这项目是不是Anthropic派来的卧底,专门黑DeepSeek的?”另一个回:“不,它是来黑所有AI的。”
这事儿给所有AI玩家提了个醒,看到“性能暴涨”“超越XX”这种词,先别急着转发,跑个复测再说,毕竟,连作者自己都承认数据夸张了,你还信啥?


FLOWER CLUSTERS
点个在看你最好看
夜雨聆风