所有企业,都该开始考虑部署自己的本地AI了
Qwen3.8 27B 版本终于开源了。
回老家的路上,让龙虾在家里的主机上做了个简单的部署和测试。
测完之后觉得:
不管是什么规模的企业,都该开始考虑部署自己的本地AI了
阿里官方公布的 benchmark 中,Qwen3.8-27B 甚至和 Opus 4.6 Max 被放在了同一张表里比较。
电脑操作 OSWorld,84.3 对 72.7。
移动端操作 AndroidWorld,81.9 对 62.0。
SWE-bench Pro,61.7 对 53.4。
长周期办公任务 CoWorkBench,70.7 对 68.2。
也就是说,一个只有 27B 参数规模的开源模型,已经能在部分 Agent、编程和办公任务上,做到和顶级闭源模型同一个级别,甚至在一些测试中超过它。
但真正让我兴奋的,其实还不是跑分。
而是这么一个级别的模型,我已经可以在家里的电脑上把它跑起来了,而且跑的还不错。
这件事往后再推一步,意义就不只是“普通人终于能在家玩一个强模型”了。
它真正改变的,是企业使用 AI 的成本结构。
过去,如果一家企业想让 AI 真正参与经营分析,光接一个聊天机器人其实没什么用。
AI 得读取企业过去几年的经营资料、财务数据、会议纪要、业务数据,再结合外部市场变化和行业情况,才有可能帮你发现异常、分析原因,甚至辅助经营决策。
问题马上就来了:
这些东西,你敢随便传到外面的模型里吗?
客户资料、财务报表、合同、内部经营数据,很多企业不是“不想用 AI”,而是根本不敢把这些东西往外发。
那就只能考虑本地部署。
可过去本地部署又有一个很现实的矛盾。
在过去,便宜的小模型,跑得动,但能力不够。
能力足够强的方案,往往需要上百万甚至千万的投入。
对于一家中小企业来说,还没验证 AI 到底能解决什么问题,就先花这么多钱买硬件,试错成本太高了。
但是今天,一台万元级别的机器,就可以把模型留在本地,数据也留在本地,从一个很小的场景开始验证。
中小企业终于有机会用一个足够低的成本,先把这件事跑起来。
这才是真正的技术普惠
很难形容现在激动的心情,很多过去因为成本而无法落地的场景,因为 Qwen3.8-27B 的出现变得可能,计划后续出一个系列专门讲讲本地化的AI模型的企业应用场景,感兴趣的朋友可以点个关注,一块看看本地化的AI要如何在企业落地。
夜雨聆风