推荐工具系列:LiteLLM,让团队的AI使用情况一目了然

01

看不见的盲区

在公司AI应用过程中，我发现一个诡异的事。

你问大家「AI用得怎么样」，回答基本都是「在用」「挺好」「确实方便」。但你要是追问一句，具体用在哪了？花了多少钱？哪些环节真正用上了？哪些环节还只是嘴上说说的？

沉默了。

不是大家不想说，是真的说不清楚。因为大模型这东西，在企业里一旦放开用，很快就变成每个人自己注册账号、自己充值、自己找API Key、自己接各种工具。每个人都在用，但每个人怎么用、用多少、用得深不深，你完全看不见。

想想看，一个公司几十号人，API Key散落在各个角落，有人用DeepSeek写文档，有人用Claude写代码，有人用豆包做图，各自为战，各自付费。你作为管理者，想看一眼全局？

没有。

这就是AI落地最大的盲区。不是技术不行，不是模型不够强，是你根本看不见真实的使用情况。你不知道钱花在哪了，不知道谁在真用谁在划水，更不知道AI到底有没有真正嵌入团队的工作流。

直到我碰到了LiteLLM。

02

五个管理价值

LiteLLM这玩意，网上大部分文章都在讲怎么统一调用各家API，怎么装怎么配。坦率的讲，这些当然有用，但如果你是企业管理者，你真正关心的根本不是这些。

你关心的是，我怎么把公司里所有人用的模型，统一管起来。

LiteLLM对我来说，核心就几件事。

先说最直接的，集中采购Token。以前各团队自己充值，有的充OpenAI，有的充Anthropic，有的充国内的，发票开一堆，成本完全不可控。现在统一买Token，统一分配，钱花在哪一目了然。

但光管住钱还不够。你还得管住大家用什么。多模型统一接入，DeepSeek、Claude、GPT、豆包，还有各种Coding Plan，都能接进来。但使用者不需要知道后端是什么，他只需要知道自己用的是「公司分配的AI接口」。你换模型，他那边无感切换。

再说一个很多人没意识到的，权限匹配。不同组配不同模型，不同人配不同额度。开发组可以用Claude写代码，运营组用DeepSeek处理文档，实习生给个基础额度就行了。谁该用什么、能用多少，你说了算。

但光管住谁用什么还不够。你还得知道大家用得怎么样——这个我后面单独讲，因为这是我觉得最有价值的一块。

还有一个事，账号生命周期管理。以前员工离职，他手里的API Key就跟着走了，密钥散落各处，这是真实的安全风险。现在通过LiteLLM的虚拟密钥体系，员工用的始终是公司分配的Key，人走，Key一回收，干干净净。

03

用量分类才是落地验证

说完这几条，我想单独聊聊用量分类。

因为这一条，是我用了之后才发现，「监控花了多少钱」对公司来说价值很有限，更有价值的是用在哪里了。

LiteLLM可以把团队的模型调用，按工作类型做分类。哪些Token花在了编码上，哪些花在了处理文档上，哪些花在了做图上。甚至可以区分应用的项目。还可以按调用的工具来分，比如通过Cursor调的、通过网页端调的、通过API直接调的。

坦率的讲，一开始我也只是想看看成本分布。直到有一天，我打开后台，看到开发组那个月的Token消耗，80%以上全花在编码上——我当时就愣住了。

你想啊，大家汇报的时候都说「在用AI」，但「在用」和「在用」差别大了。有人是真的把AI嵌进了日常工作流，每天编码、写文档、处理数据都离不开；有人就是偶尔问两句，算是「在用」了。你要是只看有没有开通账号，根本分不出来。

但用量数据不会骗人。

你看到开发组80%的Token都花在编码上，你就知道，AI是真的嵌进了他们的工作流。你看到某个组Token消耗主要在文档处理，你就知道，他们在用AI帮着写东西。你看到某个组几乎没什么消耗，你就知道，AI在那边还没真正落地，得想想是培训没到位，还是他们的工作场景确实用不上。

这东西比任何汇报都准。不是靠大家嘴上说，而是看实际数据，大家到底在哪些环节上真正用上了AI。

有了这个数据，你才能做真正有依据的决策。下一步预算往哪投？哪个团队需要更多培训？哪些工具该推广、哪些该砍？全都有据可查，不再是拍脑袋。

04

让AI来帮你部署

说到部署，可能有人会觉得，这玩意听起来挺重，是不是得配个运维团队才能搞？

其实不用。LiteLLM的安装方法网上搜一大把，pip、Docker、Docker Compose都有，具体的安装步骤我就不贴了。

我自己当时也不会装。但后来发现，根本不需要自己装。

不管你手边是Codex还是Trae还是Claude Code，都一样。你把服务器的连接信息给它，让它能连上去，然后用中文告诉它你要干什么就行。

比如你可以说，帮我在服务器上安装LiteLLM，我要接DeepSeek和Claude，开发组用Claude写代码，运营组用DeepSeek处理文档，每个组每月限额50块，帮我配好。

就这样，用大白话说你的需求，AI会帮你把安装、配置、启动全搞定。后续要加新模型、调权限、改额度，也是一样，跟AI说一声就行。

这个感觉其实挺妙的。你用AI帮你部署了一个管理AI的工具，然后用这个工具去看大家用AI用得怎么样。

自己管自己，差不多是这个意思。

回到最开始那个问题，企业推AI落地，你怎么知道大家到底用没用、用在哪了、用得深不深？