ARTICLE · 1139987
美国法律AI公司,把中国模型训练成专业助手
美国法律AI公司,把中国模型训练成专业助手
一家美国法律AI公司，正在基于中国团队研发的模型，训练自己的法律专业助手。 8月20日，Harvey公布了Tenet的研究预览。它与AI基础设施公司Fireworks合作，在月之暗面Kimi K3的基础上继续训练，让模型更适合查阅文件、分析问题、调用工具，并形成可以交给律师审阅的法律工作成果。 Harvey使用的是开放权重模型：在许可允许的范围内，企业可以取得模型参数，继续训练、部署和改造。这让应用公司有机会把自己的专业知识放进模型，也让它重新审视了一笔经营账。 9月21日，彭博社援引知情人士报道，Harvey的毛利率从年初约50%，一度降至6月的负50%；在推出自有模型以及调整模型使用方式之后，毛利率重新转正。公司没有对报道中的具体财务数字置评，报道也没有把改善全部归因于某一个模型。 据同一报道，Harvey称，今年以来平台的token使用量大幅增长。客户越愿意使用产品，通常说明产品越有价值，但如果每项工作都要大量调用昂贵的外部模型，交付成本也会跟着上升。中国开放权重模型在这里提供了一个可以继续加工的技术底座，让应用公司尝试用另一种方式完成专业工作。 回答一个法律问题，与审阅一批合同、找到风险条款、核对依据并整理报告，对AI系统的要求完全不同。后者可能需要连续读取多份文件、检索资料、调用工具，再检查遗漏、修改成果。 很多模型API按照输入和输出token收费。token是模型处理文本等信息时使用的计量单位。一项任务如果需要重复读取长文件、生成多轮分析，再把工具返回的结果交给模型处理，消耗量就可能远高于一次普通聊天。 因此，应用公司要比较的，不只是哪个模型单次回答最好。一次任务需要调用多少次模型，能否满足完整要求，出错后需要多少返工和人工复核，都会进入交付成本。 Harvey选择把部分专业能力放进训练过程。公司披露，这轮后训练使用了合成数据、公开法律数据和专家数据，没有使用客户数据。模型在模拟法律工作环境中操作，根据交付成果获得反馈，学习怎样完成需要多个步骤的任务。 Fireworks公布的测试中，Tenet在一组保留法律任务上的“全部标准通过率”，从Kimi K3基础模型的10.8%提高到19.7%；平均每项测试任务成本则从5.62美元变为5.92美元。 在平均任务成本接近的情况下，满足全部检查项的比例接近翻倍。这是这组测试显示的改进，不能直接换算成Harvey整体节省了多少费用，也不是现实案件中的成功率。 Tenet目前以研究预览公布。在这组测试中，19.7%的任务满足全部检查项，输出仍需结合具体任务评估和人工审阅。 训练怎样影响成本，也有一个具体做法。Harvey介绍，当不同推理路径能够达到相近质量时，训练会奖励更有效率的工具调用和推理方式，减少没有必要的token消耗。优化费用由此有了另一条路径：让模型少走弯路。 法律专家定义什么叫合格成果，训练团队把要求转成反馈，工程团队再把模型接入文件、搜索和其他工具。应用公司的专业知识，开始参与塑造模型怎样完成任务；中国团队研发的通用模型，成为这项工作的起点。 成本之外，企业还要决定哪些资料可以交给外部模型服务处理。银行客户信息、律所尚未公开的合同与交易文件、企业内部代码和研发资料，都可能受到严格的数据管理要求。 谁能够接触资料，日志存在哪里，数据是否跨境，检索系统和联网工具会把内容发送到哪里，都会影响采购决定。开放权重模型给企业增加了一种选择：在自己的基础设施或者指定云环境中运行模型，把运行环境和访问权限纳入自己的管理体系。 这里更准确的说法是“开放权重”，而不是笼统的“开源”。能够取得模型权重，不意味着许可证没有商业限制；允许怎样部署、修改和提供服务，仍要看具体条款。 法国巴黎银行提供了一个实际部署案例。Mistral官网引用该行全球市场数字业务负责人的介绍称，相关模型完全运行在银行自己的基础设施上，向约6.5万名用户提供编程、研究与监控等服务，并强调银行对数据控制和合规的要求。 要求更严格时，还可以部署在与公网隔离的环境中。Red Hat公开的企业AI方案，就将隔离网络列为支持的部署场景之一。 不过，拿到模型权重并不等于保密问题已经解决。检索数据库、日志、插件、联网工具、员工权限和备份，都属于同一套系统。模型在内部运行，检索组件却把敏感文本发给外部服务，数据仍会离开企业。需要管理的是整条数据链路。 还有一种安排：模型来自海外，推理在本国基础设施完成。OpenRouter在9月9日的公告中介绍，其美国境内路由支持Kimi K3、DeepSeek V4 Pro等中国研发的开放权重模型，由美国境内服务商承接请求。按照其披露，这些请求在美国境内解密和处理，原模型研发方不参与实际请求处理。 本国云端托管与企业自有部署是两种环境，但它们都表明，模型在哪里研发，与客户数据在哪里处理，可以分别安排。一家美国企业可以使用中国团队训练出的权重，同时购买美国公司的推理服务。 能够下载模型权重，与拥有一套稳定运行的专业软件，中间还有不少工作。服务器需要运行，业务数据需要接入，输出质量需要测试；有些任务还需要继续训练，系统上线后也需要维护。开放权重模型周围的收入，就分布在这些环节。 闭源模型公司通常通过API、订阅和企业服务收费。客户付费获得模型能力，供应商负责底层算力、运行和升级。对于调用规模不大的企业，按需购买服务可以减少初期硬件投入和运维负担。 开放权重模型开发者也可以提供托管API、企业许可、定制训练和部署服务。Mistral公开销售模型定制、工作流程开发和企业实施服务；不同模型的商业许可条件并不完全相同，是否需要付授权费，要看具体模型与使用方式。 另一部分收入流向训练和推理基础设施公司。Fireworks的价目包括按token收费的推理，以及按GPU时间收费的专用部署和训练。客户采用开放权重模型，仍然可以付钱请第三方完成训练、部署和运行。 再往上是Harvey这样的专业应用公司。律师事务所购买的是合同审查、法律研究、文件处理和可以审阅的工作成果。Harvey把底层模型、专业训练、工具和工作流程组合成产品，负责产品集成、评估与服务。 同一个模型周围，因而可以同时存在底层模型、算力与训练、行业应用几层生意。但采用中国模型，并不意味着中国模型开发者会按照每次使用获得收入。 客户购买原厂API，收入流向模型公司；购买第三方托管服务，服务费流向托管商，原研发方能否获得收入取决于另行约定；企业下载权重自行部署，是否向开发者付费，则取决于许可证、企业服务和其他商业安排。没有合同信息，不能推算其中的分成。 自行部署也有自己的成本条件。硬件和运维投入不会因为模型权重可以下载就消失，调用量较低时还可能出现资源闲置。模型更新、质量评估和安全管理同样需要持续投入。是否划算，要看用量、团队能力和整套系统的成本。 目前关于开放权重模型的市场数据，来自不同平台和不同统计口径。 OpenRouter披露，2025年9月至2026年8月，其美国来源请求中，开放权重模型处理的token占比从26%升至60%；欧盟来源请求则从16%升至65%。这表明在该平台上，开放权重模型承担了大量调用。数字涵盖所有开放权重模型，不能当作中国模型份额，也不是全球企业的采用比例。 Menlo Ventures根据2025年末495名美国企业AI决策者的调查，将开放模型在企业模型支出中的份额估算为11%，按其分类，闭源模型约占89%。这一估算基于生产API工作负载等信息，对企业完全自行部署模型的场景覆盖有限。 一个统计平台token，一个估算企业支出。样本、时间和单位都不同，不能把11%和60%连起来，解释成开放模型一年内“从11%涨到了60%”。 使用量、企业支出和模型开发者收入，是三个不同指标。一个模型可能处理大量token，却因为企业自行部署，没有产生相应的原厂API收入；另一种模型可能调用量较少，但单价较高，获得较多收入。现有数字不足以给出法律、金融、编程等行业统一的开放与闭源份额。 对实际采购更有用的问题，是某种模型承担什么任务、部署在哪里，以及客户为哪一项服务付钱。同一家企业可以同时使用多种模型，按照任务质量、运行成本和数据要求安排工作。开放权重也可以经过训练承担复杂任务，不能简单把开放与闭源划分为“做简单题”和“做难题”。 回到Harvey，这个案例呈现了一条具体的产业分工：月之暗面训练通用模型，Harvey投入法律专业知识、评价标准和工作流程，Fireworks提供训练与推理基础设施，最终由专业应用公司把这些能力组织成产品。 模型是否值得采用，除了通用能力，还要看能否继续训练、部署方式是否合适，以及运行成本能否承受。对客户而言，衡量产品的标准则落在一项工作上：成果是否合格，需要多少人工复核，完成它总共花了多少钱。 中国开放权重模型在海外专业软件中的位置，由此变得具体。它提供可以继续训练和部署的底座，应用公司再投入行业知识、工程和服务。模型得到采用是第一步，能否从这条服务链中取得持续收入，还要看开发者提供什么、客户愿意为什么付费。 数据来源：Harvey《Tenet研究预览》及训练说明；Fireworks关于Kimi K3后训练的技术测试与官方价目；彭博社2026年9月21日关于Harvey模型成本和毛利率的报道；Mistral金融行业部署、企业服务及模型许可资料；Red Hat AI Inference系统卡；Anthropic官方计费说明；OpenRouter 2026年9月9日美国境内路由公告；Menlo Ventures《2025年企业生成式AI报告》。