夜雨聆风学习资料网

ARTICLE · 1314291

770B 的模型,文档上挂着 5 个并发:Hy4 接进去要先改三处

770B 的模型,文档上挂着 5 个并发:Hy4 接进去要先改三处
DEPLOY · 部署与接入2026.11.05

开源了就能自己部署

770B 的模型

默认只给 5 个并发

并发 · 窗口 · 迁移成本 · 6 元与 18 元

卓然智算 · 部署与接入

部署与接入开源权重

📦 5 Parts

👉 滑动

PART 01

5 个

默认并发

PART 02

两个数

门与座位

PART 03

按小时

收座位费

PART 04

960K

输入上限

PART 05

7.08 元

满载一次

你们那套客服机器人或者报表脚本,一天跑三四千次调用,忙的时候一分钟两三次。这种量级接一个新模型,要担心的不是单价贵不贵,是接上去之后发现它跑不动。

“大模型 API 的并发限制怎么提高”,这句话这两周被问了三次。结论先给:腾讯混元 Hy4(2026-11-04 发布)这次真正值得看的不是 770B 这个数,是价签没动、并发没动、上下文窗口被切成了两段。这篇里没有自测环节,账号上没有任何厂商的 API 额度,所有数字来自官方发布页与接口文档,核对日期写在括号里。

01

PART

价签没动,这是今天真正值钱的一条

THE PRICE TAG HELD

Hy4 是 770B 总参数、49B 激活的混合专家架构,上下文标称 1M,这代还带上了视觉理解和电脑操作。这些是发布会上会被反复念的部分(2026-11-04 核)。

对要接它的人来说,有一句话更重要:定价和 preview 版一样,输入 6 元、输出 18 元、缓存命中 0.3 元,都是每百万 Token。上一代 Hy3 系列总参数不到 300B,这次翻倍到 770B,价目表一个字没改。

还有一个时间窗口:即日起到 2026-12-31,Hy4 在腾讯云 TokenHub 按刊例价五折计费(2026-11-05 核)。折后是 3 元、9 元、0.15 元。

这个折扣值多少钱,取决于你的量。假设一个月跑 5,000 万输入、2,000 万输出,每次请求 3,000 输入加 1,200 输出,一个月一万六千多次,日均五百多次。

月用量
正价(元/月)
五折(元/月)
到 12-31 省下(元/月)
输入 5,000 万 Token
300
150
150
输出 2,000 万 Token
360
180
180
合计
660
330
330

表内金额单位为元/月,按 6 元与 18 元每百万 Token 折算,五折期限自 2026-11-04 起至 2026-12-31。价格取自腾讯官方发布页,2026-11-05 核对。

两个月不到,省六百多块。数目不大,但有一处比这六百块更值得留意:**别用折后价做年度预算。** 330 是一个多月的数,660 才是常态。拿 330 乘 12 编出来的预算,明年一月就会被打回来。

02

PART

一处:并发不是一个数,是两个数

TWO NUMBERS, NOT ONE

腾讯云混元接口文档写着,混元生文接口默认限制 5 个并发,限额由主账号和子账号共享(2026-11-05 核)。同一套文档的接口概览里,ChatCompletions 的频率限制是 20 次/秒。

两个数放在一起,很容易读成一个:20 次/秒,够用。它们管的其实是两件事。20 次/秒是门,5 个并发是屋里的座位。门开得再大,屋里只有五个位置,第六个请求就得在门口站着。

所以真实吞吐由座位数和每次坐多久决定:5 个并发、单次请求平均 T 秒,每秒能过 5÷T 次。想让那个 20 次/秒真正跑满,T 得压到 0.25 秒以内,也就是 250 毫秒。

单次耗时 T
每秒请求数
每小时请求数
8 秒
0.63
2,250
15 秒
0.33
1,200
30 秒
0.17
600
60 秒
0.08
300
180 秒
0.03
100

表内按 5 个并发、请求串行占座计算,每秒值保留两位小数。T 取你自己的 P95,不要取平均值。

8 秒的 P95,一小时两千多次,多数内部工具够用。Agent 类的活不一样:一次任务里模型要调工具、读返回、再决定下一步,单次请求拖到 60 秒、180 秒很常见。180 秒意味着每小时一百次,一天两千四百次。早上排的批处理,可能到晚上还在跑。

判断方法只有一句:**先去日志里量 P95,再乘 5。** 这个数小于你的峰值,就该加座位;大于峰值,问题在别处。

顺便说清一个容易混淆的地方:并发满的时候,请求不是失败,是排队。排队会拉长响应时间,前端超时,用户重试,重试又占座位。一个五座位的池子,被一次批量任务占满之后,交互式请求全都在门外。

03

PART

二处:座位要钱,而且按时间收

SEATS BILLED BY THE HOUR

座位是可以买的。混元购买指南写的是 800 元/并发/月(2026-11-05 核),买几个加几个,和默认额度叠加。

折成小时是 1.11 元,800 除以一个月 720 小时。一个小时里,一个座位能接待 3,600÷T 次请求。于是每次调用分摊到的座位费是 1.11×T÷3,600。

单次耗时 T
每次分摊座位费(元)
同一次调用的 Token 费(元)
座位费占比
8 秒
0.0025
0.0396
6.2%
30 秒
0.0093
0.0396
23.4%
60 秒
0.0185
0.0396
46.8%
180 秒
0.0556
0.0396
140.3%

Token 费按每次 3,000 输入加 1,200 输出、正价 6 元与 18 元折算,未计折扣;座位费按 800 元/并发/月展开,每月按 720 小时。

这张表要读的是最后两行。短请求里,座位费是零头,几乎感觉不到;60 秒的时候它已经顶到 Token 费的一半;到 180 秒,它比 Token 费还贵四成。

**同一套代码,模型没换、价目表没变,只是任务变长了,账单的主项就从 Token 换成了并发。** 这也解释了 Agent 类应用的成本结构为什么和老式问答不是一回事:问答是按字收费,Agent 是按占座时间收费。

验算一遍,免得你看完就走:1.11×180÷3,600 等于 0.0556;0.0556÷0.0396 等于 1.403,即 140.3%。

04

PART

三处:1M 不是 1M,是 960K 加 64K

960K PLUS 64K

官方给的口径是 1M 上下文。腾讯云侧写得更细:最大输入约 960K,最大输出约 64K(2026-11-05 核)。

三个数摆在一起就看明白了。983,040 加 65,536,正好 1,048,576。**所谓 1M,是一个共享窗口切成了两段:给输入 960K,给输出 64K。**

一次满载调用
Token 数
正价(元)
输入全命中缓存(元)
输入 960K
983,040
5.90
0.29
输出 64K
65,536
1.18
1.18
合计
1,048,576
7.08
1.47

表内为单次调用,价格取 6 / 18 / 0.3 元每百万 Token,2026-11-05 核。缓存一栏按输入段全部命中计算。

两件事值得记住。

一件是满载一次七块钱。听着不贵,可这是**一次**。拿它跑一百份合同,就是七百块。这类活没人会把整份材料塞进去,都会先切段、先检索。窗口大小在真实账单里的权重,远低于宣传里的权重。

另一件是 64K 只是单次输出上限。一次生成六万多 Token 已经很长,但它是硬顶:超了就截断,不会自动续写到下一段。写长报告的任务,要在提示里就把分段规划好。

还有一格容易被漏:输入那一行,缓存命中后从 5.90 掉到 0.29,省 5.6 元,占单次总价的七成九。缓存价 0.3 元等于输入价的 5%。这是接进来之后先做的一件事:把系统提示、工具定义、知识库前缀固定成一段不变的开头。

05

PART

迁移:兼容的是接口,不是行为

SHAPE, NOT BEHAVIOUR

腾讯云文档里有一句容易被跳过的话:混元相关功能将逐步迁移至 TokenHub,迁移后原平台不再新增模型能力,并停止支持新购模型服务;已购服务可继续使用(2026-11-05 核)。

对已经接进去的团队,这句话意味着三件事同时发生:地址要换,计费要在新平台重算,并发口径也要按新平台重新问一遍。上面那 5 个并发和 800 元一档,都是旧平台文档里的数,TokenHub 的公开页没有写这一项。

好消息是技术改动很小。混元兼容 OpenAI 接口规范,换个 base_url 和 key,代码基本不用动。这句话是真的,但它只说了一半:**兼容的是接口形状,不是行为。** 并发上限、错误码、超时策略、返回字段的默认值,都要重测。

迁移成本可以这么估:改地址是分钟级,重签并发是合同级,重算价是财务级,重测 P95 是工程级。四个里面只有一个能当天做完。

06

PART

一张接入判定表

WHO IS BLOCKING WHAT

回到开头那个问题:并发上不去,先动哪里。答案分四种情况,看你的活卡在哪一格。

你的活
先卡哪个闸
拿哪个数去比
动作
批量打标、抽字段,几秒出结果
并发座位
峰值 QPS 乘 P95
加座位,或拆成多个 Key 分散
报告、代码生成,输出很长
输出上限
单次输出 Token 数与 64K
提示里规划分段
合同、代码库,整份读进去
输入窗口
单份材料 Token 数与 960K
前缀固定化,先吃缓存价
活动、月初的偶发高峰
峰值与均值的差
峰值除以均值
排队加异步,别为峰值买常驻座位

表内判据来自官方公开参数与本文测算,不含任何能力评价。

这张表里没有“该选哪家”。因为接不进去的原因,八成不在模型本身:是座位买少了,是输出被截断了,是窗口没算够,是峰值按均值买的座位。

这类账在谁手上

这类账我们每周都在替人拆:座位该买几个、窗口怎么切、五折到期前要不要把量挪过来。你们要是正卡在“接上去跑不动”这一步,把现在的 P95 耗时和日均调用量发过来,我们对一遍,就知道该加座位还是该改架构。

卓然手记

这次发布里,参数和评测都不是重点,重点那句定价不变。一个 770B 的模型,价格贴着上一代,说明竞争已经从“谁更强”挪到了“谁更好接”。对做代理的人来说,这是好消息也是坏消息:客户更容易下决心,但差价越来越薄。所以我们更愿意把时间花在“怎么接”上,而不是“接哪家”上。

想要那张接入判定表的空白版(填你自己的 P95 和峰值),在公众号对话框回复【接入】。文末“阅读原文”里是我们整理的一份接入检查清单。

本文不含本站自测,未在任何厂商 API 上跑过一次请求。Hy4 的输入 6 元、输出 18 元、缓存命中 0.3 元,以及 770B 总参数 / 49B 激活、1M 上下文、腾讯云侧 960K 输入与 64K 输出、五折至 2026-12-31,均于 2026-11-05 从腾讯官方发布页与腾讯云技术社区的发布稿核对。默认 5 并发、20 次/秒、800 元/并发/月三项来自腾讯云混元旧平台文档与购买指南,Hy4 现在走 TokenHub,该平台的并发档位与增购价格未公开,本文按旧平台标价测算,属待核实项,签约前须向服务方确认。 并发与座位费的测算建立在明示假设上:请求串行占座、单次耗时取 P95、每月按 720 小时、每次调用 3,000 输入加 1,200 输出。真实吞吐受批处理、流式输出与前端排队影响,会高于串行估算;座位费占比因此偏保守。缓存一栏按输入段全部命中计算,实际命中率取决于前缀的稳定程度。折扣只作用于 TokenHub 侧,其他渠道是否同价未核。本文不涉及任何厂商的能力强弱结论。

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料