周末用 Magpie 把 ZCode 的 GLM-5.3-Flash 接到 Codex 工作流,两天把 5 亿 Token 跑到了 0。先看数据。

指标数值
统计时间10 月 31 日—11 月 1 日
调用 / 成功3,593 / 3,576
输入2,932 万 Token
输出203 万 Token
缓存读取4.686 亿 Token
合计4.999 亿 Token
平均输出速度32.1 tok/s
单请求速度 p50 / p9025.7 / 43.4 tok/s
请求耗时 p50 / p959.7 秒 / 57.1 秒
并发中位数 / p95 / 峰值1 / 3 / 6
非 200 请求请求取消 15 次,网关错误 2 次

这组数据说明了什么

缓存读取占了大头,接近 94%。5 亿额度不是用来生成了 5 亿字,主要是 Agent 反复带着项目上下文、规则和命令结果继续跑。真正输出只有 203 万 Token。

32.1 tok/s 是按完整请求耗时折算的端到端输出速度,包含预填充、工具执行等待和网络时间,不是模型实验室里的纯生成速度。单请求看分位数更直观:一半在 25.7 tok/s 以上,前 10% 能到 43.4 tok/s。

并发也没有想象中高。中位数只有 1,95% 的时间不超过 3,峰值到过 6。Codex 经常在等文件、命令和测试返回,虽然同时开着多个会话,真正重叠在跑的 API 请求并不多。

怎么用的

Magpie 里登录 ZCode,选 GLM-5.3-Flash,再把模型接回原来的 Codex。前台工作流不用换,Agent 读写项目时,请求由 Magpie 转给 ZCode。

登录态或路由不对,模型看得见也不一定跑得起来;并发太高会排队、重试,期间也碰到过请求取消和网关错误。

一句话:5 亿 Token 看着多,放进长上下文和工具循环里消耗很快。要给别人看,平均和分位 tok/s、并发、缓存占比、错误数,比单说“用了 5 亿”有信息量。

口径:本机 Magpie 使用记录;tok/s 为完整请求的输出 Token 数除以总耗时,并发按请求起止区间重叠计算。