周末用 Magpie 把 ZCode 的 GLM-5.3-Flash 接到 Codex 工作流,两天把 5 亿 Token 跑到了 0。先看数据。
| 指标 | 数值 |
|---|---|
| 统计时间 | 10 月 31 日—11 月 1 日 |
| 调用 / 成功 | 3,593 / 3,576 |
| 输入 | 2,932 万 Token |
| 输出 | 203 万 Token |
| 缓存读取 | 4.686 亿 Token |
| 合计 | 4.999 亿 Token |
| 平均输出速度 | 32.1 tok/s |
| 单请求速度 p50 / p90 | 25.7 / 43.4 tok/s |
| 请求耗时 p50 / p95 | 9.7 秒 / 57.1 秒 |
| 并发中位数 / p95 / 峰值 | 1 / 3 / 6 |
| 非 200 请求 | 请求取消 15 次,网关错误 2 次 |
这组数据说明了什么
缓存读取占了大头,接近 94%。5 亿额度不是用来生成了 5 亿字,主要是 Agent 反复带着项目上下文、规则和命令结果继续跑。真正输出只有 203 万 Token。
32.1 tok/s 是按完整请求耗时折算的端到端输出速度,包含预填充、工具执行等待和网络时间,不是模型实验室里的纯生成速度。单请求看分位数更直观:一半在 25.7 tok/s 以上,前 10% 能到 43.4 tok/s。
并发也没有想象中高。中位数只有 1,95% 的时间不超过 3,峰值到过 6。Codex 经常在等文件、命令和测试返回,虽然同时开着多个会话,真正重叠在跑的 API 请求并不多。
怎么用的
Magpie 里登录 ZCode,选 GLM-5.3-Flash,再把模型接回原来的 Codex。前台工作流不用换,Agent 读写项目时,请求由 Magpie 转给 ZCode。
登录态或路由不对,模型看得见也不一定跑得起来;并发太高会排队、重试,期间也碰到过请求取消和网关错误。
一句话:5 亿 Token 看着多,放进长上下文和工具循环里消耗很快。要给别人看,平均和分位 tok/s、并发、缓存占比、错误数,比单说“用了 5 亿”有信息量。
口径:本机 Magpie 使用记录;tok/s 为完整请求的输出 Token 数除以总耗时,并发按请求起止区间重叠计算。
COMMENTS
读者评论