glm53-speedbench-v2
收藏资源简介:
# GLM-5.3 SPEED-Bench 定长数据集(v2 零前缀版,融合 LongBench v2 语料池) 团队统一压测口径(Meta-Infer benchmark/TEAM_BENCH_METHOD.md v1.3)配套数据集,按 **GLM-5.3-NVFP4 tokenizer + 服务端聊天模板**逐条定长校准(模板后 token 数 == 标称长度,模板开销 12)。 ## 文件 - **no_cache 冷启动档**(50 条/档,条间模板后 LCP 仅 10~11 = 聊天模板头,实测冷启动命中率 0.0%): - 标准档:len_{3075,11264,24576,49152,98304}.jsonl - 扩展档:len_{32768,65536,81920,131072,262144,524288}.jsonl - **shared90 命中档**:shared90_len_{65536,98304}.jsonl,公共前缀 ≈ 12 + 0.9×(L−12)(实测 LCP 58981/88471) - manifest_v2_zeroprefix.json:逐档指纹(sha256 前 16 位)、最小/最大成对 LCP、构造方式 - **build_len_v2.py:通用构造器**——从融合 token 池构造**任意长度(≤ 池大小 40M token,即 1M 档无压力)**的零前缀定长数据集,全成对 LCP 验证 ## 融合语料池 SPEED-Bench 真实语料(18.3M token)+ LongBench v2 contexts(121 篇长文,21.9M token)= 40.2M token 统一池(pool_v2.json,压测机 174.1.60.8 上)。条目取池中不同偏移的定长切片:偏移不同 ⇒ 前缀天然不同(radix 只匹配前缀,句中重叠不产生命中),全对 LCP 验证兜底。 ## 背景(为什么有 v2) v1(SPEED-Bench 原始构造)部分文本对共享 ~59 token 指令头,压测轮内 radix 积累使 no_cache 档实测命中率 1~5%(模拟估算 4.79% vs 实测 4.6%,吻合)。v2 消除该效应;验收标准 = 冷启动档命中率 0.0%。 ## 用法 仅适用于 GLM-5.3-NVFP4 的 tokenizer/模板;换模型必须按目标模型重新校准(口径 §1)。



