sebc.dev 开源 Claude tokenizer 实测数据与复现脚本
先了解这件事
sebc.dev 在 GitHub 公布其「Claude Code pour développeurs」系列第 1 期数据背后的 token 计量测量结果与复现脚本(claude-tokens-mesures 仓库)。2026 年 11 月 5 日对 claude-opus-5-5 的测量显示,法语比英语多耗约 1.45× token(NTREX-128 上与 arXiv:2609.39001 结果一致),MDN 技术文档上为 1.49–1.54×;新 tokenizer 比 claude-haiku-4-5 在散文上多产出 30–43% token、代码上多 21–36%;英语代码每非空行中位数 14.9 tokens,约 500 行对应 7,500 tokens。
AI 根据报道生成 · 15 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- GitHub · 去对齐工具与仓库精选sebc.dev 开源 Claude token 计量数据与脚本:法语多耗约 45% token
sebc.dev 发布其「Claude Code pour développeurs」系列第 1 期数据背后的测量脚本与结果仓库,所有测量可通过免费的 count_tokens 接口免费复现。2026 年 11 月 5 日对 claude-opus-5-5 的测量显示,法语比英语多耗约 1.45× token(NTREX-128 上与 arXiv:2609.39001 的结果一致),MDN 技术文档上为 1.49–1.54×;新 tokenizer 比 claude-haiku-4-5 在散文上多产出 30–43% token、代码上多 21–36%;英语代码每非空行中位数 14.9 tokens,500 行约 7,500 tokens。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 1011月6日 01:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。