跳到正文
我的
热点事件持续更新

sebc.dev 开源 Claude tokenizer 实测数据与复现脚本

1 篇报道1 个报道来源15 小时前更新

先了解这件事

AI 综述

sebc.dev 在 GitHub 公布其「Claude Code pour développeurs」系列第 1 期数据背后的 token 计量测量结果与复现脚本(claude-tokens-mesures 仓库)。2026 年 11 月 5 日对 claude-opus-5-5 的测量显示,法语比英语多耗约 1.45× token(NTREX-128 上与 arXiv:2609.39001 结果一致),MDN 技术文档上为 1.49–1.54×;新 tokenizer 比 claude-haiku-4-5 在散文上多产出 30–43% token、代码上多 21–36%;英语代码每非空行中位数 14.9 tokens,约 500 行对应 7,500 tokens。

AI 根据报道生成 · 15 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. GitHub · 去对齐工具与仓库精选
    sebc.dev 开源 Claude token 计量数据与脚本:法语多耗约 45% token

    sebc.dev 发布其「Claude Code pour développeurs」系列第 1 期数据背后的测量脚本与结果仓库,所有测量可通过免费的 count_tokens 接口免费复现。2026 年 11 月 5 日对 claude-opus-5-5 的测量显示,法语比英语多耗约 1.45× token(NTREX-128 上与 arXiv:2609.39001 的结果一致),MDN 技术文档上为 1.49–1.54×;新 tokenizer 比 claude-haiku-4-5 在散文上多产出 30–43% token、代码上多 21–36%;英语代码每非空行中位数 14.9 tokens,500 行约 7,500 tokens。

本事件热度走势

可比范围当前
7
可比范围峰值
1011月6日 01:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。