GitHub · 灵魂体仓库·· 1 天前AI 评分44
Local Token Visualizer:离线统计与可视化 LLM token 的 VS Code 扩展
MISTYEYE2088/Local_Token_Visualizer
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/MISTYEYE2088/Local_Token_Visualizer
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Local Token Visualizer 是一款 VS Code 扩展,可在本地离线统计并高亮当前编辑器文本的 LLM token,内置 GPT-4o(o200k_base)、gpt-oss(o200k_harmony)、Gemma 4 三种 tokenizer,还可按需从 Hugging Face 下载 Llama 3.1、Qwen 2.5、DeepSeek V3、Mistral v3 等。编辑内容不外传,仅在选择下载 tokenizer 时访问一次 huggingface.co。由于 Anthropic 和 Google 未公开 Claude 3+ 与 Gemini 的 tokenizer,相应计数需用官方 API 或以 Gemma 4 近似。
来源:GitHub · 灵魂体仓库 · github.com