跳到正文
GitHub · 灵魂体仓库·· 1 天前AI 评分44

Local Token Visualizer:离线统计与可视化 LLM token 的 VS Code 扩展

MISTYEYE2088/Local_Token_Visualizer

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/MISTYEYE2088/Local_Token_Visualizer

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Local Token Visualizer 是一款 VS Code 扩展,可在本地离线统计并高亮当前编辑器文本的 LLM token,内置 GPT-4o(o200k_base)、gpt-oss(o200k_harmony)、Gemma 4 三种 tokenizer,还可按需从 Hugging Face 下载 Llama 3.1、Qwen 2.5、DeepSeek V3、Mistral v3 等。编辑内容不外传,仅在选择下载 tokenizer 时访问一次 huggingface.co。由于 Anthropic 和 Google 未公开 Claude 3+ 与 Gemini 的 tokenizer,相应计数需用官方 API 或以 Gemma 4 近似。

来源:GitHub · 灵魂体仓库 · github.com