跳到正文
GitHub · 去对齐工具与仓库·· 6 天前精选AI 评分70

token-governance:面向 LLM 代理的上下文成本治理方案开源

YokosWY/token-governance

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/YokosWY/token-governance

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

YokosWY 在 GitHub 开源 token-governance,一套面向 LLM 代理的上下文成本治理方案。对一周账单(10,862 次调用、2.585B 上下文 tokens)逐 step 拆解后发现开销主体不是模型调用,而是工具输出(34.6%)、助手输出(27.3%)、工具清单(21.0%)和技能目录(12.2%),其中 42KB 技能目录在 490 步会话里被注入 53 次、累计重发达两亿 token 级别。通过把非必需项移出常驻、压缩长会话等配置层调整,真实日志复算显示每轮成本降 24–46%,会话越长降幅越大。仓库含 7 个技能(仅 tg-router 常驻)、5 个脚本和 6 个自研机制,当前版本 v0.7,MIT 许可。

推荐理由

作者用真实会话日志逐 step 复算成本,给出技能目录重发才是开销主体的归因和 24–46% 的降幅数据,方法可复现。

来源:GitHub · 去对齐工具与仓库 · github.com