token-governance:面向 LLM 代理的上下文成本治理方案开源
YokosWY 在 GitHub 开源 token-governance,一套面向 LLM 代理的上下文成本治理方案。对一周账单(10,862 次调用、2.585B 上下文 tokens)逐 step 拆解后发现开销主体不是模型调用,而是工具输出(34.6%)、助手输出(27.3%)、工具清单(21.0%)和技能目录(12.2%),其中 42KB 技能目录在 490 步会话里被注入 53 次、累计重发达两亿 token 级别。通过把非必需项移出常驻、压缩长会话等配置层调整,真实日志复算显示每轮成本降 24–46%,会话越长降幅越大。仓库含 7 个技能(仅 tg-router 常驻)、5 个脚本和 6 个自研机制,当前版本 v0.7,MIT 许可。
推荐理由:作者用真实会话日志逐 step 复算成本,给出技能目录重发才是开销主体的归因和 24–46% 的降幅数据,方法可复现。