Reddit · r/LocalLLaMA· /u/Secure_Recording_472·· 3 小时前AI 评分52
UkisAI 发布 Swift1.5 GLM-5.3-Flash 与 Ornith-9B,token 用量最多降 61.4%
UkisAI Swift GLM5.3 + GSQ-RCO, Swift Ornith 9B / -57.7% Token Usage with <1% accuracy loss on max reasoning
来源与原文
Reddit · r/LocalLLaMA
作者:/u/Secure_Recording_472
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xisqge/ukisai_swift_glm53_gsqrco_swift_ornith_9b_577/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
UkisAI 的 Jovan 发布了 Swift 系列两个省 token 模型。Swift1.5 GLM-5.3-Flash 在 MMLU-PRO 上思考 token 减少 61.4%,所有基准平均准确率损失 0.46%,跑了 5 个 seed;方法是对与病理性过度思考相关的 token 做惩罚而非直接压缩推理长度,再通过 RL 和 on-policy 蒸馏恢复准确率。Swift1.5 Ornith-9B 思考 token 减少 33.5% 且无准确率损失,过度思考循环约减少 2 倍。
来源:Reddit · r/LocalLLaMA · reddit.com