Reddit · r/LocalLLaMA· /u/jacek2023·· 7 天前AI 评分49
migtissera 发布 Tess-4.5-27B:基于 Qwen 的微调模型,token 用量减少 25%
migtissera/Tess-4.5-27B (Qwen finetune)
来源与原文
Reddit · r/LocalLLaMA
作者:/u/jacek2023
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xadfm7/migtisseratess4527b_qwen_finetune/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
migtissera(Synthia 作者)发布基于 Qwen 微调的 Tess-4.5-27B,在 150 个 BenchLocal 场景中比基座 Qwen3.8-27B 少生成 25% 的 token 而得分相同。其中 CLI-40 少用 32% token 且得分更高,数据提取少用 43%,BugFind-15 少用 21%。更少 token 意味着更快出答案、上下文窗口占用更少,在本地 GPU 上还可与 draft head 叠加提速。
来源:Reddit · r/LocalLLaMA · reddit.com