跳到正文
Reddit · r/LocalLLaMA· /u/jacek2023·· 7 天前AI 评分49

migtissera 发布 Tess-4.5-27B:基于 Qwen 的微调模型,token 用量减少 25%

migtissera/Tess-4.5-27B (Qwen finetune)

来源与原文

Reddit · r/LocalLLaMA

作者:/u/jacek2023

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xadfm7/migtisseratess4527b_qwen_finetune/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

migtissera(Synthia 作者)发布基于 Qwen 微调的 Tess-4.5-27B,在 150 个 BenchLocal 场景中比基座 Qwen3.8-27B 少生成 25% 的 token 而得分相同。其中 CLI-40 少用 32% token 且得分更高,数据提取少用 43%,BugFind-15 少用 21%。更少 token 意味着更快出答案、上下文窗口占用更少,在本地 GPU 上还可与 draft head 叠加提速。

来源:Reddit · r/LocalLLaMA · reddit.com