Hugging Face · 新模型:abliterated·· 10 小时前精选AI 评分62
jaromer 发布 Swift-1.5-Qwen3.8-Flash-Next GSQ-RCO 去对齐 GGUF 移植版
jaromer/SC117-Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/jaromer/SC117-Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
jaromer 在 Hugging Face 发布了 UkisAI Swift 1.5(Qwen3.8-Flash-Next 的推理高效衍生版)的去对齐 GGUF 移植版,通过对已量化文件做字节级张量移植,替换写回残差流的 144 个张量以移除拒绝方向。四个量化档位(IQ3_S/IQ3_XXS/IQ2_XS/Q2_0)均通过逐张量 blake2b 校验,98% 目标参数与基座字节一致;实测思考 token 552 vs 上游 471(p=0.607),解码速度降约 2.2%。附 llama.cpp、vLLM、Ollama 等完整运行说明;许可证为 Swift Open License v1.0,年营收低于 100 万美元可免费商用。
推荐理由
原文给出了逐张量 blake2b 校验、BF16 对比和推理效率前后数据,读者可以自行判断这种字节级移植方案的实际代价。
来源:Hugging Face · 新模型:abliterated · huggingface.co