跳到正文
Hugging Face · 新模型:abliterated·· 10 小时前精选AI 评分62

jaromer 发布 Swift-1.5-Qwen3.8-Flash-Next GSQ-RCO 去对齐 GGUF 移植版

jaromer/SC117-Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/jaromer/SC117-Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

jaromer 在 Hugging Face 发布了 UkisAI Swift 1.5(Qwen3.8-Flash-Next 的推理高效衍生版)的去对齐 GGUF 移植版,通过对已量化文件做字节级张量移植,替换写回残差流的 144 个张量以移除拒绝方向。四个量化档位(IQ3_S/IQ3_XXS/IQ2_XS/Q2_0)均通过逐张量 blake2b 校验,98% 目标参数与基座字节一致;实测思考 token 552 vs 上游 471(p=0.607),解码速度降约 2.2%。附 llama.cpp、vLLM、Ollama 等完整运行说明;许可证为 Swift Open License v1.0,年营收低于 100 万美元可免费商用。

推荐理由

原文给出了逐张量 blake2b 校验、BF16 对比和推理效率前后数据,读者可以自行判断这种字节级移植方案的实际代价。

来源:Hugging Face · 新模型:abliterated · huggingface.co