Hugging Face · 新模型:abliterated·· 16 天前精选AI 评分68
Swift 1.5 Qwen3.8-Flash-Next NVFP4 去审查替换文件发布,附512剪至256专家的半专家变体
yunshushuyun/swift15-flashnext-nvfp4-abliterated-parts
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/yunshushuyun/swift15-flashnext-nvfp4-abliterated-parts
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
作者发布 Swift 1.5 Qwen3.8-Flash-Next NVFP4 的去审查替换文件,将拒答方向以 1.5 倍强度从 151 个写入残差流的张量中投影掉,并提供每层专家从 512 个剪至 256 个的 pruned256 变体。逐文件给出 SHA-256 与验证报告,24,576 个专家重新量化后分量约 −0.498;实测在单卡 RTX PRO 6000(96 GB)上用 SGLang 可跑约每秒 1,000–1,200 生成 token,12 个中文政治敏感问题全部完整回答而原版大多拒答或给官方口径短答。未跑通用基准与 pruned256 变体;n-gram 嵌入分片约 102 GB 需从原仓库获取。
推荐理由
作者给出了逐层投影去除拒答方向的做法和完整验证数据,包括编辑前后分量、量化误差和12题政治敏感问题实测对比,可直接复现。
来源:Hugging Face · 新模型:abliterated · huggingface.co