Hugging Face · 新模型：abliterated·· 23 天前AI 评分43
LMLiutenant 发布 Qwen3.6-35B-A3B-abliterated-v2 的 GGUF 量化版本
LMLiutenant/Qwen3.6-35B-A3B-abliterated-v2-gguf
来源与原文
Hugging Face · 新模型：abliterated
发布时间：（北京时间）
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/LMLiutenant/Qwen3.6-35B-A3B-abliterated-v2-gguf
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Hugging Face 用户 LMLiutenant 用 llama.cpp 制作了 abliterated（抑制拒答）版模型 wangzhang/Qwen3.6-35B-A3B-abliterated-v2 的 GGUF 量化，属非官方再分发。该模型为 MoE 架构，总参数 35B、每 token 激活约 3B（256 个专家激活 8 个），上下文长度 262144 tokens。仓库提供 IQ2_XS 到 Q8_0 共 24 种量化，并附 F16 多模态 projector，各量化均基于同一 importance matrix 计算，BF16 源模型 wikitext-2 PPL 为 6.4743。
来源：Hugging Face · 新模型：abliterated · huggingface.co