Hugging Face · 新模型:uncensored·· 3 小时前同新闻AI 评分66
cloudcommander 发布 Kvark Sparkle 27B 无对齐 MLX AWQ 4.5bit 版本
cloudcommander/Kvark-Sparkle-27B-Uncensored-MLX-AWQ-4.5bit
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/cloudcommander/Kvark-Sparkle-27B-Uncensored-MLX-AWQ-4.5bit
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
cloudcommander 发布 Kvark Sparkle 1.0 27B 的非官方无对齐 MLX 版本,面向 Apple silicon,通过投影移除单一拒绝方向并做 AWQ 混合 4/6-bit 量化,无训练或微调。104 个有害提示的拒绝数从 103 降到 11,LiveCodeBench 0.90、MMLU-Pro 0.83,与未编辑版本差异在样本量内;在 M5 Ultra 上用 DFlash2 草稿模型测得 197.3 tok/s,权重 17.9 GB,Apache-2.0 许可。
同一新闻,精选展示《cloudcommander 发布 Kvark Sparkle 1.0 27B 无对齐 MLX 8-bit 版》
来源:Hugging Face · 新模型:uncensored · huggingface.co