跳到正文
Hugging Face · 新模型:uncensored·· 3 小时前同新闻AI 评分66

cloudcommander 发布 Kvark Sparkle 27B 无对齐 MLX AWQ 4.5bit 版本

cloudcommander/Kvark-Sparkle-27B-Uncensored-MLX-AWQ-4.5bit

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/cloudcommander/Kvark-Sparkle-27B-Uncensored-MLX-AWQ-4.5bit

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

cloudcommander 发布 Kvark Sparkle 1.0 27B 的非官方无对齐 MLX 版本,面向 Apple silicon,通过投影移除单一拒绝方向并做 AWQ 混合 4/6-bit 量化,无训练或微调。104 个有害提示的拒绝数从 103 降到 11,LiveCodeBench 0.90、MMLU-Pro 0.83,与未编辑版本差异在样本量内;在 M5 Ultra 上用 DFlash2 草稿模型测得 197.3 tok/s,权重 17.9 GB,Apache-2.0 许可。

同一新闻,精选展示《cloudcommander 发布 Kvark Sparkle 1.0 27B 无对齐 MLX 8-bit 版》

来源:Hugging Face · 新模型:uncensored · huggingface.co