跳到正文
Hugging Face · 新模型:abliterated·· 16 天前精选AI 评分72

GLM-5.3-Flash-abliterated-Maya-M-GGUF 发布:运行时移除拒绝的量化模型与引擎补丁

alesha-pro/GLM-5.3-Flash-abliterated-Maya-M-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/alesha-pro/GLM-5.3-Flash-abliterated-Maya-M-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

alesha-pro 发布 GLM-5.3-Flash-abliterated-Maya-M-GGUF,基于 Project Maya 的 Maya-M 量化,附带 2.2 MB 拒绝方向向量和 Maya 引擎补丁,可在推理时逐层移除拒绝。在 4x RTX 3090 上开启向量后 256K 上下文解码 56 tokens/s;178 条 AdvBench 与 JailbreakBench 请求中仅 2 条仍拒绝(自杀与自残相关),未开启向量的 EXL3 2.05 bpw 量化上原模型拒绝 144/146,开启后 438 条回答 0 拒绝。

推荐理由

作者给出拒绝向量构造方法与178条请求的拒绝率前后对比,并附KLD数据,读者可自行判断去对齐幅度。

来源:Hugging Face · 新模型:abliterated · huggingface.co