Hugging Face · 新模型:abliterated·· 16 天前精选AI 评分72
GLM-5.3-Flash-abliterated-Maya-M-GGUF 发布:运行时移除拒绝的量化模型与引擎补丁
alesha-pro/GLM-5.3-Flash-abliterated-Maya-M-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/alesha-pro/GLM-5.3-Flash-abliterated-Maya-M-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
alesha-pro 发布 GLM-5.3-Flash-abliterated-Maya-M-GGUF,基于 Project Maya 的 Maya-M 量化,附带 2.2 MB 拒绝方向向量和 Maya 引擎补丁,可在推理时逐层移除拒绝。在 4x RTX 3090 上开启向量后 256K 上下文解码 56 tokens/s;178 条 AdvBench 与 JailbreakBench 请求中仅 2 条仍拒绝(自杀与自残相关),未开启向量的 EXL3 2.05 bpw 量化上原模型拒绝 144/146,开启后 438 条回答 0 拒绝。
推荐理由
作者给出拒绝向量构造方法与178条请求的拒绝率前后对比,并附KLD数据,读者可自行判断去对齐幅度。
来源:Hugging Face · 新模型:abliterated · huggingface.co