Reddit · r/LocalLLaMA· /u/xhimaros·· 3 小时前AI 评分52
hierophant 工具可为任意 GGUF 生成可动态缩放的 abliterated LoRA 适配器
optimize your own abliterating LoRA adapter for any GGUF
来源与原文
Reddit · r/LocalLLaMA
作者：/u/xhimaros
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xgy5l7/optimize_your_own_abliterating_lora_adapter_for/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
作者发布 hierophant（GitHub: khimaros/hierophant），采用与 heretic 类似的方法（可选 rank 2 abliteration 以改善拒绝率与 KLD 表现），但直接作用于量化 GGUF 文件并产出 LoRA 适配器。该适配器约百 MB 级，无需再复制一份约百 GB 的完整权重，可在 llama-server 中按请求动态缩放，需要时启用去对齐行为，其余工作可切回标准权重。
来源：Reddit · r/LocalLLaMA · reddit.com