hierophant 发布:为 GGUF 生成可动态缩放的去对齐 LoRA 适配器
热点事件持续更新
hierophant 发布:为 GGUF 生成可动态缩放的去对齐 LoRA 适配器
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Reddit 用户 /u/xhimaros 发布了开源工具 hierophant(GitHub 仓库 khimaros/hierophant),可直接对量化 GGUF 模型文件运行去对齐(abliteration)处理,并产出 LoRA 适配器。作者称该方法与 heretic 类似,可选 rank 2 abliteration 以改善拒绝率与 KLD 表现。 与对完整权重做去对齐的做法不同,该工具产出的适配器约百 MB 级,无需再复制一份约百 GB 的完整模型权重。适配器可在 llama-server 中按请求动态缩放:需要时启用去对齐行为,其他工作可切回标准权重。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 01:01
hierophant 工具可为任意 GGUF 生成可动态缩放的 abliterated LoRA 适配器报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- Reddit · r/LocalLLaMAhierophant 工具可为任意 GGUF 生成可动态缩放的 abliterated LoRA 适配器
作者发布 hierophant(GitHub: khimaros/hierophant),采用与 heretic 类似的方法(可选 rank 2 abliteration 以改善拒绝率与 KLD 表现),但直接作用于量化 GGUF 文件并产出 LoRA 适配器。该适配器约百 MB 级,无需再复制一份约百 GB 的完整权重,可在 llama-server 中按请求动态缩放,需要时启用去对齐行为,其余工作可切回标准权重。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。