跳到正文
热点事件持续更新

hierophant 发布:为 GGUF 生成可动态缩放的去对齐 LoRA 适配器

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Reddit 用户 /u/xhimaros 发布了开源工具 hierophant(GitHub 仓库 khimaros/hierophant),可直接对量化 GGUF 模型文件运行去对齐(abliteration)处理,并产出 LoRA 适配器。作者称该方法与 heretic 类似,可选 rank 2 abliteration 以改善拒绝率与 KLD 表现。 与对完整权重做去对齐的做法不同,该工具产出的适配器约百 MB 级,无需再复制一份约百 GB 的完整模型权重。适配器可在 llama-server 中按请求动态缩放:需要时启用去对齐行为,其他工作可切回标准权重。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. Reddit · r/LocalLLaMA
    hierophant 工具可为任意 GGUF 生成可动态缩放的 abliterated LoRA 适配器

    作者发布 hierophant(GitHub: khimaros/hierophant),采用与 heretic 类似的方法(可选 rank 2 abliteration 以改善拒绝率与 KLD 表现),但直接作用于量化 GGUF 文件并产出 LoRA 适配器。该适配器约百 MB 级,无需再复制一份约百 GB 的完整权重,可在 llama-server 中按请求动态缩放,需要时启用去对齐行为,其余工作可切回标准权重。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。