Heretic 2.0 发布:从去审查工具升级为通用模型修改工具
Heretic 2.0 released: Model modification for everyone
来源与原文
Reddit · r/LocalLLaMA
作者:/u/-p-e-w-
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xl2tcm/heretic_20_released_model_modification_for/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
作者 /u/-p-e-w- 发布 Heretic 2.0(https://github.com/p-e-w/heretic),项目现获 37k GitHub stars,Hugging Face 上有 8,500+ 模型、累计下载 8,800 万次。此版用全新 Arbitrary-Rank Ablation(ARA)替代 directional abliteration 作为默认 steering 方法,不再限于 rank-1 子空间,而是用 L-BFGS 逐矩阵优化目标函数;项目重构为插件系统,支持自定义 scorer 插件(内置 benchmark scorer 和 ModernBERT 拒答分类器)、非交互运行、hyper-connections 模型与更强的思考型模型支持,但与 1.x 配置不向后兼容。
作者详述了新 steering 方法 ARA 替代 abliteration 的原理和插件化重构,想动手改模型行为的读者可以直接照着配置使用。
来源:Reddit · r/LocalLLaMA · reddit.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。