跳到正文
我的
Reddit · r/LocalLLaMA· /u/-p-e-w-·· 9 小时前精选AI 评分86

Heretic 2.0 发布:从去审查工具升级为通用模型修改工具

Heretic 2.0 released: Model modification for everyone

来源与原文

Reddit · r/LocalLLaMA

作者:/u/-p-e-w-

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xl2tcm/heretic_20_released_model_modification_for/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

作者 /u/-p-e-w- 发布 Heretic 2.0(https://github.com/p-e-w/heretic),项目现获 37k GitHub stars,Hugging Face 上有 8,500+ 模型、累计下载 8,800 万次。此版用全新 Arbitrary-Rank Ablation(ARA)替代 directional abliteration 作为默认 steering 方法,不再限于 rank-1 子空间,而是用 L-BFGS 逐矩阵优化目标函数;项目重构为插件系统,支持自定义 scorer 插件(内置 benchmark scorer 和 ModernBERT 拒答分类器)、非交互运行、hyper-connections 模型与更强的思考型模型支持,但与 1.x 配置不向后兼容。

推荐理由

作者详述了新 steering 方法 ARA 替代 abliteration 的原理和插件化重构,想动手改模型行为的读者可以直接照着配置使用。

来源:Reddit · r/LocalLLaMA · reddit.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。