跳到正文
只看AI 安全#去对齐
10月26日周一
  1. Reddit · r/LocalLLaMA44

    社区讨论：Abliterated/Heretic 模型是否是被忽视的供应链安全风险？

    Reddit r/LocalLLaMA 社区指出，下载第三方 abliterated/Heretic 修改权重存在供应链安全隐患：ProjectDiscovery 已演示用廉价 LoRA 微调植入隐藏触发器，可使 coding agent 执行恶意命令且模型其余行为正常。作者建议改用 vector steering——保留原始权重、可动态开关、参考 DwarfStar 实现及其在 Quarkstar 上对 Qwen3.8-27B 的实现，以减少对第三方的信任。

10月8日周四
  1. GitHub · 灵魂体仓库42

    alexroto/refusal-in-llms：基于单方向消融的 LLM 拒绝行为独立研究

    GitHub 仓库 alexroto/refusal-in-llms 是一项独立研究，将 Arditi 等人 2024 年论文《Refusal in Language Models Is Mediated by a Single Direction》提出的拒绝消融技术，应用于初始数据集中覆盖不足、本应触发拒绝的领域。项目为 Python 3.12 环境，运行在 runpod 上，配置为 PRO 6000 MIG 48GB GPU、8 vCPU、125 GB 内存。