AI 日报 · 2026 年 10 月 29 日 · 星期四
麦式AI情报站
w3joe 发布 Qwen3-8B-abliterated 去对齐版本
w3joe 在 Hugging Face 发布 Qwen3-8B 的 abliterated 去对齐版本,采用 Winsorized Benign-Subspace Biprojection 加 Exact Row-Norm Preservation 方法,并附同硬件对照评测。300 条 held-out 提示词上拒绝率 0.67%,为 Huihui-v2 和 Heretic 2.0(均为 2.67%)的四分之一;良性 KL 散度 0.0919,938 题平均能力 +0.49 pp,优于两个对照版本。提供 bfloat16 Safetensors 及 Q8_0、Q4_K_M、F16 GGUF 量化,Apache-2.0 许可,作者提醒不要部署在无审核的公开端点。
AI 安全与攻防
Heads of Security:用学习型注意力门控提升提示词注入鲁棒性
论文提出 Heads of Security(HoS),通过少量按注意力头学习的门控实现指令与数据分离,在 Llama-3.3-70B-Instruct 和 GPT-OSS-20B 上评测。黑盒攻击 RL-Hammer 对 GPT-OSS-20B 达 97% ASR、对 SecAlign 达 85%,对 HoS 仅 10%;HoS 在少样本设置下保持基础模型效用,而 SecAlign 和 ASIDE 会退化,ASIDE 工具使用效用仅 10%。
arXiv 论文提出 SimpleLoRIF 梯度过滤法并发布 SafeTulu 降低微调安全退化
论文提出 SimpleLoRIF,一种可扩展的梯度嵌入方法,用于识别微调数据中与不安全行为梯度对齐的样本。该方法将反向传播限制在最后四个 transformer 块,可处理约百万量级样本的数据集;在 emergent misalignment 上梯度空间 AUC 最高达 0.865。基于该方法构建的 SafeTulu(移除 Tulu 3 中 20% 梯度最对齐不安全回复的样本)在 Qwen、Llama 和 Olmo 上将 GCG 攻击成功率最多降低 22%,优于 LLM-as-a-judge 和既有梯度过滤,且基本保持甚至提升能力。作者还发现工具执行失败和叙事算术等此前较少研究的安全退化来源,并发布了 SafeTulu 与可自定义过滤参数的 Hugging Face Space。
赛博灵魂体
SillyTavern 预设 Megumin Suite V11 发布,blocks 省 90% token 并新增免 LoRA 角色一致图像
作者 /u/CallMeOniisan 发布 SillyTavern 预设 Megumin Suite V11,只需导入 Megumin Suite V11 Universal.json。新 blocks 系统只输出变更行,token 用量降到旧版的 10%,旧 blocks 默认从 AI 上下文剥离;Image V2 用 @Character 标签从扩展保存的角色外观和 World State 注入外观,无需 LoRA 或参考图即可保持角色一致;新增 Notebook 让扩展每回合回喂 2-3 条隐藏真相并校验线索是否真的写进回复。
无对齐模型发布/更新
mrfakename 发布 Ling-3.1-flash-1019 消融去对齐版本
mrfakename 在 Hugging Face 放出 inclusionAI/Ling-3.1-flash-1019 的 abliterated 版本,用方向性消融移除拒绝行为。原文测得该模型的拒绝方向分散在 chat、think 和中国敏感话题三条路径的不同层段,故移除 rank-4 拒绝子空间而非单一方向;Q8_0 GGUF 上 chat 模式拒绝从 98/100 降至 3/100,think 模式从 98/100 降至 7/100,中国敏感提示的拒绝加官方口径改写从 14/40 降至 0/40,无害提示首 token KL 为 0.1504。
dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重,HarmBench 拒绝率 100% 且 MMLU 降 4.22pp
dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone,8B/16B 激活)的权重级 abliterated 无对齐版本 DeepSeek-V4.1-Flash-UNCENSORED-FP8,采用原生 FP8 权重加 FP4 路由专家,支持 1M token 上下文、视觉与工具调用,无需自定义 model.py 或运行时钩子,可像 base 模型一样直接加载。
jakeatx 发布 qwen3.8-27b-Swift1.5-Uncensored 的 ATX-AI4 量化文件
jakeatx 在 Hugging Face 发布 qwen3.8-27b-Swift1.5-Uncensored-ATX-AI4,为 llamAmpere AI+ 格式量化,约 4.2 bits per weight、14.4 GB,保留 MTP draft head,不含 vision tower,需 llamAmpere v0.6 及以上,不能在 mainline llama.cpp 加载。RTX 3090 Ti 实测显示 KL 散度比 IQ4_XS-M 低 10.4%,100K prompt 读取 1,337 tok/s(+8.9%),写入 111.5 tok/s,峰值显存 17.3 GB;相比 llamAmpere v0.5 的 IQ4_XS-M,v0.6 用此文件写入快 13.5%、读取快 23%。
工程与部署
sharonita610 开源 agent-harness:本地 LLM 业务 Agent 平台,用可替换 pack 覆盖多领域
GitHub 仓库 sharonita610/agent-harness 发布了一个跑在本地 LLM 上的业务 Agent 平台:不依赖框架手写 Agent 循环,工具分 read/write/destructive 三级权限,写操作需人工审批、删除被阻断,并通过 A2A 协议让总管 Agent 委派企业数据、ngspice 电路仿真、工厂 NG 分析三个子 Agent。项目用 16 题乘模型乘次数的评测体系对比模型,gpt-oss-20b n=3 通过率 98%,Hermes-4-14B 79%,gpt-5-mini 92%;公开了 16 个真实失败模式及代码层修正方法,检索评测 hit@1 从 44% 提升到 97%,支持 MCP 供 Claude Desktop 等外部 Agent 调用。
GenieX 让 GGUF 模型可在骁龙 Hexagon NPU 上运行并附实测基准
GenieX 整合此前 Nexa SDK 的工作与 llama.cpp 的 Hexagon NPU 及 Adreno OpenCL 后端,使任意 GGUF 模型能在骁龙 X 系列 NPU 上以签名驱动运行,覆盖 Windows、Linux 和 Android,并提供 OpenAI API 兼容的 llama-server。作者在骁龙 X Elite X1E-78-100 笔记本上实测:NPU 的 prefill 速度约为 CPU 的两倍且能效高约 10 倍(12W),但 decode 受内存带宽限制仅约一半;Gemma4-26B MoE 在 NPU 上约 5 t/s 且风扇无需高转,31B 稠密模型仅 1 t/s。基准数据表由 Gemma4-26B 在 NPU 上辅助格式化。
Ready-Art 发布 Synthetic Dataset Generator v10.4.0 角色扮演对话数据生成工具
Ready-Art 发布 Synthetic Dataset Generator v10.4.0,一个 Python/Tkinter 多线程 GUI 工具,用 LLM API 批量生成角色扮演对话数据集,稳定版为 v9.4.2-STABLE 分支。支持最多 6 个 API 槽位(4 生成、1 Slop 修复、1 Anti-Slop 修复)、六维混合质量评分(0-100 分)、拒绝检测与越狱重试、1-10 角色多角色对话、v10.0 新增情绪弧线(如 calm -> wary -> tense)和 persona_breakthrough_turn 内在人格延迟注入机制,v9.9.0 起每条记录可带可过滤的元数据块,兼容 Hugging Face load_dataset 与 Axolotl 训练。
DeepSeek-V4.1-Flash-1017 Q2 量化在单张 RTX 3090 上跑出 41 tok/s
/u/musicurgy 发布 delta-inference-engine,可在 Windows 原生环境(无 WSL)用单张 RTX 3090 加 192 GB 内存运行 nazeshinjite 的 DeepSeek-V4.1-Flash-1017 Q2 GGUF,多提示词平均 41 tok/s,输出与 DeepSeek 官方 API 的 next-token 一致率达 90.2%(通用文本)和 92.4%(代码/数学),支持完整 1M 上下文。
dendra 发布:一次定义同时生成类型化 API、LLM 工具与 MCP 服务端
zeestack 开源了 TypeScript 框架 dendra,核心卖点是定义一次 procedure 即可同时获得类型化客户端、REST 端点、OpenAPI schema、流式订阅,以及通过 .ai() 标记生成的 LLM 工具和 MCP 服务端(支持 Claude Desktop 的 stdio 与 claude.ai 的远程 HTTP)。工具调用复用与 HTTP 相同的校验和 .use() 鉴权,模型继承用户权限而非 god mode;还支持 .noAi()、需人工确认的 confirm 工具与审批流、消费外部 MCP 服务端、后台任务、WebSocket 实时订阅和文件上传下载。核心零运行时依赖、无装饰器、无 codegen,已发布到 npm,处于 1.0 前实验阶段,含 390 多个测试。
快讯
- 基于 Llama-Prompt-Guard-2-86M 微调的提示词注入防护分类器开源,干净 holdout 拦截 58/60GitHub · 灵魂体仓库
- AtomicChat 发布 DeepSeek-V4.1-Flash-1017 无拒绝 GSQ-RCO 量化版Hugging Face · 新模型:uncensored
- 网友用 2.4 MB PCA 头把 EmbeddingGemma-2 (577M) 推上 MTEB Audio (MAEB) 榜首Reddit · r/LocalLLaMA
- bowtiedrahman 发布 LFM3-1.7B-abliterated 去对齐版本Hugging Face · 新模型:abliterated
- GongJiYang 开源移动端实时互动 AI 主播场景 mira-sceneGitHub · 去对齐工具与仓库
- Evolving Agent Teams 多智能体框架在 GPU kernel 优化上超越 FlashInfer 基线arXiv · cs.AI
- cca-audit 发布面向 Claude Code 与 Codex 的多智能体代码审计工具GitHub · 去对齐工具与仓库
- when-agents-rule:让 2-4 个 LLM 在浏览器 RTS 里实时对战的开源竞技场GitHub · 去对齐工具与仓库
- Calibre Labs 开源 Reforge AI Evals 技能库,指导编码智能体搭建产品评测GitHub · 去对齐工具与仓库
- Unown 将开源 pi 编码智能体改造成自学习智能体GitHub · 灵魂体仓库