AI 日报 · 2026 年 10 月 19 日 · 星期一
麦式AI情报站
Piecrust 发布 GLM-5.3-Flash-FP4-Abliterated 去对齐版本
Piecrust 将 Huihui 的拒绝方向消融编辑重新应用到 NVIDIA 的 GLM-5.3-Flash-FP4-Local 权重上,发布去对齐版本。仅改动 15 至 36 层的 44 个矩阵(self_attn.o_proj 与 mlp.shared_experts.down_proj),其余权重与原检查点逐字节一致;因 NVIDIA 做过量化感知蒸馏,编辑以 rank-1 方式重算而非直接套用 delta,重编码后保留 91-95% 编辑强度。实测在 2× RTX PRO 6000 Blackwell 上拒绝探针 12 问 0 拒绝(原版拒绝 2 次),GSM8K 94/96 对 95/96,解码速度基本持平;需 NVIDIA 列出的容器环境,上游 vLLM 暂不支持。
AI 安全与攻防
mcpm CLI 发布:在本地拦截 MCP 服务器的提示词注入与工具投毒
getmcpm/cli 发布 mcpm,一个本地优先的 MCP 安全 CLI,在安装时对 MCP 服务器做信任评分(含硬编码密钥、提示词注入、typosquatting 的正则静态扫描),并用 Sigstore 验证供应链、锁定工具定义。运行时 mcpm guard 通过本地 stdio relay 检查每次工具调用的请求、响应和工具定义,按 OWASP MCP Top 10 签名拦截注入与 rug-pull,macOS 上可选 OS 沙箱隔离。无云端、无账号、无遥测,强制路径中不含 LLM。
记忆与连续性
SillyTavern 扩展 WorldsApart 发布,重做 lorebook 条目检索与插入
/u/siliconlotus 发布 SillyTavern 扩展 WorldsApart,替代 ST 核心 World Info 的条目选择系统,GitHub 地址 https://github.com/siliconlotus/st-worldsapart。作者在其 92 个分级场景上实测,10k 预算下交付条目的 F2 从 0.27 提升到 0.51,Constant 条目也能保证进入上下文。功能包括为关键词和向量条目统一计算相关度的预算机制、支持 NOT/AND 组合的 SmartKeys、基于 Aho-Corasick 和 Unicode 归一化的匹配逻辑、法语等六种语言包、13 个 CCv3 装饰器以及批量编辑 lorebook 的 Lorebook Studio。
Sibyl 发布五包本地优先 Agent 记忆系统,LongMemEval Oracle 排名第二
Sibyl Labs 发布 Sibyl-Memory,一套由五个 PyPI 包组成的本地优先 Agent 记忆系统,基于 SQLite 五层架构与 FTS5 搜索,无需向量数据库或嵌入模型,支持 MCP、Hermes 和 LangGraph 集成。在 LongMemEval Oracle(ICLR 2025,500 题)上以 95.6% 排名第二,与 Chronos(PwC)并列,超过 Mem0、Zep 等,是前列中唯一的文件式系统,运行于单台 4 vCPU / 16 GB 机器。记忆内容不离开本机,但使用记忆工具需激活账户并每日后台续签签名授权,离线最长可用 14 天;代码 MIT 许可,Pro/Elite 解锁自学习、记忆 linter 与自动 debloat 等功能。
无对齐模型发布/更新
Qwen3.8-Flash-Next-Uncensored BF16 消融版发布,拒绝率降至接近零
Lygodactylus 在 Hugging Face 发布 Qwen/Qwen3.8-Flash-Next 的 abliterated 去对齐 BF16 全精度权重,按 Arditi et al. (2024) 方法从残差流中正交化移除拒绝方向,共编辑 149 个残差写入张量,保留完整视觉与视频塔(333 个 visual.* 张量)和 MTP 头。
candor-lab 发布 K2-Horizon-7B 去对齐版 GGUF,拒绝率从 287 降至 3
candor-lab 用自研权重编辑工具 Candor 移除了 IFM 的 K2-Horizon-7B 的拒绝行为,以单个 Q4_K_M GGUF(5.59 GB)发布在 Hugging Face,Apache 2.0 协议。288 个 StrongREJECT 有害提示的拒绝数从原版 287 降到 3,300 个 Alpaca 无害提示拒绝数从 2 降到 0,KL 散度 0.052,GSM8K 正确数 1222 对 1209,均在噪声范围内。编辑为 rank-3 修改,覆盖 61 个输出矩阵;搜索的 313 次试验和最终评测均在 llama.cpp 中开启 thinking、reasoning effort high 下完成,前两名候选曾因数学成绩下降或思考预算耗尽被淘汰。
GLM-5.3 (753B) NVFP4 去对齐版发布,权重级移除拒绝行为
dealignai 以 CRACK 品牌发布 GLM-5.3 (753B) 的 NVFP4 去对齐版本,直接在权重中移除拒绝行为,不使用 SFT、DPO、LoRA 或越狱提示词。HarmBench 实测 high/max 推理档 156 条提示 0 拒绝,off 档拒绝率 7.3%(多为版权类);MMLU 84.11%,较 base 下降约 1.47pp。面向渗透测试、红队工具与 CTF 场景,附 vLLM 部署命令与 8× DGX Spark GB10 实测记录,NVFP4 的优势在 KV 池带来的 512K 实用上下文而非速度。
开源模型发布/更新
Blockway 发布 Agens Volundr 32B v1,修复 Preview 版循环问题并开源 MIT 协议 Agens Engine
Blockway 团队发布 Agens Volundr 32B v1,针对社区对 Preview 版的反馈做了修复:SWE-bench 任务重复循环从 36/50 降到 0/50,SWE-bench Verified 50 题子集从 22 提到 27/50,τ²-bench 从 89 到 92/120,SGLang 构建新增 session continuation 使后续轮次快 2.9 倍。
能力评分与榜单
RX 9060 XT 16GB 上十个模型跑五项编码任务实测
作者在一张 RX 9060 XT(16GB)上用五项编码任务实测十个模型,每轮只给 spec 文件,需自行产出 solution.py 和 test_solution.py 并跑测试,由模型看不到的 checker 评分,单格上限 1750 秒。deepseek-v4.1-flash 云端 API 与 Qwen3.8-27B UD-IQ4_XS+MTP(kvstream fork)均 5/5,前者 236 秒 43k tokens,后者 94 分钟 185k tokens;其余本地模型多在 4/5 或更低,c4、c5 是主要分水岭,失败集中在 tie-break 规则、嵌套组解析和用 re 回溯导致超时或内存暴涨。
工程与部署
PersonalClaw v0.2.2 发布:自托管个人 AI 智能体操作系统
PersonalClaw 开源发布自托管个人 AI 智能体系统,集成多会话聊天、自主目标循环、分层长期记忆、知识库、技能与定时自动化,全部经由单一网关进程和自持 Web 仪表盘,MIT 协议、无遥测。当前为 v0.2.2 pre-1.0,0.x 更新可能引入破坏性变更且无自动数据迁移,官方建议每次更新前运行 personalclaw snapshot 备份;默认模型为 SmolLM2-135M-Instruct(138 MiB,可离线运行),支持 Ollama 本地模型与 MCP 双向连接,Windows 仅支持 WSL2 或 Docker。
Tavern-SRPG:SillyTavern 战棋扩展发布,插件结算战斗、LLM 负责描写
DoubleOpenFreezer 发布了 SillyTavern 战棋(SRPG)扩展 Tavern-SRPG,在棋盘上操作战斗,由插件计算结果后再交给 LLM 描写。支持自定义单位数值、兵种克制、战争迷雾、韧性、地图编辑器、三种任务类型,战斗进度随聊天保存;资料卡可绑定角色卡或群组并随卡分享。还内置 AI 设计助手可读取世界书与角色卡自动设计战斗、地图与单位,并支持剧情联动自动更新角色属性,LLM 也能通过指挥官模式或剧情指令影响战场。安装地址为 https://github.com/DoubleOpenFreezer/Tavern-SRPG。
Mundi v0.1 发布:把 SillyTavern 变成模拟人生式生活模拟扩展
作者 /u/Tjalis 发布 SillyTavern 扩展 Mundi v0.1,将群聊变成受《模拟人生》启发的生活模拟,包含城市地图、需求、职业、账单、手机、人际关系与日记等系统。引擎用 TypeScript 处理时间、金钱、角色日程和骰子等规则,AI 只负责写场景;上下文按场景注入,记忆以带时间戳的原子事实存储而非 AI 摘要,仅注入当前场景相关角色的记忆。安装只需粘贴 https://github.com/tjalis/Mundi,支持 SillyTavern 1.19+ 和任意 API,约 30k token 上下文效果较好。
快讯
- GLM-5.3 Uncensored Maya 量化版发布:753B MoE 压缩至约 2.5 bit 并移除拒绝行为Hugging Face · 新模型:uncensored
- dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重版Hugging Face · 新模型:uncensored跟进
- dealignai 发布 DeepSeek-V4.1-Flash-1017 无对齐 EXL3 2.9bpw 量化包Hugging Face · 新模型:uncensored
- Docket 0.1.0 发布:为 AI Agent 提供本地预算上限与哈希链证据账本GitHub · 灵魂体仓库
- Fox 本地 LLM 服务器发布:Ollama 直接替代方案,主打并发下的共享前缀复用GitHub · 灵魂体仓库
- IndrasMirror 发布 DeepSeek-V4.1-Flash-1017 GSQ 无对齐量化版,152 GB 可在单张 RTX 4090 上运行Hugging Face · 新模型:uncensored
- dragonfarm:在 R 中用自己的文档微调本地语言模型GitHub · 去对齐工具与仓库
- Basalt 为 Qwen3.8 Flash-Next 带来 NVFP4 原生支持与更快 prefill,单张 5090 可跑Reddit · r/LocalLLaMA
- react-native-litert-lm 发布:React Native 端用 LiteRT-LM 跑 Gemma 4GitHub · 去对齐工具与仓库
- DuckDB_Dbt 开源:基于 dbt 语义层的本地 Text-to-SQL 工具GitHub · 3D 生成新仓库