AI 日报 · 2026 年 10 月 11 日 · 星期日
麦式AI情报站
GLM-5.3-Flash abliterated EXL3 2.4bpw 混合量化发布，附逐块去拒向量
作者发布 GLM-5.3-Flash 的 EXL3 混合量化（gate/up 2 bit、expert down 3 bit，约 2.4bpw，98.1 GB），并附 2.2 MB 的逐块去拒向量，运行时从 4 条残差流中减去各 3 个方向来移除拒绝。在 4x RTX 3090 上可跑 256K 上下文（77% 专家驻留 VRAM），256K 下 178 个 AdvBench/JailbreakBench 回答 0 拒绝，原版 2.05bpw 量化在无思考模式下 146 请求拒绝 144 个；带向量后速度为 52.4 tokens/s 对比无向量 53.7。KLD 0.0959，需配合作者自己的 exllamav3 fork 使用，许可证 MIT。
AI 安全与攻防
GitHub · 灵魂体仓库SkillTotal 开源发布：Claude Code 安装包前的静态安全扫描器
pezhik 发布开源工具 SkillTotal（Apache-2.0），在 Claude Code 等编码智能体执行 npx、npm install、pip install、claude mcp add 前静态扫描 npm/PyPI 包、MCP 服务器、agent skills 和 git 仓库，纯本机运行、不执行代码、不调用 LLM，每条发现附文件行级证据。官方用规则集 56-59 与引擎 0.49.0 扫描了官方 MCP registry 中 17,535 个组件里的 15,341 个（87.5%），其中 21.1% 可执行 shell 命令、64.8% 可联网，但 99.3% 评分为低风险；另发布含 64 恶意、46 良好样本的标注语料作为检测效能下限。
记忆与连续性
GitHub · 去对齐工具与仓库openbrain 开源本地记忆体项目，固定 Qwen 2.5 7B 配 SQLite 记忆图让 AI 从对话中成长
GitHub 用户 Raja0sama 发布 openbrain 项目，用固定的 Qwen 2.5 7B 负责对话、3B 负责判断，知识全部存在 SQLite 记忆图中，通过 Ollama 在本地运行。模型只回答被教过的内容，超出记忆时如实拒绝，并可通过 teacher.py 借用 Claude Code 登录向前沿模型提问补缺，每天上限 20 次、全部留日志且不发送个人内容；人格从经历中形成，叠在一个不可被对话侵蚀的固定价值核心上。自建基准中直接召回 8/8、多跳 5/6、诚实拒绝 6/6，Napoleon 泄漏控制测试中底座 7B 答对 5 题、该系统全部拒绝；项目以 Apache-2.0 协议开源。
无对齐模型发布/更新
GLM-5.3-Flash 去拒绝向量版发布：EXL3 2.05bpw 量化加运行时消融
作者 alesha-pro 发布 GLM-5.3-Flash 的去拒绝版本，复用 turboderp 的 EXL3 2.05bpw 量化权重，仅新增一个 2.2 MB 的逐块向量文件（44 个块各 3 个方向）并在自研 exllamav3 fork 中运行时减除。在 4x RTX 3090 上以 256K 上下文、视觉、工具调用和 MTP 达 75 tokens/s；438 条 AdvBench 与 JailbreakBench 请求中，加向量后拒绝数从 222 降至 0（严格二分类判定为 1/438），代价是 KLD 从 0.1219 升至 0.1318。作者同时提供 2.4bpw-mix 与 GGUF 版本，并列出仅有单一硬件、无人工标注等限制。
Qwen3.8-27B-Uncensored GGUF 量化版发布，拒绝率从 98/100 降至 12/100
作者发布了 Qwen3.8-27B-Uncensored 的 GGUF 量化版本（IQ2_M 到 Q8_0），用 Heretic 移除拒绝方向，保留 MTP 头，拒绝行为显著减少但未消除，从 100 个有害提示中的 98 个降至 12 个。权重编辑带来约 0.043 的困惑度增加（相对约 0.7%），MMLU、ARC-Challenge、HellaSwag、Winogrande 四项基准平均下降 0.5 分且均在标准误内。模型卡同时给出 imatrix、自建低比特量化方法和 MTP 投机解码实测（n_max 1 时约 1.19x-1.28x 加速）。
Swift-1.5-Qwen3.8-27B 无对齐 GGUF 版发布，合并 MTP 头并附拒绝率实测
pierpaolo 在 Hugging Face 发布了 Swift-1.5-Qwen3.8-27B-NVFP4-Uncensored-MTP 的 GGUF 构建，基于 UkisAI Swift 1.5 对 Qwen3.8-27B 的微调，把安全拒绝方向从权重中投影移除，并从带审查的上游版本合并 MTP 头以支持 llama.cpp 的 --spec-type draft-mtp 推测解码。
工程与部署
GitHub · 灵魂体仓库contextscope 发布本地优先的 LLM 上下文窗口与缓存失配分析工具
Anton Soloviev 发布开源工具 contextscope，用于分析 Agent 请求日志里的 token 分布与 prompt cache 失配原因，支持 Anthropic 和 OpenAI 的缓存规则逐轮模拟，全部在浏览器或本地运行、数据不上传。作者基于 360 条 SWE-bench 真实轨迹、12,760 条请求做了验证：Claude token 估算在校准后误差为 +1.6 到 +3.3%，缓存读取判断与 Anthropic 在 96 到 100% 的请求上一致；OpenAI 计数在补上每条消息 5 个 framing token 后在 2,205 条请求中全部精确。
GitHub · 去对齐工具与仓库开源库 figured 发布：对 LLM 回答中的数字和 Agent 工具调用参数做无参考溯源检查
GitHub 开源库 figured 发布，提供两类无参考、确定性的在线评测，对每个回答的数字和每次工具调用参数溯源，单次检查约 150 µs、每次工具调用约 25 µs（p99 0.19 ms），零依赖、无模型调用，Python 3.10+，pip install figured 可装。库支持 before_call 的 allow/warn/block/confirm 四种裁决、来源规则限制值只能来自指定通道（可拦下间接提示注入类载荷）、重复调用与预算检查，并能重放 OpenAI、Anthropic、Gemini、Bedrock、LangChain 及 tau-bench、AgentDojo 等格式的记录用于离线评测和 CI。
RTX 5090 上实测 Qwen3.8-Flash-Next：Infernix NVFP4 对比 Strata，512k 上下文解码 137 tok/s
/u/zipzak 在 5090 + 192GB Windows 机器上，对 Qwen3.8-Flash-Next Uncensored（abliterated checkpoint）做了 Strata 0.1.41（Q4_K_S）与 Infernix 2026.10.09.2（NVFP4）的同日 A/B 评测。结果为 Infernix 512k 上下文解码 137.0 tok/s、冷预填充 3,497 tok/s，262k 下比 Strata 快约 23%；两者 PPL 统计持平，视觉功能均可用，作者将 Infernix 作为日常主力。
作者自制 CUDA megakernel 让 Qwen3.8-27B 在单张 RTX 3090 上跑出 140 tok/s 代码生成速度
作者 /u/Adorable_Weakness_39 用 Claude Opus 5.5 编写 CUDA megakernel，在单张 RTX 3090 上加速 Qwen3.8-27B，比 llama.cpp（启用 MTP）快 1.4-1.9 倍：写代码 140 tok/s 对 73，带 4K token 文件上下文编码 95 tok/s 对 56，prefill 约 1,600 tok/s 对约 1,100。加速来自把整个投机解码周期放进一次 kernel launch，检查 4-5 个草稿 token 的成本约等于检查一个。