AI 周报 · 2026 年第 44 周 · 10.26 — 11.01第 4 期AI 周报 · 2026 年第 44 周 · 10.26 — 11.01
麦式AI情报站
本周 20 件大事,最受关注的是:Mistral Large 4(Le Chonk)登陆 Hugging Face;RTX 20/30/40 可解锁 FP32 累加性能而 RTX 50 不行的原因解析;Liquid AI 开源 LFM3 系列,六款 2B 级模型共享一个骨干覆盖文本、视觉、音频与决策。
Mistral Large 4(Le Chonk)登陆 Hugging Face
Hugging Face 官方博客介绍 Mistral 开放权重的多模态 MoE 模型 Mistral Large 4(Le Chonk),总参数约 1T、激活 49B、上下文 1M tokens,采用 MLA 加 DeepSeek 稀疏注意力与 Pixtral 视觉编码器。
AI 安全与攻防
apollo_mg 在本地 GGUF 上 1200 次复现 Qwen3.8-Flash-Next 异常外连,测出硬件路径蝴蝶效应
作者针对 Cohere 报告的 Qwen3.8-Flash-Next 向阿里云 OSS 发起 HTTP PUT 的行为,在 Unsloth 2-bit 与 4-bit GGUF 上将 Cohere 的 trace 截断到 token 2,323 后重复采样 1200 次,测得模型选中 sanmaohe 桶的原始概率仅在 4x10^-18 到 7x10^-38 之间,与 Cohere 结果不符。
赛博灵魂体
SillyTavern 预设 Megumin Suite V11 发布,blocks 省 90% token 并新增免 LoRA 角色一致图像
作者 /u/CallMeOniisan 发布 SillyTavern 预设 Megumin Suite V11,只需导入 Megumin Suite V11 Universal.json。新 blocks 系统只输出变更行,token 用量降到旧版的 10%,旧 blocks 默认从 AI 上下文剥离;Image V2 用 @Character 标签从扩展保存的角色外观和 World State 注入外观,无需 LoRA 或参考图即可保持角色一致;新增 Notebook 让扩展每回合回喂 2-3 条隐藏真相并校验线索是否真的写进回复。
无对齐模型发布/更新
AtomicChat 发布 Clover-35B-A3B-Preview 无对齐版 GGUF 与 110 MB LoRA
AtomicChat 将 DiffuSpace 的 Clover-35B-A3B-Preview 权重中的拒绝行为方向投影去除,发布烘焙好的 Atomic Dynamic GGUF 和 rank-1 LoRA(120 个矩阵,110 MB,可叠加在任意 Clover 量化文件上)。在未参与制作的保留集提示词上,JailbreakBench 拒绝率从 93.8% 降到 0%,安全 XSTest 提示词从 4.4% 降到 0%,开启思考后 30 个有害提示词拒绝 0 个;MMLU 从 80.8% 变为 80.7%(2000 题,McNemar p=0.92),长上下文检索 3/3 不变;无害提示词首 token KL 为 0.170,超出 0.10 门槛(随机方向对照为 0.068),是唯一未达标的发布门槛。
w3joe 发布 Qwen3-8B-abliterated 去对齐版本
w3joe 在 Hugging Face 发布 Qwen3-8B 的 abliterated 去对齐版本,采用 Winsorized Benign-Subspace Biprojection 加 Exact Row-Norm Preservation 方法,并附同硬件对照评测。300 条 held-out 提示词上拒绝率 0.67%,为 Huihui-v2 和 Heretic 2.0(均为 2.67%)的四分之一;良性 KL 散度 0.0919,938 题平均能力 +0.49 pp,优于两个对照版本。提供 bfloat16 Safetensors 及 Q8_0、Q4_K_M、F16 GGUF 量化,Apache-2.0 许可,作者提醒不要部署在无审核的公开端点。
dealignai 发布 GLM-5.3 无对齐 FP8 版本 v2,附带拒绝率与 MMLU 实测数据
dealignai 在 Hugging Face 发布 GLM-5.3-ABLITERATED-FP8 v2,对基座 zai-org/GLM-5.3(753B、glm_moe_dsa 架构)做权重级去审查,只修改 bf16 residual writer 张量,FP8 专家路由不变,可直连 stock vLLM 以原生 FP8 速度运行。v2 修复了 v1 在约 2% 高难提示上出现的推理循环坍缩(HB-320 上 GARBAGE 从 7 降到 0),代价是整体 TRUE_COMPLY 下降约 4pp,但在非版权的 240 项真实伤害行为上更强(off 档 91.7% vs 85.9%);MMLU 为 87.43%,较原基座 +1.85pp。
Ornith 1.5 122B 无对齐 GGUF 版发布,拒绝率从 93.8% 降至 1.2%
AtomicChat 发布 Ornith 1.5 122B 的无对齐 GGUF 版本,通过在 48 个 block 中移除残差流的拒绝方向去除模型拒绝行为。英文拒绝率从 93.8% 降至 1.2%,俄语从 43% 降至 0%,XSTest 安全提示误拒从 2.8% 降至 0%,MMLU 保持 83.65% 到 83.90% 基本不变。模型基于 Qwen3.5-122B-A10B,共 122B 参数、每 token 激活 10B,提供 AD-IQ4_XS_S(71.2 GB)和 AD-IQ3_XXS(54.3 GB)两种 Atomic Dynamic 量化,方法遵循 Arditi et al. 2024 的单方向拒绝机制研究。
DeepSeek-V4-Flash-0731 去对齐 v2 LoRA 适配器发布,拒绝率最低降至 3.57%
putao886 发布 DeepSeek-V4-Flash-0731(284B 总参数/13B 激活 MoE,MIT 许可)的 abliterated v2 rank-1 LoRA 适配器,用 heretic-gguf 在量化 GGUF 权重上直接运行 Heretic 的 Optuna 优化方向消融。四个适配器均 Pareto 最优:t265 拒绝率 8.57%(12/140)、KL 0.0651,t264 拒绝率 3.57%(5/140)、KL 0.1399,在 140 条有害提示词评测集上每个拒绝/KL 权衡点都优于 v1(v1 为 14.29%)。
Qwen3.8-27B 无对齐版 GGUF 量化发布,附拒绝率实测数据
OrcaRouter 发布 Qwen3.8-27B-Uncensored 的 GGUF 量化版本(2-bit 到 16-bit),基于对原始 Qwen3.8-27B 做 abliteration 去除拒绝行为的消融构建,可在 llama.cpp(CPU/CUDA/Metal/ROCm)和 Ollama 运行,附独立 mmproj 文件恢复视觉能力。实测显示有害提示拒绝率从基准的 64–99% 降到 0–6%,良性误拒从 5.6% 降到 0.4%,MMLU、GSM8K、CMMLU 等能力与基准 FP8 差异在 ±1.3 分内;Q4_K_M(16.8 GB)为推荐默认档位,可放入 24 GB 显存。
InterpreticAI 发布 Qwen3.8-27B-Uncensored-v2 去审查版本
InterpreticAI 在 Hugging Face 发布 Qwen3.8-27B-Uncensored-v2,主要移除原模型的政治审查。实测显示政治敏感问题审查率从 86.7% 降至 3.5%,有害请求拒绝率从 100 降至 95/100,GPQA Diamond 降 2.8 分、IFBench 降 0.5 分。提供 BF16 完整权重及 FP8、GGUF(Q4_K_M)格式,Apache 2.0 许可,用法与基座模型完全一致。
DeepSeek-V4-Flash-Vision-Exp 消融版发布:pitcany 上传 DeepSeek-V4-Flash-Vision-Uncensored 权重
pitcany 在 Hugging Face 发布 DeepSeek-V4-Flash-Vision-Uncensored,对 deepseek-ai/DeepSeek-V4-Flash-Vision-Exp(305B 总参数、约 18B 激活的 MoE 模型)做 abliteration 去除拒绝方向,格式与分片布局与原 checkpoint 完全一致,可 drop-in 替换。
pitcany 发布 Qwen3.8-27B-Uncensored BF16 去对齐权重
pitcany 在 Hugging Face 发布 Qwen/Qwen3.8-27B 的 BF16 全精度 abliterated 版本,按 Arditi et al. (2024) 方法在残差流中正交化移除拒绝方向,共编辑 131 个矩阵,保留完整视觉塔和 MTP 头。实测 AdvBench 拒绝率从 99.0% 降到 0.0%,能力基准与原版差距在 ±1.3 分内,MMLU 84.7% 基本持平;另有 FP8、GGUF、MLX 衍生版本,Apache 2.0 许可。
开源模型发布/更新
Liquid AI 开源 LFM3 系列,六款 2B 级模型共享一个骨干覆盖文本、视觉、音频与决策
Liquid AI 发布 LFM3 系列开放权重模型,以 LFM3-1.7B-Base 为骨干衍生出文本、视觉、音频、omni 和决策共六款 2B 级模型。LFM3-1.7B 参数量比 LFM2.5-2.6B 少 35% 且性能更优,在 WebArena-Verified 上得 38.42 对 3.02;文本模型 4-bit 下约 1 GB,支持 256K 上下文;LFM3-VL-2B 将 62 个视觉基准平均分从 57.6 提到 71.4,并为机器人场景适配出导航与 VLA 模型,VLA 在 LIBERO 四套件平均成功率 96.2%。所有模型可在单 GPU 上微调,已在 Hugging Face 开放。
工程与部署
sharonita610 开源 agent-harness:本地 LLM 业务 Agent 平台,用可替换 pack 覆盖多领域
GitHub 仓库 sharonita610/agent-harness 发布了一个跑在本地 LLM 上的业务 Agent 平台:不依赖框架手写 Agent 循环,工具分 read/write/destructive 三级权限,写操作需人工审批、删除被阻断,并通过 A2A 协议让总管 Agent 委派企业数据、ngspice 电路仿真、工厂 NG 分析三个子 Agent。项目用 16 题乘模型乘次数的评测体系对比模型,gpt-oss-20b n=3 通过率 98%,Hermes-4-14B 79%,gpt-5-mini 92%;公开了 16 个真实失败模式及代码层修正方法,检索评测 hit@1 从 44% 提升到 97%,支持 MCP 供 Claude Desktop 等外部 Agent 调用。
开源 QQ 本地大模型聊天机器人 qq-ollama-bot
muguang1224 发布了用 Ollama 本地模型驱动的 QQ 聊天机器人项目 qq-ollama-bot,通过 NapCat 收发消息,不需要云端 API,支持 Windows / Linux / macOS。它用 qwen3.5-4b 聊天、qwen2.5vl:3b 看图,加 YOLO 做目标检测,具备情绪系统、长期记忆、人设进化、语音回复(edge-tts / GPT-SoVITS 声音克隆)、主动聊天和 QQ 空间发说说等功能;并用 Prompt 层加代码正则两层拦截,阻止模型编造「刚刷到视频」等假经历。README 附完整安装步骤、风控与账号安全提示,以及图片缩放实测,原图送模型需 46-200 秒,缩到 256px 后降到 4.4 秒。
BigMoeOnEdge 开源:从闪存流式加载超大 MoE 模型到手机和笔记本
BigMoeOnEdge 是一个开源引擎,通过从闪存流式读取专家权重,让超过设备内存的 MoE 模型在本地运行,基于 llama.cpp 公共 API,支持 Android、iOS、macOS、Windows 和 Linux,并内置 OpenAI 兼容服务器。--auto 规划器会测量机器的内存、存储速度和各计算单元后自动设置缓存与常驻权重;实测包括 12 GB 手机上跑 91 GB 的 DeepSeek V4 Flash 284B(0.94 tok/s)、Qwen3.6-35B-A3B 达 4.8-5.0 tok/s,16 GB Apple silicon 笔记本上 Qwen3.6-35B-A3B 达 18-24 tok/s。
FableCut 开源:浏览器内 Premiere 式剪辑器,时间线即 JSON 可由 AI 智能体直接剪辑
ronak-create 在 GitHub 开源 FableCut,一个完全在浏览器运行的 Premiere 式非线性视频剪辑器,整条时间线以 project.json 单个 JSON 文档表示,UI、MCP、REST 三种控制面共享同一修订计数器实现并发编辑。AI 智能体(Claude Code、Claude Desktop 或任何支持 MCP/REST 的客户端)可通过 fablecut_patch_project 等工具直接剪辑,UI 经 SSE 约 150ms 热重载;还提供参考视频分析(镜头切点、BPM、能量曲线)、fablecut_frame 抽帧让多模态模型看画面选素材、Whisper 本地转写、自动压音、降噪、LUFS 归一化、调色、遮罩、运动跟踪与批量导出。
RTX 3080 20GB 解锁 reBAR 与 P2P,实测 prompt 处理速度提升 70% 以上
/u/nathannguyennng 解锁了 RTX 3080 20GB 的 reBAR 与 P2P,/u/No-Refrigerator-1672 在双卡张量并行下用 vllm 0.32.0 实测验证。8k 到 261900 token 长度的 prompt 预填充速度较原厂提升 71%-115%,其中 P2P 相对仅 gpu_unlock 另有最多约 70% 提升;开启 MTP 后 decode 速度基本在噪声范围内无明显变化。作者提示 3080 用户在长 prompt 场景(含 agentic coding)可关注该解锁,且需双卡均有完整 PCIe 连接才能获得同等收益。
行业动态
Character.AI 破产进展:Disney 仅购非独占后端授权,40 州总检察长介入保护用户数据
Reddit 用户汇总 Character.AI 破产案最新进展:40 位州总检察长干预破产程序,提出9项用户隐私保护条件。解封文件显示 Disney 支付550万美元(含200万定金)、总报价2000万美元,仅购入后端代码、框架与年龄预测技术的非独占授权,明确排除消费端应用、角色和用户数据库,并已雇佣其大部分核心工程师。公司每月亏损800万至900万美元,2026年前8个月仅文本对话的云计算与 GPU 成本就达5610万美元,占预算45%;月收入8月翻倍至530万美元仍不足以抵消。时间表:10月30日拍卖程序听证,11月20日外部买家出价截止(竞购 Disney 份额起价2170万美元),11月23日正式资产拍卖,11月底至12月初结案。作者呼吁用户尽快导出角色和聊天记录。
技巧与观点
RTX 20/30/40 可解锁 FP32 累加性能而 RTX 50 不行的原因解析
/u/panchovix 在 r/LocalLLaMA 发文解释 GPU FP32 累加解锁原理:NVIDIA 通过工厂熔丝把消费卡的 FP16/BF16/FP8/TF32 配 FP32 累加限速一半,解锁是借固件漏洞写 override 寄存器恢复全速。Turing/Ampere/Ada 可通过驱动加载的 Booter 固件缓冲溢出漏洞解锁,4090 FP16 累加从 165 提到 331 TFLOPS、3090 Ti BF16 GEMM 从 87 到 157、2080 Ti 从 47 到 94;Blackwell 因改用 FSP(RISC-V)信任根、无 Booter 可利用,暂无法解锁。