AI 日报 · 2026 年 10 月 14 日 · 星期三
麦式AI情报站
DeepSeek-V4.1-Flash GSQ 混合精度量化版发布，单张 RTX 4090 可跑 552B MoE
IndrasMirror 发布 DeepSeek-V4.1-Flash-GSQ-Uncensored，对 dealignai 的 abliterated 检查点做校准混合量化，552B 参数 MoE 压缩至约 163 GB（152 GiB 专家权重），可在 RTX 4090 24 GB + 90 GB RAM + NVMe 的家用 PC 上运行。量化采用三档专家格式（42.8% 三值、39.2% 2-bit、18.0% 3-bit），与同尺寸均匀 Q2_0 相比输出误差低 17%；held-out 困惑度 5.645（原模型 4.915），top-1 一致率 0.674。实测 Prefill 250 tok/s、Decode 约 26 tok/s（启用 ggml patch 可达 27+）。
无对齐模型发布/更新
AtomicChat 发布 MiniCPM-V 4.7 35B-A3B 无拒绝 GGUF 版
AtomicChat 将 OpenBMB MiniCPM-V 4.7 35B-A3B 的一个拒绝方向从原权重中投影消除，提供三种内置 GGUF 量化版本和一个 106 MB LoRA 适配器。在 held-out 提示上，英文拒绝率从 96.3% 降至 0%，俄语从 70% 降至 0%，MMLU 仅变化 0.25 分；20.1 GB 版本与原模型 top-1 一致率 94.5%。方法基于 Arditi et al. 2024 的单方向拒绝机制研究。
MorinoNushi 发布 GLM-5.3-Flash Heretic 消融 LoRA V3，拒绝率降至 10%
MorinoNushi 发布 GLM-5.3-Flash（320B 总参/18B 激活 MoE，MIT 协议）的去对齐 LoRA 适配器 V3，用 heretic-gguf 对量化 GGUF 权重做 Optuna 优化的方向性消融。有害提示拒绝率从 V2 的 35/140 降至 14/140（10.00%），KL 0.2380 也低于 V2 的 0.3030；适配器约 86 MB，无需改动或重新量化约 160 GB 基座权重，可直接在主线 llama.cpp 上以 --lora 方式加载，不再需要 fork 或补丁。
开源模型发布/更新
Google · AI 博客一手Google 发布 Gemini 4 Argon，全渠道开放并公布基准表现
Google 发布 Gemini 4 Argon，面向开发者、企业和消费者全球开放，API 定价为每百万输入 token 2 美元、输出 token 10 美元，支持 1M 输入输出 token 上限。模型在 Vals Index 排名第一，ERQA 具身推理基准得 87%，在 Antigravity 中使智能体代码提交量增加超 35%、回滚减少近三分之一；安全方面对抗性违规减少近 2 倍，Gray Swan 间接提示注入基准下 15 次自适应攻击成功率降至 0.7%。
Liquid AI 开放 LFM2.5-24B-A2B 权重，主打端侧推理智能体
Liquid AI 发布开放权重模型 LFM2.5-24B-A2B，总参数 24B、每 token 仅激活 2B，定位端侧快速、私有的推理智能体。模型在 16 项基准上与参数量约多 50% 的 Qwen3.6-35B-A3B 竞争，LiveClaw 得分 48.09 对 38.19，在 8 项工具与智能体基准中的 5 项领先或持平，并在全部 3 项指令遵循基准领先；M5 Max 上解码 184 tok/s，单张 B300 高并发下超 21K 输出 tok/s。
工程与部署
Molfar Vertep 1.0.1 发布：带旁白的群聊、字段化角色卡与提示词检查器
Molfar Vertep 从 0.9.3 升级到 1.0.1，其角色扮演应用从 4.28 升到 4.37，全部本地运行。主要更新包括带旁白模式的群聊（一次模型调用让多个角色发言）、角色卡拆分为身份、外貌、性格等字段并可单独开关以节省 token、prompt inspector 新增 Sources 表显示每个 token 的来源，lorebook 对乌克兰语和俄语的词形匹配使 300 词条的发送时间从约 3 秒降到 0.3 秒。关系仪表盘新增对 llama.cpp、vLLM 和 LM Studio 本地思考模型的支持，事件词汇从 34 扩到 53 种。
GitHub · 3D 生成新仓库llamAmpere v0.5.4 发布：RTX 3090 专用 llama.cpp 分支，单卡塞下 Qwen3.8-27B 262,144 token 上下文
JakeATX 发布面向 RTX 3090 / 3090 Ti（SM86）的 llama.cpp 分支 llamAmpere v0.5.4，运行带 MTP draft head 的 Qwen3.8-27B。v0.5 新增压缩 KV 缓存 SJ-KVaRN（4/4、3/3t、3/2t 配置），4/4 下比 v0.4 的 tq5_0/turbo4 缓存 KL 低 41%、缓存显存多 2%，262,144 token 上下文在 24 GB 单卡 4/4 配置下峰值 21,924 MiB；100K 深度任务基准上 tq5_0/turbo4 较 v0.4 提速 +8.41% ± 5.76%，SJ-KVaRN 4/4 为 +6.77% ± 2.68%。
开源工具 whatmodel.sh：输入内存和 GPU 查你的机器能本地运行哪些高分模型
Reddit 用户 /u/jakecoolguy 发布开源排行榜 whatmodel.sh，输入 RAM 和 GPU 即可查看本地可运行模型的排名和运行命令，并与同分数的 API 模型对比。每个模型分数基于 19731 条公开基准结果拟合，结果均附来源链接；数据、评分代码和 bench 脚本开源于 github.com/jakemanger/whatmodel，支持 curl whatmodel.sh 终端使用，并接受贡献真实 tok/s 数据和新模型分数。作者指出 32GB Mac 可 4-bit 本地运行 Qwen3.8 27B，得分与 GPT-5 相当。
GitHub · 灵魂体仓库airgpt 开源：一条命令在 Apple Silicon Mac 上从零训练并对话自己的小模型
作者 navthings 发布 airgpt 仓库，一条命令在 Apple Silicon Mac 上完成下载TinyStories/Cosmopedia数据、训练 byte-level BPE tokenizer、预训练 llama 风格小模型并教它聊天，只用 MLX，无需 CUDA 或云端。作者在 MacBook Air（M5, 16GB）上用 hour preset 训练 8M 参数模型 1 小时、55M tokens，val loss 从 2 分钟的 4.09 降到 46 分钟的 2.27，全程热状态保持 nominal，速度约 20k tokens/s，训练后能写出句子并回答提问但会编造事实。
GitHub · 去对齐工具与仓库cockney：让编码 Agent 用伦敦东区口音写更小 diff 的技能
Kadajett 发布编码 Agent 技能 cockney，让 Claude Code、Codex、omp 等支持 AGENTS.md 的 Agent 以 Cockney 口音回复，同时强制写最小改动：复用现有代码、标准库优先、不加多余封装。作者用同一模型同任务对比：Opus 5.5 上输出 token 减 23.3%（p<0.001）、新增代码行减 36%，Sonnet 5.5 上输出 token 减 44% 但成本增 21.7%；规则集约 1,600 tokens，短任务上开销大于收益，ruleset 通过 hooks 注入，原因是 JetBrains 发现 SKILL.md 单独安装 10 个会话里自激活 0 次。完整评测方法与原始数据在 eval/ 目录。