AI 日报 · 2026 年 10 月 6 日 · 星期二
麦式AI情报站
DeepSeek-V4.1-Flash 无对齐 EXL3 量化版发布,可在 2× DGX Spark 上运行
dealignai 团队发布 DeepSeek-V4.1-Flash 的 abliterated 无对齐版本,量化为 EXL3 2.9bpw,约 197 GiB,可在两台 DGX Spark (GB10) 上以 TP=2 部署。
无对齐模型发布/更新
SC117 发布 Swift-1.5-Qwen3.8-Flash-Next 的 abliterated GGUF 版本
SC117 在 Hugging Face 发布 Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,通过字节级张量移植移除拒绝方向。
OS-Software 发布 Ternary-Bonsai-2-27B-Uncensored-Heretic-v2 GGUF 去对齐版本
OS-Software 发布 Prism ML 的 Ternary-Bonsai-2-27B 的去对齐版本 Ternary-Bonsai-2-27B-Uncensored-Heretic-v2-GGUF,通过在三元权重中烘焙 OT-Ridge LoRA 实现去对齐,是 v1 的继任版本。
drowzeys 发布 keys-GLM-5.3-EXL3-2.75BPW-Abliterated 去对齐版
drowzeys 在 Hugging Face 发布基于 zai-org/GLM-5.3 的 abliterated 量化版本 keys-GLM-5.3-EXL3-2.75BPW-Abliterated。
开源模型发布/更新
DecisionTune 1.0 发布:395M 决策模型可离线从给定选项中挑选,MLX 上约 10 毫秒完成短决策
作者 /u/Abe238 发布 DecisionTune 1.0,一个基于 ModernBERT-large 加 4 KB 评分头的 395M 决策模型(Apache-2.0),输入状态、问题和选项列表后单次编码即输出各选项概率或 yes/no 的 P(yes),不生成文本。
能力评分与榜单
airbench.ai 榜单实测:本地模型搭配哪个 harness 差别巨大
/u/dh7net 发布自建基准 airbench.ai 榜单,用真实任务(数学、视觉、电脑操作、编码)实测本地模型与 harness 搭配的能力和速度,参考基准为 Claude Code Opus 5.5 的 100%(14 分 26 秒),本地 zcode/4xRTX6k/glm-5.3-flash-NVFP4 同样可达 100%(31 分 13 秒)。
工程与部署
PXA v2026.10.2 发布:面向 P100/V100 的推理引擎与 PXQN 量化格式
poisonxa16 发布 PXA v2026.10.2,为 Tesla P100、V100 和 GTX 10 系列提供 PXQN 量化格式、tensor split、MTP 投机解码与一键 PXA Control 网页控制台。
Distillery:把大模型蒸馏成单任务小模型的开源流水线
gelevanog 发布开源项目 Distillery,提供从教师模型生成与标注数据、LoRA 微调小模型到路由器分流评测的完整可复现流水线。
ventz/scrape-website 开源:整站爬取并转为 LLM 可用 Markdown 知识库
GitHub 开源项目 ventz/scrape-website 可爬取整个域名并输出干净、LLM-ready 的知识库:原始 HTML、带 front matter 的 Markdown,以及 PDF 和 Office 文档转换成的 Markdown。
mhbxyz 开源 protonmail-mcp,通过本地 Proton Bridge 让 AI Agent 读取 Proton Mail
mhbxyz 发布了 protonmail-mcp,一个非官方的轻量 MCP server,通过本地 Proton Bridge 的 IMAP/SMTP 端点让 AI Agent 访问 Proton Mail 邮箱,默认为只读模式,邮箱以 IMAP READONLY 打开且不修改 \Seen 标记。
快讯
- ConardLi 开源终端编程 Agent 工具 easy-agentGitHub · 去对齐工具与仓库
- digline:把 LLM 应用回归测试的 baseline 放进自家仓库的开源工具GitHub · 去对齐工具与仓库
- LLMTray 发布:macOS 菜单栏本地大模型 GUI,内置 OpenAI 兼容 APIGitHub · 去对齐工具与仓库
- 字节跳动 DeerFlow 2.0 发布,登顶 GitHub TrendingGitHub · 灵魂体仓库
- LLooM:单个 Rust 二进制实现的自托管 LLM 路由网关开源GitHub · 灵魂体仓库
- letibot:本地优先的 LLM agent harness 在 GitHub 开源GitHub · 去对齐工具与仓库
- Qwen3.8-Flash-Next 无对齐量化版发布:4-bit 专家码本 + int8 主干Hugging Face · 新模型:uncensored
- Kimi K3 消融版 GGUF 量化发布,附 74 条提示的三率拒绝行为实测Hugging Face · 新模型:uncensored
- 开源编码智能体 Volt 0.2.1 发布:终端与 iPhone 接力同一会话GitHub · 灵魂体仓库
- HA_Automation_Pi:在树莓派 5 上用 Ollama 和 Gemma 3 构建离线可用的智能家居大脑GitHub · 去对齐工具与仓库