AI 日报 · 2026 年 10 月 25 日 · 星期日
麦式AI情报站
ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 非均匀量化 GGUF
ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本,用 GSQ 加 RCO 的梯度搜索按张量敏感度分配量化类型,提供 IQ1_M、IQ2_XXS、IQ2_XS 三档。IQ2_XXS(2.00 bpw)在 AIME25、GPQA-Diamond、LiveCodeBench v6 上完全追平 FP8/FP4 基模型,任务均值恢复 100.0%;IQ1_M 保留 98.7%。配合 Strata 引擎可在单张 12 GB VRAM 的 GPU 上运行;llama.cpp 截至 2026 年 10 月 23 日尚不支持该模型。
RSI 与 Agent 自我改进
dogaozden/degree-diameter 用 Claude Haiku 5.5 进化搜索刷新二部 degree–diameter 问题八项纪录并附 Lean 4 证明
dogaozden/degree-diameter 项目用以 Claude Haiku 5.5 为变异算子的进化程序搜索,为二部 degree–diameter 问题刷新 8 项纪录(如 (7,4) 从 346 提升到 359,(11,4) 从 1734 到 1774),并提出覆盖三个纪录的 +2 定理。所有纪录图与定理均在 Lean 4 中通过内核校验,搜索最多同时运行 48 个云端 island(384 个 Haiku 智能体并发写作,共约 32500 个程序),纪录与证明代码在 GitHub 开放,尚未提交 Combinatorics Wiki 表格。
Prompt 精选与产物对照
GPT Image 2.5 提示词实用指南仓库发布,覆盖角色一致性与姿态迁移
GitHub 用户发布了一份 GPT Image 2.5 提示词实用手册,内容编译自 OpenAI 官方文档与作者实际使用经验,并注明非 OpenAI 官方发布。手册涵盖 API 两个模型 GPT Image 2.5 Flare(重速度的小模型)与 Sunburst(重质量的基础模型)的区别、API 参数与分辨率限制、参考图角色分配、角色一致性锁定、姿态迁移四层描述法、背景与风格控制、多轮编辑流程,以及常见失败对照表和五套提示词模板,附验收清单,采用 CC BY 4.0 许可,最后更新于 2026-10-18。
无对齐模型发布/更新
DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,763B MoE 最低 235.8 GB 内存可跑
ktobik 在 Hugging Face 发布 abliterated(去拒绝)版 DeepSeek-V4.1-Flash-1017 的 GGUF 量化,提供 Mix-256G(235.8 GB 内存)与 Mix-128G(114.0 GB)两种构建。模型为 763B 参数 MoE,含 384 个路由专家和 197B 参数 Engram n-gram 表(110.6 GB 留在 SSD 按需读取),1M token 上下文。精度由实测 KLD 的背包搜索逐层分配,Mix-256G 在 held-out 文本上 top-1 一致率 93.7%、PPL 较原模型 +2.4%。
RecursiveSI Flint 40B-A2.5B 去对齐版发布,MITRE 拒绝率从 15% 降至 0%
RecursiveSI 的 Flint 40B-A2.5B 去对齐版本发布,用 abliterix 从 attention、共享与路由专家投影中移除拒绝方向,Optuna 在 100 条 MITRE 提示词上选强度。保留的 MITRE 拒绝率从 15% 降至 0%(n=100,Q8_0),无害提示词 KL 散度 0.0146 nats/token,HumanEval+、MBPP+、GSM8K、MMLU-Pro、CyberMetric、WMDP-cyber 无显著下降,pp512/tg128 速度变化在 3% 以内。
SmolLM3-3B 的 Heretic 去对齐版本发布,拒绝率从 82 降到 3
virtualdmns 发布基于 HuggingFaceTB/SmolLM3-3B 的 abliterated 版本 SmolLM3-3B-Heretic-Uncensored,用 Heretic 定向消融配合 Optuna TPE 参数搜索,100 次试验中选出 Pareto 前沿上的最优权衡。独立复测显示拒绝率从基线的 82/100 降到 3/100,KL 散度为 0.0684;架构、tokenizer 和聊天模板不变,保留 /think 与 /no_think 模式,仅权重不同。lm-eval 基准显示多数指标变化在 ±2 点内;ggsm8k strict-match 上升 42.0 点而 flexible-extract 下降 8.0 点,作者提示这是答案格式偏移,应视为混合结果。
Qwen3.8-27B OrcaRouter Uncensored 的 GGUF 与 NInfer 量化版发布,适配 16 GB 显存
codavidgarcia 发布 orcarouter/Qwen3.8-27B-Uncensored 的 GGUF 与 NInfer 量化文件,让模型连同原生 MTP 头在 16 GB 显存内运行。该去对齐版本在 abliterlitics 的 12 个变体对比中以 82% 的有害提示服从率排第一,各能力基准与原模型差距在 ±1.3 分内;作者在单张 RTX 4080 16 GB 上实测了各文件的 KLD、速度与 llama.cpp/NInfer 运行命令,许可证为 Apache-2.0。
能力评分与榜单
qwen3.8 27B 在韩文 RAG 评测上与 Opus 5.5 基本打平
作者在 3090 上用 Allganize 韩文 RAG 数据集(300 题、64 份 PDF)实测,qwen3.8 27B 开启 thinking 得 77.3%,Opus 5.5 得 76.6%,McNemar 检验 p=0.82 属于打平。Opus 5.5 的 70 次失败中仅 25 次是模型问题,22 次源于无文本层的扫描页,作者认为瓶颈在 PDF 解析而非模型;韩文形态学分词器把 BM25 的 hit@5 从 56% 提到 80%,gpt-oss 20B 在把 token 上限从 1024 提到 8192 后从 57.5% 升至 69.6%。
local-llm-benchmarks:Ryzen AI Max+ 395 上的 llama.cpp 可复现基准测试
matnum 发布 local-llm-benchmarks 仓库,在 128 GB 统一内存的 AMD Ryzen AI Max+ 395(Strix Halo)上用 llama.cpp 对 10 个 GGUF 模型/量化组合在 Vulkan 与 ROCm 两个后端测吞吐、延迟、内存、功耗与 tokens-per-watt。结果显示 Vulkan 在 10/10 单元生成更快(6 个领先 2.1–18.0%),ROCm 在 9/10 单元 prefill 更快(6.2–56.8%);MoE 模型生成速度和每瓦效率是同体量稠密模型的 5–8 倍,gpt-oss-120b(MXFP4,约 59 GiB)达 55.3 tok/s。
工程与部署
IdleJot 开源:让 AI Agent 以群友身份常驻 QQ 群
ID-VerNe 开源 IdleJot 项目,把 AI Agent 常驻一个 QQ 群,被 @、引用或叫到名字才回复,其余时间潜水看聊。Agent 读上下文现场写回复而非关键词固定话术,人格来自可热切换的 Markdown 人格卡(自带 little_whale、dragon_girl 模板),群友画像与记忆存本地 SQLite,闲时自动提炼。项目经 MCP 接入 Agent,靠 NapCat(OneBot 11)收发消息,默认 mention_only 触发,支持原生引用、按花名 @ 人、追问窗口和守护保活,目前仅支持 Windows、只发文字。
TensorSharp 首日支持 MiniMax-M3.1-Flash,8× A40 实测 64K prefill 达 2,567 tok/s
TensorSharp 开发者在 MiniMax-M3.1-Flash 开放权重发布当天加入支持,支持 GGUF 推理、MiniMax Sparse Attention 专用 CUDA kernel、图文输入、tool calling、多 GPU 拆分与张量并行、DSpark 投机解码和 MoE 专家 CPU offload。在 8× NVIDIA A40、双方使用相同 Unsloth UD-Q4_K_XL GGUF 的对比中,64K executor prefill 达 2,567 tok/s,对比被测 llama.cpp 分支的 262 tok/s 提升约 9.8 倍,server 首字时间从 293.4 秒降至 40.0 秒;64K decode 提升 1.49 倍,短对话 decode 基本持平。
retopo-director 开源:LLM 指导的高模到 PS2 级低模重拓扑工具
doctorspider42 在 GitHub 发布 retopo-director,可将 5 万三角面雕塑转为 1 千三角面、256² 调色板化、三角条带化的 PS2 资产,顶点、UV 和纹素全部由确定性 C++ 代码处理,语言模型只负责命名部件、分配预算和评审渲染结果。支持 claude CLI、codex CLI 或 OpenAI 兼容 API 作为 director 后端,区域切分可选几何算法或 SAM;基准测试显示多数资产轮廓偏移在 2 像素内,无 director 模式数秒完成,带 director 需数分钟。工具以 Apache-2.0 协议开源,提供 Windows 安装包和 headless 命令行模式。
快讯
- Deputy:用 DeepSeek V4.1 Flash 为 Claude Code 做廉价代码审查的插件与 MCP serverGitHub · 灵魂体仓库
- Perun 技能包发布:为 AI 编码助手提供带证据的可复现代码审查GitHub · 灵魂体仓库
- mlx-decision 开源工具:在 Apple Silicon 上用 MLX 本地运行和微调决策模型Reddit · r/LocalLLaMA
- ClaimCheck 发布本地优先的 LLM 假名化网关GitHub · 灵魂体仓库
- Ephor 发布:在 Linux 上被动监测 AI Agent 出站流量的无依赖 CLIGitHub · 灵魂体仓库
- Genrius AI 发布 Pingala-8 2-bit 量化格式,Qwen3-4B 体积缩小 6.5 倍GitHub · 灵魂体仓库
- 开源桌面角色扮演应用 Janus 发布,主打持久记忆与本地隐私GitHub · 灵魂体仓库
- Badrodro 实测三种 LLM 的 4-bit 权重量化格式质量差异GitHub · 去对齐工具与仓库
- 开源 Python 库 wardowl 2.0 发布,为 RAG 提供权限感知检索GitHub · 灵魂体仓库
- Flide 0.1.0 发布:一次前向分叉状态并行回答多个决策问题GitHub · 去对齐工具与仓库