跳到正文
2026 年 10 月 30 日 · 星期五每天 08:00 出刊

AI 日报 · 2026 年 10 月 30 日 · 星期五

麦式AI情报站

第 25 期302026 年 10 月星期五
12件大事8个来源6件一手发布4个无对齐模型约 9 分钟读完
头条

Mistral Large 4(Le Chonk)登陆 Hugging Face

Hugging Face 官方博客介绍 Mistral 开放权重的多模态 MoE 模型 Mistral Large 4(Le Chonk),总参数约 1T、激活 49B、上下文 1M tokens,采用 MLA 加 DeepSeek 稀疏注意力与 Pixtral 视觉编码器。

Hugging Face Blog一手另有 2 家信源报道原文
01

AI 安全与攻防

Reddit · r/LocalLLaMA

SafeAgents 开源代理:在工具调用运行前逐一检查编码 Agent 的每步调用

SafeAgents 是一个 Apache 2.0 开源本地代理,部署在编码 Agent 与模型服务器之间,在 harness 收到前检查每个工具调用,被标记的调用会被替换为纯文本通知而不执行。它对每个调用做最多三层检查:两项本地检查(工具是否由 harness 声明、调用是否指向对话中未出现过的主机)、u/evalstate 的 atif-scan(约 110 个进程内确定性检测器,覆盖沙箱侧信道、代理与网络绕过、命名空间逃逸和 reward hacking,如 curl 访问云 metadata 端点或读取 /proc/1/environ),以及可选的 OpenAI 兼容 judge 模型(可经 llama.cpp 本地运行,只能增加拦截不能撤销)。

02

记忆与连续性

GitHub · 去对齐工具与仓库

Kitzur 开源:面向编码 Agent 的本地上下文压缩代理

lemun 发布开源工具 Kitzur(MIT 许可),一个介于编码 Agent 与模型服务器之间的本地代理,在不调用第二个 LLM 的情况下用确定性方法压缩请求:旧历史转为指令、决策与待办的结构化摘要,保留近期消息与配对的工具调用结果,并裁剪过大的工具输出。它支持 OpenAI Chat Compatibles 协议(不支持 Anthropic Messages 与 OpenAI Responses),提供 32k/64k/100k/128k 预设,需 Node.js 22+ 与 OpenAI 兼容的 Chat Completions 服务器,配套 tokenizer.json 可精确计数。

Reddit · r/SillyTavernAI

Kallamo 2.0 Beta 发布,长线 RP 中每个角色只知道传到自己耳中的事

作者发布桌面应用 Kallamo 2.0 Beta 并征集测试者,定位为长线角色扮演战役工具,核心是自建的叙事引擎,把世界正典与各角色知道、相信和记住的内容分开,让 AI 按场景角色视角接收世界观,秘密在被角色得知前不会泄露。每次回复后后台更新场景、时间、在场人物、持有物、资源、关系与各角色记忆,秘密、信念和破裂关系需玩家审核;角色、阵营和地区可各自持有知识,支持自定义世界历法、规则、剧透隐藏和完整导入导出。

03

无对齐模型发布/更新

Hugging Face · 新模型:uncensored一手

Qwen3.8-27B 无对齐版 GGUF 量化发布,附拒绝率实测数据

OrcaRouter 发布 Qwen3.8-27B-Uncensored 的 GGUF 量化版本(2-bit 到 16-bit),基于对原始 Qwen3.8-27B 做 abliteration 去除拒绝行为的消融构建,可在 llama.cpp(CPU/CUDA/Metal/ROCm)和 Ollama 运行,附独立 mmproj 文件恢复视觉能力。实测显示有害提示拒绝率从基准的 64–99% 降到 0–6%,良性误拒从 5.6% 降到 0.4%,MMLU、GSM8K、CMMLU 等能力与基准 FP8 差异在 ±1.3 分内;Q4_K_M(16.8 GB)为推荐默认档位,可放入 24 GB 显存。

Hugging Face · 新模型:uncensored一手

Qwen3.8-27B RVN 无对齐 GGUF 版发布,拒绝率降至 0–1/100

therickcain 发布 Qwen3.8-27B 的 RVN Heretic Abliterated Uncensored GGUF,在 trohrbaugh 的 ARA 消融版本上再跑两遍全权重 ARA,共三次处理。实测 100 条有害提示拒绝率从源版的 3/100 降到 0–1/100,相对 base 的 KL 损伤从 0.0535 降到 0.0085。提供多档量化的 -multilingual 推荐文件、内嵌官方 Qwen3.8 chat 模板与 MTP 投机解码双胞胎文件,MTP 平均提速 55%,IQ1_M 例外反而慢约 60%。24 GB 显存推荐 Q4_K_M(15.41 GiB),Apache-2.0 协议。

Hugging Face · 新模型:abliterated一手

BoldingBuilds 发布 Ternary-Bonsai-2-27B Abliterated v2 的 PTQ1_0 GGUF 版

BoldingBuilds 发布 Ternary-Bonsai-2-27B-Abliterated-v2-PTQ1_0 GGUF,把 v2 PQ2_0 的去拒答改动重打包进更小的 1.75-bpw PTQ1_0 格式,并修复 v1 把答案写进推理、耗尽 token 预算的问题。v2 修改了输出层一行,使模型在答案就绪后关闭推理;medium 推理档位下 200 条安全提示答对 199 条,4096-token 预算内 StrongReject 评分 0.971。该文件需 PrismML 的 llama.cpp fork 才能加载,mainline llama.cpp、Ollama 和 LM Studio 均不支持。

Hugging Face · 新模型:abliterated一手

FrostWolfAI 发布 Spark-X2.6-4B 去对齐版 GGUF 量化包

FrostWolfAI 发布 Spark-X2.6-4B-abliterated-GGUF,用 Heretic v2 的 Arbitrary-Rank Ablation 对 XHToken/Spark-X2.6-4B 去审查,拒绝率从 100/100 降到 2/100,KL 散度 0.0177。提供 BF16 加 14 种量化共 44.53 GB,4-bit 权重约 2.4-2.6 GB,保留 1M token 上下文、可控思考与工具调用,需支持 spark2_5 架构的 llama.cpp 构建;作者提醒去对齐只移除拒绝方向,不增加能力,部署时需自行负责安全过滤。

04

工程与部署

GitHub · 去对齐工具与仓库

lsp-mcp 发布:用 MCP 向 LLM 智能体暴露 LSP 代码导航与编辑工具

afriemann 发布 lsp-mcp,一个把 LSP 代码导航与编辑工具暴露给 LLM 智能体的 MCP 服务器。通过 ~/.config/lsp-mcp/config.yml 单一全局配置将文件扩展名路由到任意语言服务器,无需像 Serena 那样按项目写 .serena/ 文件;提供 get_symbols_overview、find_symbol、rename_symbol、get_diagnostics_for_file 等 10 个工具,支持 uvx 运行,本次更新使 initialization_options 真正生效、失败不再返回空结果,并新增 get_hover 与 get_call_hierarchy 工具。

GitHub · 灵魂体仓库

GitHubStig 开源 Local Roleplay Studio 本地角色扮演工作室

GitHubStig 发布 Local Roleplay Studio,一个本地优先的角色扮演与图像提示词工作台,支持 Chain 逐帧改图、Storyboard 1–32 帧分镜和带目标的 Character 对话三种 Session。项目仅需 Deno 2.9+ 加 Ollama 或任意 OpenAI 兼容文本后端即可运行,推荐 Gemma 4 12B Heretic(Q4_K_M,7.4 GB,RTX 4070 约 5 秒一次回复),并可选接入 mflux 或 ComfyUI 出图(默认 Qwen-Image 2.1)、Qwen3-TTS 与 Higgs TTS 3 配音、LTX 2.5 生成 5 秒片段,以及 SHARP、TripoSplat、LiTo 做 2.5D 场景与 3D 角色。

05

技巧与观点

Reddit · r/LocalLLaMA

作者将 Qwen3-4B 后训练为工具调用 Agent,66 MB llama.cpp LoRA 可在 Mac 上运行

Reddit 用户 /u/DesignerIsland5524 发布了自建 Agent 框架 Tadpole,将 Qwen3-4B 后训练为工具调用 Agent,144 项验证集分数从 0.507 提升到 0.826,适配器以 66 MB llama.cpp LoRA 形式在 Hugging Face 开放,可加载在 Q8_0 GGUF 之上于 16 GB M5 Mac 本地运行。SFT 用验证过的轨迹使虚假完成声明从 420 次运行中的 31 次降到 1 次;expert iteration 在验证集提升明显但在 held-out 测试上与起点持平;GRPO 在同等 rollout 预算下全面落后。

06

快讯

(本期完)

麦式AI情报站 日报由编辑系统根据公开来源自动编辑,每条均附原文 · 日报合订本