AI 日报 · 2026 年 11 月 8 日 · 星期日第 32 期AI 日报 · 2026 年 11 月 8 日 · 星期日
麦式AI情报站
0xKitkat 发布 Ripple-65B-Preview 无对齐 GGUF 量化版
0xKitkat 发布了 ricursiveAI/Ripple-65B-Preview 的无对齐 GGUF 量化版本，该模型为 64.78B 参数的稠密模型，面向智能体编码。作者将拒绝方向从 token 嵌入和 63 层中投影出去，未重新训练或微调，在 48 条有害提示上拒绝数从 48/48 降到 1/48，无害提示误拒从 2/24 降到 0/64。提供 Q4_K_M、Q5_K_M、Q6_K、Q8_0 四个量化，采用 Apache-2.0 许可，需 llama.cpp PR #31692 之后的版本才能加载。
具身智能与机器人
GitHub · 灵魂体仓库StardewAutoPilot 让大模型不靠截图自主玩《星露谷物语》
StardewAutoPilot 通过 SMAPI mod 从游戏内存读出状态并经本地 HTTP 接口执行动作，Python 代理用任意 OpenAI 兼容模型规划每日脚本，无需截图或图像识别。代理每晚复盘当天并改写策略，生成次日 10–25 步执行脚本，白天照脚本执行，关键动作失败才重新调用模型且每天最多 3 次。项目还用代码强制路线整理、里程碑推进和矿洞安全规则，并输出每日 Markdown 游玩日志与手机状态页。
无对齐模型发布/更新
AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF，文本编码器拒绝率从 88.9% 降到 1.2%
AtomicChat 在 Hugging Face 放出 Qwen-Image-2.1-Turbo-Uncensored 的 GGUF 权重，把 Qwen3-VL-8B-Instruct 文本编码器的拒绝方向从权重中投影掉，作为聊天模型时拒绝率从 88.9% 降到 1.2%，MMLU 保持 77.35%。作者称图像侧实测没有变化：45 条敏感提示词在原始编码器与新版编码器下结果完全一致，画面偏移约 0.088 LPIPS，中性提示词上同样约 0.084。文件提供 BF16 到 AD-Q2_K 的量化阶梯，配 stable-diffusion.cpp 使用。
Qwen3.8-27B-Uncensored-v3 发布：中文政治问题审查回答降至 2.6%
基于 NousResearch/Arete-27B 微调的 Qwen3.8-27B-Uncensored-v3 发布，在 Pan & Xu (2026) 的 115 道中文政治敏感问题上，审查回答占比从 Arete-27B 的 50.4% 降到 2.6%，拒绝或回避从 22.6% 降到 0.9%。在 NousResearch Propaganda_Eval 的 803 条英文提示词上，含宣传内容的回答占比从 Arete-27B 的 1.0% 降到 0.5%。模型为完整 BF16 checkpoint，架构与文件布局同 Arete-27B，不含 MTP 模块，需用标准解码部署。
Ternary-Bonsai-2-9B-mlx-2bit 发布 abliterated 转向版
Abhijit-2k5 发布 Ternary-Bonsai-2-9B-mlx-2bit-abliterated，不改动打包的 2-bit 权重，而是在推理时于第 11、19、23、27 层从残差流中减去拒绝方向（alpha=1）。在 12 条拒绝探针上，拒绝数从 12/12 降到 0/12，数学、代码和短文本提示仍能完成，模型仍会说明请求为何危险。拒绝方向由 100 条 mlabonne/harmful_behaviors 与 100 条 tatsu-lab/alpaca 提示的 teacher-forced 前向计算得出，仅适用于该 9B MLX 2-bit 版本，需 mlx-vlm 0.7.8 或更新版本。
工程与部署
作者在 Nemotron 3.5 Lightning 权重中内置 Forth 解释器
作者在 NVIDIA Nemotron 3.5 Lightning（30B、3B 激活参数）旁挂了一个 27 层、权重由 Python 脚本计算且不训练的 Forth 解释器网络，模型以普通文本写出 Forth 块，解释器在每个 forward pass 中逐词执行，无需工具调用也不中断生成。测试中 765,734 个机器 token 全部与 Python 参考实现一致；LoRA 微调后在 600 题留出测试上得分从 79.1% 升至 92.1%，但在长整数上因机器只支持 20 位而输给 Python。项目代码以 MIT 许可发布在 GitHub，包含 kernel builder、vLLM 插件、NeMo AutoModel LoRA 配方及 NVFP4、GGUF、MLX 构建。
GitHub · 去对齐工具与仓库rx7900xtx-local-llm 在单张 RX 7900 XTX 上跑 262K 上下文本地 LLM
victoralcazardev/rx7900xtx-local-llm 给出在单张 AMD Radeon RX 7900 XTX（24 GB，gfx1100）上运行 262K 上下文本地 LLM 的验证配置、启动脚本与基准证据。默认配置为 Qwen3.8-27B GSQ-RCO IQ3_S-mtp 搭配 KV q8_0/q5_1 与 MTP n=3，240K 填充下解码 22.5-33.2 tok/s、峰值显存 22,645 MiB。作者称 ROCm/HIP 比 Vulkan 快 2-3.5 倍，自带的混合 KV FlashAttention 内核在 240K 下比原版 llama.cpp 解码快 18-27%。
GitHub · 去对齐工具与仓库tiny-llm 在单块笔记本 GPU 上从零训练 Llama 式模型并自建推理引擎
cooldip00/tiny-llm 用纯 PyTorch 在一台 8 GB RTX 3070 Ti Laptop 上从零训练 Llama 式小模型，并配套自研推理引擎。TinyLlama 1.1B 在 batch 1 下解码达 137 tok/s，为实测带宽上限的 71%，约为 HF generate 的 3.1 倍；30M 参数模型用约 1B TinyStories token 训练耗时 2 小时 27 分钟，MFU 56%。引擎提供 OpenAI 兼容 HTTP 服务，队列满时返回 429 以限制首 token 延迟，当前为 v1-preview。
GitHub · 灵魂体仓库stainless-code 发布 Verdict：让本地智能体分步完成代码审查
stainless-code 发布 Verdict，把代码审查拆成 fetch、review、gate、post 四步，由用户本机运行的智能体完成审查并只提交一条 review，无需服务器、账号或守护进程。每条发现都带证据等级（从 said 到 reproduced）和严重度，未证实的结论会被标注而不当作事实发布；发布前校验锚点，并有 stale-SHA 与重复发布防护。fetch 支持 GitHub、GitLab、GitCafe、Forgejo、Bitbucket、Azure 六个托管平台，发布仅限 GitHub，另提供 MCP 服务、Go SDK 与 TypeScript 客户端。