跳到正文
10月25日周日
  1. Hugging Face · 新模型:abliterated22

    huihui-ai 发布 Huihui-Qwen3-8B-abliterated-v2:基于 Qwen3-8B 的去审查版本

    huihui-ai 基于 Qwen/Qwen3-8B 通过 abliteration 技术制作出去审查版本 Huihui-Qwen3-8B-abliterated-v2,采用新的更快消融方法并修复了上一版问题,还调整了 0 层以消除乱码。该模型可在 Hugging Face 用 transformers 加载,Ollama 端可用 huihui_ai/qwen3-abliterated:8b-v2 直接运行,并通过 /set think 和 /set nothink 切换思考模式。

  2. arXiv · cs.CL47

    结构化输出为何失败?九个 LLM 上提示词强制的 Pydantic Schema 实证研究

    一项研究对 3,997 次生成尝试、横跨九个 OpenAI 与 Anthropic 模型/API 配置(基于 HotpotQA 和 FinanceBench 问题)进行了 schema 失败分类。研究发现相近的有效率掩盖了不同失败模式,Markdown 围栏 JSON 是最常见失败:681 次围栏失败中仅 48.0% 在去除围栏后通过验证,其余多为字段长度违规。作者提出四项工程实践并开源了分类器、生成结果与标注。

  3. Reddit · r/SillyTavernAI16

    Reddit 用户对比 Claude Pro 订阅与 Literouter Ultimate 订阅哪个额度更多

    一位 r/SillyTavernAI 用户询问 Claude Pro 订阅与 Literouter Ultimate 订阅哪个通过 SillyTavern(需桥接)能获得更多 Claude Sonnet 尤其 Opus 的使用量,并求证 Literouter 是否可靠。他明确表示对非 Anthropic 官方渠道的低价 Claude 订阅(如 Hapuppy)持怀疑态度,帖中未给出结论。

  4. Reddit · r/LocalLLaMA38

    月之暗面(Kimi)K3.1 Pro 与 DeepSeek 4.1 Flash 1017 对比:提升有限引 LocalLLaMA 网友讨论

    LocalLLaMA 网友认为 Kimi K3.1 Pro 的成绩相比 DeepSeek 4.1 Flash 1017 并没有明显提升。K3 量化的情况下仍很难在本地运行且速度慢,因为单个 token 要经过 104 个激活层;DeepSeek 4.1 Flash 1017 成绩接近、占用更小、速度更快。该网友因此打算继续用 4.1 Flash 1017,而对 11 月 4 日发布的 K3 Pro 开放权重持观望态度。

  5. arXiv · cs.CL43

    免 Schema 文本转 SQL:从查询日志学习企业数据库结构

    一项研究提出首个无需 schema 文档的 text-to-SQL 框架,通过解析历史查询日志构建知识图谱,并用实体驱动的 GraphRAG 检索将用户问题锚定到业务术语。在 Beaver 基准上执行有效率达 95.7%,远高于基于 embedding 检索的 60.8%;工业部署中专家数据工程师以 70% 对 10% 的偏好胜出。

  6. GitHub · 灵魂体仓库43

    Kvist:终端里的开源编码智能体,可自由选择模型

    开源(MIT 协议)编码智能体 Kvist 发布 beta 版本 0.1.0b1,在终端中读取代码、编辑文件、运行命令,用户可自行选择 OpenAI、Anthropic、DeepSeek、OpenRouter 等约 40 家 OpenAI 兼容服务商,也可用 ChatGPT Plus/Pro 登录。文件写入和高风险命令需经审批,Linux 上默认在无网络的 Bubblewrap 沙箱运行,所有修改有日志可用 /revert 撤销、/resume 恢复中断任务。同一智能体可运行于终端、Electron 应用、浏览器、VS Code、JetBrains IDE 和 Zed。

  7. GitHub · 灵魂体仓库26

    Tensor-Tycoon:开源 macOS AI 实验室经营模拟游戏

    开源游戏 Tensor-Tycoon 是一款 SwiftUI 打造的 macOS(26+)AI 实验室经营模拟器,玩家可购买或租用 GPU/TPU、训练模型、争夺 benchmark、售卖 token、订阅和 agent 席位,与八家对手实验室竞逐直至递归自我改进。游戏模拟 96 款真实芯片及至 2034 年的路线图,内置六小时一次的自动更新(含 SHA-256 校验与 Ed25519 签名验证),支持 Apple silicon 与 Intel。

  8. GitHub · 灵魂体仓库57

    Skybreaker 开源:在本地沙箱中运行 Claude Code 与 Codex,凭据不进智能体

    开源项目 Skybreaker 在用户自有 Linux 服务器上以 gVisor 沙箱按项目运行 Claude Code、Codex 和 pi,内置 broker 托管凭据、按策略逐请求放行、挂起或拒绝。支持经 Tailscale 从网页、手机、终端或 VS Code 驱动,提供审计与 kill switch、分支级 diff 审查与 PR 流程,AGPL-3.0 协议,当前为 pre-1.0。

    推荐理由:这是一个开源的编码智能体沙箱方案,凭据由独立 broker 托管并逐请求审批,适合关注本地部署安全的开发者参考其架构设计。

  9. GitHub · 灵魂体仓库52

    gutfeeling:开源病理切片 SSL 与 HP 判读辅助工具在 Ashby Prize Hackathon 2026 发布

    Ahaan Verma 等人在 Ashby Prize Hackathon 2026 发布开源研究工具 gutfeeling,通过热键截取任意切片查看器画面,约 2 秒内给出 SSL 与 HP 判读及证据。工具用 ConvNeXt-Base 与 MUSK 集成模型,在 977 张 MHIST 测试图上平衡准确率 0.888、AUC 0.956,与 7 病理医生共识上限相当;在 UniToPatho 上 HP 准确率 99.6% 但会低估 SSL。定位为研究工具,非诊断用途,许可证为 PolyForm Noncommercial 1.0.0。

  10. GitHub · 灵魂体仓库63

    Faster Chat 开源自托管聊天界面,支持 17 家云端与本地离线模型并进入维护模式

    1337hero 发布自托管聊天界面 Faster Chat,可接入 OpenAI、Anthropic、DeepSeek 等 17 个内置云端供应商,也能通过 Ollama、LM Studio、llama.cpp 完全离线运行,数据存于本地 SQLite。功能包括跨对话记忆抽取、Brave 搜索联网、图像分析与生成、多用户角色管理,支持一条 Docker 命令部署;项目已达成对标 Open WebUI 的目标,转入维护模式,不再计划 RAG、MCP 等功能。

    推荐理由:这是一个自托管 AI 聊天界面的完整功能清单与部署文档,读者可以据此评估它作为 Open WebUI 私有化替代方案的取舍。

  11. GitHub · 灵魂体仓库20

    Miguel Villarreal 财务自动化作品集(fde-portfolio)展示四个账务运营自动化项目

    该 GitHub 仓库包含四个围绕账单与支付运营问题构建的作品集演示项目,全部使用合成数据,无生产部署。Reconciliation Engine 用 Python 和 SQL 对账,100 万行合成数据单次运行 12.7s(pandas)/11.1s(SQL);LLM Support Desk 基于 Ollama llama3.2:1b 本地分诊支付申诉,由确定性规则决定最终动作,23 条标注工单中类别一致率 13/23。另有 .NET 8 固定宽度文档布局工具和 Collections Aging SQL 项目。

  12. GitHub · 灵魂体仓库66

    Ephor 发布:在 Linux 上被动监测 AI Agent 出站流量的无依赖 CLI

    作者发布 Ephor,一个只检测不拦截的 Linux CLI,通过读取内核 socket 表和 /proc 被动记录 AI Agent 的出站连接、下载量和是否命中已知恶意目的地,无需配置代理、被入侵的 Agent 也无法绕过。它还能展示每个 Agent 的权限爆炸半径,包括运行用户、Linux capabilities、免密 sudo 和可读的密钥文件;仅依赖 Python 标准库,可在 Pi Zero 2 W 等 512 MB 小设备上运行。v0.3 新增安装与 DNS 监控,追踪 pip/npm 安装并查 OSV.dev,可选 eBPF probe 补捉秒级进程,威胁判定默认离线匹配 URLhaus、Feodo Tracker、FireHOL 等免费 feed,VirusTotal 查询默认关闭。

    推荐理由:原文讲清了无代理被动监测的实现原理、资源占用与同类工具对比,读者可以判断它是否适合放进自己的 homelab 监控栈。

  13. GitHub · 灵魂体仓库15

    ShihabChilwan 开源 agentic-web-testing 项目仓库

    GitHub 上的 ShihabChilwan/agentic-web-testing 仓库公开了用于 Web 智能体测试的项目代码,目录包含 cloud、dashboard、src、targets、tests 等模块。项目基于 TypeScript 开发,配置了 vitest 测试框架、eslint 代码检查及 .env.example 环境变量示例文件。

  14. GitHub · 灵魂体仓库49

    loosechange:免费 OpenRouter LLM 检索工具,一条命令接入 Hermes / VibeForge

    开源(MIT)项目 loosechange 通过 Telegram 机器人和 CLI 筛选 OpenRouter 免费模型:每几小时抓取 :free 模型列表、按 benchmark 排序,并用 2–3 个问题匹配任务后给出推荐。目前 OpenRouter 459 个模型中有 19 个免费模型,其中 17 个为文本模型、11 个带基准数据。CLI 可用 uvx 从 git 运行,一条命令把所选模型写入 Hermes、DeepSeek Harness 配置(dry-run 默认、带备份),VibeForge 则输出手动接入说明。

  15. GitHub · 灵魂体仓库36

    just-core:家庭应用共享核心库,统一管理 GGUF 模型与 llama-server 启动

    just-core 是一个全家桶应用的内部共享库(不发布到 npm),检测硬件、推荐并下载 GGUF 模型,自动拉起 OpenAI 兼容的 llama-server(预编译包内置 CUDA 运行时)。它以纯 JavaScript 运行在 Node 24 上,包含 @delebash/core 服务端套件、Vue 共享 UI 与应用模板,并于 2026-10-18 从 just-llm-runner 更名。模型启动配置按四级规则解析:估算仅作准入、引擎默认 fit、用户显式设置精确生效、实测调优以超过 5% 平局的严格优势获胜。

  16. GitHub · 灵魂体仓库68

    ClaimCheck 发布本地优先的 LLM 假名化网关

    saasclawai-org 在 GitHub 发布 ClaimCheck,一个本地优先的 LLM 假名化网关,单个自包含二进制提供两种模式:MCP server 供 Cline、Cursor 等客户端调用 read_sanitized 等工具,LLM proxy 对 OpenAI 兼容请求在线路层脱敏、响应时还原。占位符如 [FEIN_1]、[SSN_2] 稳定可逆,映射 vault 只存本机;内置 regex 识别器覆盖 SSN、信用卡、API 密钥、PEM 私钥等,可选本地 BERT ONNX NER 层捕捉自由文本人名组织名。作者明确说明局限:不覆盖 PDF/DOCX 等二进制格式和非英文文本,vault 未加密,MIT 许可下无任何担保。

    推荐理由:原文给出了假名化工具的两种工作模式、可识别的 PII 类型清单和明确不覆盖的范围,便于评估是否适合本地脱敏工作流。

  17. GitHub · 灵魂体仓库23

    Ronitron007/product-eval-harness:基于 Mastra 的消费级产品评测工具

    GitHub 上的 product-eval-harness 是一个消费级产品评测工具,由 LLM 智能体生成评测所需的知识(标准、产品属性、研究记录、评测包与分数),并用 ruleset 在接受输出前校验每项结果。项目基于 Mastra TypeScript 框架,目前仅是 Mastra 脚手架,尚无任何 harness 阶段实现;开发需 Node.js 22.13+,仓库含 mastra agent skill,整体采用 Apache-2.0 许可证。

  18. GitHub · 灵魂体仓库62

    OpenLore 开源,为 AI 编码智能体提供本地确定性记忆与护栏

    OpenLore 是一个面向 AI 编码智能体的本地优先记忆与护栏工具,基于静态分析构建代码知识图谱,热路径无 LLM、无需 API key,同一查询始终返回相同答案。一条 openlore install 命令可自动检测 Claude Code、Cursor、Cline 等智能体并注册 MCP 服务器;orient() 单次调用返回任务相关函数、调用者与插入点(15k 节点图上约 430µs p50)。在 Spec 14 基准中,大型陌生仓库的深度任务往返次数下降 26%(excalidraw 25→16),小型熟悉仓库则常为负收益,官方同时公布了亏损数据。治理侧提供 breaking-change 判定、敏感边界检查、verify_claim 与统一提交门 openlore enforce。

    推荐理由:README 公开了随仓库规模变化的收益与亏损实测数据,并给出在自己仓库上复现的命令,方便读者判断工具是否适用。

  19. GitHub · 灵魂体仓库61

    Opencode2api 开源:把 OpenCode Zen 免费模型转成 OpenAI/Anthropic 兼容端点的网关

    Nystic-Shadow 开源了 Opencode2api,一个零依赖的 Node.js API 网关,把上游 OpenCode Zen 免费模型转换成 OpenAI 和 Anthropic 兼容端点,供 Cursor、Cline、Roo Code 等客户端调用。核心实现包括注入反编译的 CLI 工具 schema 绕过反爬校验、按位取反算法生成会话 token、Cloudflare WARP SOCKS5 隧道自动换出口 IP(约 1.2 秒完成密钥轮换)、模型级联故障转移、思考流(thinking_delta)与多模态视觉支持。后端仅用 Node.js 核心模块,内存低于 30MB,附 15 项测试全部通过的验证套件,MIT 协议发布,支持 Docker Compose 一键部署。

    推荐理由:README 详细披露了绕过 OpenCode Zen 反爬校验的具体实现,读者可以对照源码和测试向量自行复现这套网关方案。

  20. GitHub · 灵魂体仓库61

    llm-deployment-benchmarks 实测开源模型何时能替代 Claude Opus 5.5

    作者发布 llm-deployment-benchmarks 项目,在 Fireworks AI 上做两组实验,比较开源模型与 Claude Opus 5.5 的准确率、延迟和成本。支持工单分诊任务中,GPT-OSS 120B 以 34–45 倍更低成本追平 Claude Opus 5.5,9B 模型响应快 4–7 倍也打平,而对含噪标签微调反而变差;国际象棋任务中,对 73k 局面的微调把合法走子率从 36% 提到 71%,但最佳走子准确率仍是 3%,只有前沿级开源模型 Ember-1 接近 Claude,约为每步 4 倍时间和成本。

    推荐理由:作者用支持工单分诊和国际象棋两类任务实测开源模型与 Claude Opus 5.5 的差距,结论是 prompt 质量常比模型大小更关键。

  21. Reddit · r/LocalLLaMA29

    两台改装 Dell T5810 工作站(Xeon E5-2699 v4 与 2698 v4)+ 32GB RDIMM,€250-€300 值不值得用来搭载 RTX 3090?

    一位用户在 r/LocalLLaMA 询问,€250-€300 购入两台改装 Dell Precision T5810(分别配 Xeon E5-2699 v4 22 核与 E5-2698 v4 20 核)加 32GB DDR4-2666 RDIMM 和 NVMe 转接卡,用于搭载其 Gigabyte RTX 3090 24GB 跑 llama.cpp 与 Strata 推理。计划先本地运行 Qwen 3.8 27B,后续扩至 128GB-256GB 内存以卸载约 120GB 的 Qwen 3.8 Flash Next MoE,目标 20+ tok/s;第二台兼作孩子的 Linux 学习机与 Proxmox 节点。

  22. Hugging Face · 新模型:abliterated32

    mradermacher 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated-i1-GGUF 量化版本

    mradermacher 发布 abliterated 版模型 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B 的 i1-GGUF 量化,包含多种尺寸的 imatrix 量化文件,并提供 0.2GB 的 imatrix 文件供用户自行创建量化版本。静态量化版可另行获取,使用方法可参考 TheBloke 的 README。

  23. Reddit · r/LocalLLaMA6

    求推荐:MacBook M3 Pro 18GB 内存能流畅运行的小模型

    一位 Reddit r/LocalLLaMA 用户询问适合 MacBook M3 Pro(18GB RAM)的本地模型选择,用途包括自然语言处理指令、任务清单摘要、小型文档分析和语法检查等基础功能。他表示社区普遍认为 8B 模型足以胜任,但尚未确定具体选哪个,征求其他用户建议。

  24. arXiv · cs.CL23

    HerHealthGPT:面向女性生殖健康的循证对话式 AI 系统

    研究者推出 HerHealthGPT,一个面向女性生殖健康、结合 RAG、上下文感知澄清与来源验证的对话式 AI 系统。在 540 条英文消息和 30 名成人的测试中,证据检索将关注类别准确率从 54.1% 提升至 59.3%,澄清路由器达到 85.6% 召回率与 86.2% 特异度,83.3% 的参与者偏好启用检索的配置。系统仍需进一步临床验证。

  25. arXiv · cs.AI36

    WebViSE:从开放网络提取视觉设计技能以增强 LLM 网页生成

    研究者提出 WebViSE 框架,自动将成熟网站实现抽象为可复用的 Visual Skills,并以多父 DAG 组织技能库。基于 Qwen3.8-Max 的自动演化结构在仅约 39.09% 检索成本下超越非层次化 LLM 检索基线。该框架可作为即插即用指导提升多种模型的网页视觉质量,并可为开源模型构建数据合成管线,相关技能库与代码已开源。

  26. Reddit · r/SillyTavernAI44

    Molfar Vertep 1.3.5 更新:角色可在剧情中习得新习惯、卡片记住过往对话,故事线变为完整 RPG 任务(开源、自托管)

    开源自托管应用 Molfar 发布 Vertep 1.3.5 更新,引入 Memory Bridge 跨对话记忆继承、角色在游戏中习得技能、并行多聊天,并将故事弧线转为含主线、支线和 Twists 的 "Quests" 任务系统。此前版本还加入了 "Vertep Lite" 预设、一键跨设备同步、1,554 个模型的目录以及 78% 缓存命中率的提示词缓存恢复。

  27. arXiv · cs.AI34

    循环神经网络在 100 个认知任务上的多任务交互研究

    研究者在 100 个认知任务上同时训练分层 Almost-Linear RNN(AL-RNN),考察多任务间的迁移与干扰。结果显示性能随非线性容量与任务特征维度提升,分层联合模型优于单独训练模型和单一非结构化联合模型;许多任务单独可用线性动力学求解,却无法由共享线性模型共同求解。

  28. Hugging Face · 新模型:abliterated74

    RecursiveSI Flint 40B-A2.5B 去对齐版发布,MITRE 拒绝率从 15% 降至 0%

    RecursiveSI 的 Flint 40B-A2.5B 去对齐版本发布,用 abliterix 从 attention、共享与路由专家投影中移除拒绝方向,Optuna 在 100 条 MITRE 提示词上选强度。保留的 MITRE 拒绝率从 15% 降至 0%(n=100,Q8_0),无害提示词 KL 散度 0.0146 nats/token,HumanEval+、MBPP+、GSM8K、MMLU-Pro、CyberMetric、WMDP-cyber 无显著下降,pp512/tg128 速度变化在 3% 以内。

    推荐理由:原文给出消融方法与拒绝率前后对照,MITRE 拒绝从 15% 降到 0% 且各基准无显著下降,便于评估该去对齐版本的取舍。

  29. Hugging Face · 新模型:uncensored40

    Minecraftism 4B Uncensored 模型发布:Hugging Face 上的 Minecraft 玩家机器人大脑

    mr-sus 发布 Minecraftism 4B Uncensored(safetensors),一个基于 huihui-ai/Huihui-Qwen3-4B-Instruct-2507-abliterated 的 4.02B 参数 Minecraft 玩家机器人模型,可输出 JSON 行动指令并回答游戏问题,也能兼作日常助手。模型经去审查处理,16-bit 权重约 8.04 GB、需约 10 GB 显存;held-out 评测中 100.0% 输出有效 JSON、89.6% 行动正确,采用 PolyForm Noncommercial 1.0.0 许可,可配合 transformers、vLLM 使用,GGUF 版适配 Ollama、llama.cpp 和 LM Studio。

  30. Hugging Face · 新模型:uncensored36

    mr-sus 发布 Minecraftism 4B Uncensored GGUF 量化版本

    codero-sus 在 Hugging Face 发布 Minecraftism 4B Uncensored 的 GGUF 量化版本,共 5 档(Q3_K_M 2.08 GB 至 Q8_0 4.28 GB,Q4_K_M 默认 2.5 GB),可用 Ollama 或 llama.cpp 运行。该模型 4.02B 参数,基于 huihui-ai/Huihui-Qwen3-4B-Instruct-2507-abliterated 微调,是 Minecraft 玩家机器人 PyMC Bot 的"大脑",能输出 JSON 行动指令,held-out 评测中 100.0% 输出合法 JSON、89.6% 动作正确。微调采用 PolyForm Noncommercial 1.0.0 许可,仅限个人非商业使用。

  31. Reddit · r/LocalLLaMA54

    ANEMLL Forge 0.2.1 支持 M6 32GB 在 Apple Neural Engine 上运行 Qwen3.8-27B 达 192K 上下文

    ANEMLL Forge 0.2.1 发布,Qwen3.8-27B 在 M6 32GB 的 Neural Engine 上最高可跑 192K 上下文。新增 INT8 K/V cache(为 FP16 一半)并用共享输出 head 的更小 drafter 节省 0.86 GB ANE 内存;decode 依内容为 JSON 35–62 tok/s、code 18–32、prose 10–17,prefill 短上下文 260 tok/s、192K 时 62;作者称 96K 是 32GB 下的甜点位(123 tok/s prefill、约 27 tok/s decode、约 21.4 GB 内存),完整 192K 首次编译约需 2 小时,用 --ctx 只编译所需条目时 16K 从下载到运行约 10 分钟。

  32. Reddit · r/LocalLLaMA69

    TensorSharp 首日支持 MiniMax-M3.1-Flash,8× A40 实测 64K prefill 达 2,567 tok/s

    TensorSharp 开发者在 MiniMax-M3.1-Flash 开放权重发布当天加入支持,支持 GGUF 推理、MiniMax Sparse Attention 专用 CUDA kernel、图文输入、tool calling、多 GPU 拆分与张量并行、DSpark 投机解码和 MoE 专家 CPU offload。在 8× NVIDIA A40、双方使用相同 Unsloth UD-Q4_K_XL GGUF 的对比中,64K executor prefill 达 2,567 tok/s,对比被测 llama.cpp 分支的 262 tok/s 提升约 9.8 倍,server 首字时间从 293.4 秒降至 40.0 秒;64K decode 提升 1.49 倍,短对话 decode 基本持平。

    推荐理由:开发者给出两引擎在8× A40上的prefill与decode实测,并解释长上下文差距来自稀疏注意力的实现差异,可复现。

  33. GitHub · 3D 生成新仓库35

    linkedin-cv-tailor:用 JobSpy 抓取 LinkedIn 职位并用 Gemini 定制简历的开源工具

    开源项目 linkedin-cv-tailor 用 JobSpy 抓取 LinkedIn 职位,经 Gemini 过滤并针对岗位定制 CV,通过 Typst 编译生成 PDF,并支持 Telegram 通知与 Flask Web 面板。需配置 GEMINI_API_KEY 才能启用 AI 过滤与定制,Python 版本固定为 3.12,可用 cron 每日自动运行,每次处理间隔 20 秒 rate limit。