跳到正文
10月23日周五
  2. arXiv · cs.CL39

    SOPO：用于片段级幻觉检测的苏格拉底引导策略优化

    研究者提出多轮 RL 框架 SOPO，通过教师模型在 rollout 中依据 ground truth 提供间接提示的苏格拉底反馈机制，缓解片段级幻觉检测中的奖励稀疏问题，并以 Turn-based Advantage Scaling 惩罚冗长偏置。SOPO (4B) 在 RAGTruth 上达到 SOTA，超过 GPT-5 等专有模型和标准 RL 基线，在四个域外基准上的平均分高于 GRPO，与 CAPO 互有胜负。1.7B 和 4B 模型及训练、评估代码已开源。

  3. Reddit · r/SillyTavernAI14

    别人说 Gemma 4 31B 时到底指哪个版本？

    一位拥有 4080 Super（16 GB VRAM）和 32 GB DDR5 内存的用户发帖询问：大家推荐 Gemma 4 31B 时具体指哪个模型。他在 HuggingFace 上找到 "google/gemma-4-31B-it"，但听说原版因审查机制不适合 ERP 用途，想知道该如何挑选合适的 Gemma 4 31B 版本。

  4. Reddit · r/SillyTavernAI10

    打算购买 NanoGPT：用户询问 PAYG 与订阅选择

    一位用户发帖询问购买 NanoGPT 的计划，在按用量付费（PAYG）和订阅之间犹豫。他此前用低价转售 API，输入价格 $0.06-$1.5/M，其中 opus 5.5 和 glm 5.3-abliterated 最贵，但回复质量差。因 OR 平台对其收取 10% 税费而将其排除。

  6. arXiv · cs.CL57

    SWE-Shift 基准发布：评估编码智能体在执行中环境变化下的表现

    论文提出 SWE-Shift，一个评估编码智能体在任务执行中途遭遇代码、依赖或需求变更时表现的基准，包含 120 个场景、12 类变更族，并在 9 个干预位置评测。17 个编码智能体系统的 Shifted 成绩均低于 Clean 基线，GPT-6 Astra 从 67.35% 降至 24.79%，配对成功率 20.34%；工具/会话变更与过期证据在所有系统上配对成功率为零。论文地址 https://arxiv.org/abs/2610.32196v1

    推荐理由：这个基准专门测任务执行中途环境被改动时的表现，17 个系统的成绩都下降，暴露了保留已有工作与刷新证据的短板。

  7. Reddit · r/LocalLLaMA30

    论文 PACE：线性注意力模型循环状态的 4-bit 周期性通道对齐量化

    论文提出 PACE，一种后置（post-hoc）4-bit 循环状态量化方法：它每隔若干 token 才做一次舍入并缓存中间 token，并按列共享量化 scale、对误差最大的 head 保留 8-bit。在 4B 到 35B 的四个混合模型上，混合 4/8-bit 的 PACE 以约三分之二的内存达到与 8-bit DAMP 相当的表现，全 4-bit 版本在同等内存下得分高于 Q-Mamba，并保持解码加速。

  8. arXiv · cs.CL45

    收集日期元数据可重定向大语言模型的时间性问答

    一项 arXiv 研究发现，仅更改语料的收集日期元数据即可改变五个开源 LLM 在时间性问答中的答案：在 595 个 Wikipedia 页面上，交换前后两天的提问日期使后向引用 exact match 下降 37.6-51.4 个百分点。七种提示词变体（包括明确忽略收集时间的指令）均无法消除该效应；加入思维链可将 Qwen3.5 的损失从 30.1 降至 11.1 个百分点。该诊断可将元数据影响与证据变化分离，为时间性 QA 输入提供实用审计方法。

  9. arXiv · cs.CL46

    视觉语言模型安全表征的深度依赖研究：逐层定位与双向拒绝控制

    arXiv 一项被 NeurIPS 2026 Workshop 接收的研究提出免训练的推理时框架，定位并操控冻结 VLM 中的安全敏感表征。在 Qwen3-VL-4B 上，早期视觉层经激活引导可实现 6%-96% 的不安全内容拒绝双向控制，深层则对引导不敏感；InternVL2.5-4B 呈现类似的深度依赖激活几何结构。

  10. arXiv · cs.CL31

    DIVA：让 LLM 学会"值得再问"的决策知情信息获取方法

    研究者提出 DIVA，一种免训练的 LLM 信息获取方法，让模型基于证据的决策价值决定何时查询、何时停止，避免为无法改变决策的"检查"付费。其变体 DIVA-U 进一步考虑 LLM 对证据影响概率估计的不确定性。在 4 个领域、20 个 LLM 上，DIVA-U 的 regret 低于所有 LLM 基线；在各检查可靠性已知的合成场景中，DIVA 将最佳基线的 regret 降低 75%。

  12. Hugging Face · 新模型：uncensored40

    m672/gemma-4-31b-it-uncensored-fp8 发布：FP8 块量化版 gemma-4-31B 无审查模型

    m672 发布 gemma-4-31B-it-uncensored-heretic 的 FP8 块量化版本，模型体积约 31.5 GB，较 BF16 的约 62 GB 减半。与 RedHatAI/gemma-4-31B-it-FP8-block 对比，GSM8k-Platinum 97.68%、MMLU-CoT 89.97%、MMLU-Pro 84.52%，性能差距在 -0.14 至 -0.73 之间。量化采用 llmcompressor 的 FP8_BLOCK 方案，输出 compressed-tensors 格式，可原生用于 vLLM，聊天模板默认 enable_thinking 为 true。

  13. Reddit · r/SillyTavernAI10

    SillyTavern 28k 世界书导致无回复，是信息量太大了吗？

    一位 SillyTavern 新手用户搭建了约 25 页、28k token 的世界书（Lorebook）来复刻一款游戏，但无论使用 GLM、Kimi 还是 Gemini 模型都收不到回复。其配置为 ff 5.2 preset、上下文开到最大、最大回复长度 300，尚不确定是服务器问题还是设置错误，向社区求助。

  15. Reddit · r/SillyTavernAI23

    DeepSeek V3.2 经 Chutes 接入 SillyTavern 持续生成空白回复，用户求助

    有用户反馈，在 Android 的 Termux 上通过 Chutes 在 SillyTavern 中使用 DeepSeek V3.2 时，近期随机出现空白回复，其他模型正常。日志显示模型已生成内容，但全部写入了 reasoning_content 字段而非 content，导致 SillyTavern 收到空回复。作者已尝试切换连接方式、调整采样参数和推理设置均无效，怀疑与约 60k tokens 的长对话、Chutes 端点或 SillyTavern 的响应处理有关。

  17. GitHub · 去对齐工具与仓库22

    posit-dev 开源 ai-lib：为 Posit Assistant 提供 LLM provider 基础设施

    posit-dev/ai-lib 是一个 npm-workspaces monorepo，为 Posit Assistant 提供平台无关的 LLM provider 基础设施，包含 ai-provider-bridge（插件注册表、模型客户端支持 14 家 provider）、ai-config 和 ai-credentials 三个包。ai-config 在读取 providers.json 时按 provider 块粒度容错，无效配置被跳过而不影响有效配置，程序化写入则保持严格；ai-provider-bridge 通过 v* 标签触发 GitHub Release 发布 tarball。

  18. GitHub · 去对齐工具与仓库47

    Ollama Model Checker：检查 HuggingFace 模型兼容性并一键部署到 Ollama 的 Web 应用

    开源 Web 应用 Ollama Model Checker 可检测 GPU VRAM、RAM 和 CPU 状态，输入任意 HuggingFace 模型 ID 即可分析兼容性并推荐合适的量化级别（Q2_K 至 Q8_0），还能计算支持 GQA 的 KV cache 需求、调整上下文长度。仅 GGUF 格式模型可一键部署到 Ollama，safetensors 仓库只显示大小与内存估算。应用支持 Docker 部署，要求 Python 3.8+ 和 Ollama 0.5.5 或更新版本，采用 MIT 许可证。

  19. GitHub · 去对齐工具与仓库35

    Simulator Controller 7.3.1.0 发布：面向模拟赛车的模块化控制与 AI 助手工具

    开源模拟赛车工具 Simulator Controller 发布 7.3.1.0 版，基于插件化框架可对接 Button Boxes 等外设控制 SimHub、SimFeedback 等模拟器组件。内置四位 AI 助手——Race Engineer、Race Strategist、Race Spotter 和 Driving Coach，分别负责进站与天气、比赛策略、周围车辆预警和驾驶指导。新版本修复了 LMU 与 RF2 聊天模式，更新了 LLM Runtime，并提升了 GPT-6 工具调用兼容性。

  20. GitHub · 去对齐工具与仓库34

    JARVIS：基于 Telegram 的 AI 管家与个人自动化智能体（telegram-ai-bot）

    开源项目 JARVIS（telegram-ai-bot）在 Telegram 上实现异步 AI 智能体，充当个人数字分身与执行管家。它采用 Telethon MTProto 与 aiogram 3.x 管理面板的双客户端架构，由 Google Gemini 2.5 Flash 驱动对话，并用 SQLite WAL 持久化联系人 CRM 记忆。高风险事项（转账、商务承诺等）会升级给所有者审批，并具备拟人打字延迟、防封限流与自愈 watchdog 守护进程。

  21. GitHub · 去对齐工具与仓库45

    aixell：自托管个人新闻 Feed 开源项目发布，可选接入 Hermes Agent 对话

    独立非官方项目 aixell 发布，这是一个自托管单用户 Web 应用，可从 RSS/Atom、YouTube、GitHub releases、Hacker News、Bluesky、X 等来源生成个性化新闻卡片 Feed，支持 PWA 安装与 Web push。服务端为纯 Node.js（无运行时依赖），要求 Node.js 22.5+，默认端口 8300；可选通过任何 OpenAI 兼容端点配置 LLM，并提供与开源 Hermes Agent 的流式对话。

  22. GitHub · 去对齐工具与仓库50

    super-router 开源：在 Mac 上把 Claude、ChatGPT、Grok 和 Cursor 组成协作 Agent 团队

    tyoung06 在 GitHub 发布 super-router，一个 macOS 本地路由工具，用 sr 命令或本地页面把任务分派给已订阅的 Claude、ChatGPT、Grok Bot 和 Cursor，并统一记录日志。核心机制包括：Jev 标注模型为每个任务命名技能并按技能表指定执行与复查 Agent、research-build/collab/versus/redteam/vote 等多 Agent 预设、sr split 拆分最多 4 片的大任务、按会话或项目存取本地记忆。工具不使用按 token 计费的 API key，而是复用用户已有订阅的命令行登录；依赖 Claude（必需）、Git 和 Python 3.14，仅在 macOS 测试，MIT 许可。

  23. GitHub · 去对齐工具与仓库53

    just-say-so：用 hooks 约束 Claude Code 输出文风并对抗注意力衰减的开源插件

    ifandelse 发布 just-say-so 插件，把改编自 ASD-STE100 简化技术英语标准的沟通规则注入 Claude Code，针对长会话中模型遗忘沟通方式的注意力衰减问题。插件通过 hooks 在会话开始、每 20 条提示或按 token 增长间隔重注入精简规则，压缩后也会重注入；用 Vale prose linter 检查模型写文件、聊天回复及经 gh 和 MCP 工具发布的文本，支持 warn/block 模式、pre-commit 与 CI 门禁、子代理规则注入和 /rules /remind /restate /allow 四个命令。当前仅提供 Claude Code 适配器，仓库处于实验性变动期，依赖 Node ≥18 与 vale 二进制。

  24. GitHub · 去对齐工具与仓库26

    Project Lenie：基于 LLM 的个人 AI 助手开源项目

    开源项目 Project Lenie 提供 LLM 驱动的数据收集、管理与搜索：可收集管理链接、将网页内容存入 PostgreSQL 并支持私有检索，还能转录 YouTube 视频便于查找片段。当前 Claude Code 通过 /lenie-obsidian-note 等技能经 REST API 读写 Lenie 数据库并直接写入 Obsidian vault；技术栈包括 Flask REST API、React SPA、PostgreSQL with pgvector 及 AWS serverless 部署。

  25. GitHub · 去对齐工具与仓库46

    itanaka66/AI-PMO-Platform：用 LLM 与工具联动自动执行 PMO 业务的平台

    开源项目 AI-PMO-Platform 将 PMO 业务知识编码为可执行模板，通过结合 LLM 调用与团队已有工具实现自动运行，仅靠 CLI 即可工作。全部功能免费，采用 GPL-3.0 许可证，允许商用、修改与再分发（须同样以 GPL-3.0 公开并附源码）；架构目标是带经营者/PM 审批环节的自主 PMO 循环，含 WBS 生成、风险预测、再计划与 Project Digital Twin 等模块。

  26. GitHub · 去对齐工具与仓库22

    ProfessorZhi/llmlab：面向 Dell GPU 工作站的单节点多用户 LLM 实验室管理后台

    ProfessorZhi/llmlab 是面向共享 Dell GPU 工作站的单节点、多 Linux 用户 LLM 实验室管理后台，让 Web 与 llmlab CLI 使用同一受信身份与 Gateway 调用事实，覆盖模型登记、共享、调用、计量、评测与审计。2026-10-20 开发基线为 DEV_READY，main 分支 GitHub Actions 已通过，本地测试含 Python 3977 项与 Node 558 项；但真实 PAM、Gateway、三用户端到端与生产部署仍为 NO-GO。正式源码仅此仓库，旧 llm-lab 与 llm-lab-portal 已归档。

  27. GitHub · 去对齐工具与仓库48

    Watch2Whoop：给 AI 用的自托管身体数据层，任何 AI 可通过 MCP 读写

    Watch2Whoop 是一个自托管脚手架，把手表数据、饮食、训练、化验、日记等结构化存在自己的服务器上，任何 AI（Claude、ChatGPT、Codex、Gemini、DeepSeek 等）都能通过 MCP 读写，数据留在用户手里、AI 可随时更换。项目目前处于 alpha 阶段，先支持 Apple Watch，需 Docker（Compose v2）和 python3 ≥ 3.9，本地可用 60 天合成数据运行；服务器端采用 AGPL-3.0，iOS app 和快捷指令采用 MIT。

  28. GitHub · 灵魂体仓库36

    telegram-ai-digest：每日两次用 LLM 汇总 Telegram 与网站的 AI 新闻开源机器人

    GitHub 开源项目 telegram-ai-digest 是一个每天两次从 Telegram 频道和网站收集 AI 新闻的机器人，可将重复消息合并为同一故事，用规则加 LLM 排序后以「新闻」「有用」两个板块发布到用户频道，各期之间不重复。技术栈为 Python 3.12、aiogram、Telethon、SQLite 等，默认用 DeepSeek，也支持任意 OpenAI 兼容 API，通过 Telegram 管理机器人配置源、提示词和发布计划，全部数据本地存储于 SQLite。

  29. GitHub · 灵魂体仓库30

    XiaoCheng991/LLM-gateway：手写 Java 实现的多 Provider 大模型 API 统一网关

    开发者 XiaoCheng991 在 GitHub 开源了 LLM-gateway，一个手写 Java（JDK 21+ / Spring Boot 4.x）实现的多 Provider 大模型 API 统一网关，解决多模型管理混乱、切换成本高和调用不可观测的问题。当前支持 Nvidia（deepseek-ai/deepseek-v4-flash）和 OpenRouter（owl-alpha）两个 Provider，非流式调用已可用、SSE 流式开发中，提供 OpenAI 兼容的 /api/chat/completions 端点、工厂模式路由、多轮对话、SQLite 会话持久化及 ReAct Agent 能力，模型映射配置在 yml 白名单中，换模型只改配置不改代码。

  30. GitHub · 灵魂体仓库41

    NoID Privacy Workstation 44：面向 AI 智能体工作流的隐私加固 Fedora 发行版

    GitHub 项目 NoID Privacy Workstation 发布，这是一个基于 Fedora 44 / GNOME 50 的隐私加固工作站 ISO，包含 41 个功能模块，覆盖内核、网络、身份、固件、服务和浏览器等加固基线，无项目遥测。系统为 AI 智能体工作流设计：VSCodium 预置隐私默认设置，Claude、Codex CLI 及 Gemini 全局指令路径按用户选择性安装，模型访问为 opt-in，本地推理支持 RamaLama / Ollama / LM Studio。蓝牙、定位、摄像头、麦克风默认关闭，提供 GPG 签名 ISO 供下载验证。

  31. GitHub · 灵魂体仓库23

    content-extraction-pipeline-video-stt-llm：用 Whisper 和 Groq Llama 3.3 70B 把烹饪视频转成结构化食谱的开源项目

    GitHub 开源项目 content-extraction-pipeline-video-stt-llm 将烹饪视频 URL 自动转为结构化 JSON 食谱。流程分四步：yt-dlp 和 FFmpeg 提取音频，OpenAI Whisper 转写并翻译为英文，Groq 的 Llama 3.3 70B 模型解析出菜名、食材、用量和步骤，FastAPI 通过 REST API 返回结果并生成食材购物搜索链接。项目以 MIT 协议开源，需配置 Groq API key，作者提醒提取结果需人工复核。

  32. GitHub · 灵魂体仓库15

    enhancing-llms：用高级微调技术提升 LLM 在 GLUE 与 SuperGLUE 上的性能

    GitHub 仓库 enhancing-llms 发布了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现代码，探索面向特定领域任务的新型微调方法。其方法在 GLUE 上取得 92.5%（较基线提升 8.3%），在 SuperGLUE 上取得 89.3%（提升 12.5%）。仓库含训练、评估脚本与实验配置，采用 MIT 许可证开源。

  33. GitHub · 灵魂体仓库60

    budget-rag v1.0.0 发布：成本感知的 RAG 检索框架

    GitHub 项目 mylgtab/budget-rag 发布 v1.0.0，实现成本感知的长文档问答检索，简单问题走 BM25 便宜路径，难题才升级混合检索加重排与大模型。在 200 条改写问句评测中，级联策略用 47% 的成本拿到深检索 99.5% 的召回；附录还给出分块粒度、双索引自动选择、两层缓存（LongBench 30 条冷缓存 46.6 秒降到热缓存 4.6 秒）与预算档位对比，完整实验记录与复现脚本见 docs/report.md 和 make check。

    推荐理由：作者公开了完整实验数据和复现脚本，还保留了负结果，想比较不同 RAG 检索策略成本与召回的读者可以直接参照。

  34. GitHub · 灵魂体仓库19

    llmcrimeprofilinghost 开源 LLM 犯罪侧写预测项目：基于 Court Listener 案例与 Claude 摘要的研究代码

    llm-crime-profiling 项目公开全部源代码与数据，测试 AI 在给定犯罪情景时对嫌疑人信息的预测能力。案例通过 Court Listener API 获取 2025-08-10 至 2026-08-09 间的法院判决书，随机抽取 600 个案例（后期筛至 165 个），并借助 Claude 对长短不一的判决书进行摘要。

  35. GitHub · 灵魂体仓库24

    llm-chat-app-template2：基于 Cloudflare Workers AI 的开箱即用聊天应用模板

    灵魂体仓库开源了 llm-chat-app-template2，一个由 Cloudflare Workers AI 驱动、可直接部署的 LLM 聊天应用模板。它使用 SSE 实现流式响应，支持自定义模型与系统提示词，可集成 AI Gateway，并内置 Observability 日志。模板基于 TypeScript 和 Cloudflare Workers 构建，提供适配移动端与桌面端的响应式界面，聊天历史保存在客户端。

  36. GitHub · 灵魂体仓库61

    supercarto 开源：把地理数据编译成 token 预算内的拓扑图供 AI 智能体直接推理

    supercarto 是面向 LLM 的空间中间件，把 GeoJSON 等地理数据编译成 token 预算内的拓扑 YAML 图，供 AI 智能体直接推理。官方示例中 272,993 字节（约 68,000 tokens）的文件在 1024 token 预算下压缩到约 890 tokens，缩小约 99%；所有被裁剪的要素按层记录在 omitted 字段中。工具内置无密钥天气、带诚实降级状态的交通与 GTFS 公交时刻、室内楼层图，通过 npm/pip、CLI、HTTP 和 MCP 提供，附带 supercarto-bench 基准（编译图 38/47、原始 GeoJSON 15/47、无地图 0/47），共 412 项测试通过，Apache-2.0 许可。

    推荐理由：README 给出了同一测试文件压缩前后的 token 数字和可复现命令，读者可以直接验证给 Agent 用的地图能省多少 token。

  37. GitHub · 灵魂体仓库52

    MemoryPilot v4.x 发布，本地 MCP 记忆服务器主打 LongMemEval-S 99.1% R@5

    Soflutionltd 发布 MemoryPilot，一个 Rust 编写的本地 MCP 记忆服务器，单二进制 35 MB、零 API 调用，为 AI 编码助手提供跨会话持久记忆。LongMemEval-S 470 题评测中默认快速模式 R@5 98.7%（约 28 ms），自适应 cross-encoder 模式 99.1%（约 900 ms），并附与 MemPalace、agentmemory、Mem0、Zep 等竞品的对比表。功能包括 BM25 + jina RRF 混合检索、时序知识图谱、GraphRAG、AAAK 压缩（5-10x token 节省）、自动分类与自压缩，支持 Cursor、Claude Code、Codex 等 IDE 的一键安装。

  39. arXiv · cs.CL57

    北海道大学医院发布院内封闭网络临床智能体平台 LLENS 并完成评估

    论文报道了在北海道大学医院封闭网络内部署的临床支持智能体平台 LLENS，使用 8 块 NVIDIA H200 GPU 与开放权重模型 Kimi K2.6（约 1 万亿参数），自 2026 年 9 月 14 日起在医院网络运行。Kimi K2.6 从 3 个候选中选出，在 2026 年日本医师执照考试模拟中得 480/500 分；在 180 道基于医院文档的问题上，交互式工具访问准确率 97.2%，高于固定检索的 81.3%（差距 15.9 个百分点，95% CI 10.9-21.3）。

    推荐理由：在医院封闭网络内部署开源大模型智能体的完整实测，对比了三种检索方式的准确率，方法可迁移到其他内网场景。

  40. arXiv · cs.CL17

    尼泊尔政治文本选举承诺挖掘：首个金标准数据集与模型比较研究

    研究者构建了首个尼泊尔政治文本金标准数据集（Cohen's kappa = 0.777），并用机器学习、深度学习和 LLM 自动提取与分析选举承诺。fastText-LSTM 深度学习模型表现最佳（accuracy 0.914、macro F1 0.913），LaBSE-LR 为最优机器学习模型（accuracy 0.897），三个受评 LLM 中 Qwen3-8B 在 few-shot 设置下取得 0.848 macro F1。成果已集成进移动应用，借助 GAI 可视化承诺以提升透明度与问责。