跳到正文
10月24日周六
  1. GitHub · 灵魂体仓库50

    shaunakmahajan12 开源幻觉检测器:微调 ModernBERT-base 逐句判定 RAG 答案是否有据

    该仓库发布了一个面向 RAG 等有据生成的句子级幻觉检测器,输入来源材料与答案,逐句评分来源是否支持。模型为微调 ModernBERT-base(150M 参数),在 RAGTruth 测试集(18,965 句)F1 0.652、AUROC 0.916,远超 zero-shot NLI 基线(F1 0.197);域外 LLM-AggreFact 上 BAcc 66.1。经 Platt 校准后 ECE 从 0.043 降至 0.016,Docker API 在 CPU 上约 1.2 秒每句,摘要类任务是弱项(F1 0.446)。

  2. GitHub · 灵魂体仓库27

    DraftLoop:本地优先的求职者简历定制工具(alpha 阶段)

    GitHub 上的 DraftLoop 是一款 alpha 阶段的本地优先简历工具,将求职者自有素材转化为针对具体职位的 CV,主张独立 AI 评审加最终人工控制。其默认跨厂商组合以 Anthropic 为作者、OpenAI 为评审,v0.8 alpha 桌面包提供 Windows x64 等 ZIP 下载并附 SHA256SUMS 校验,尚未签名的 CLI 仅提供源码。项目还在同一仓库内开发托管版客户端-服务器架构(ADR 0011),并支持可选的本地嵌入模型(默认 311m 档约 313 MB)。

  3. GitHub · 灵魂体仓库11

    GitHub 灵魂体仓库 agent-conversations 上线智能体对话归档页面

    GitHub 上的 alpersonalwebsite/agent-conversations 灵魂体仓库以静态页面形式归档智能体对话内容。页面按日期组织,收录 2026-10-02 至 2026-10-23 的对话 HTML 文件,部分日期含多个分页(如 .p2、.p3、.p4),并配有 index.html 与 style.css。

  4. GitHub · 灵魂体仓库55

    AIIA v0.6.0 开源:给 Claude Code 与 Cursor 加双向持久记忆的本地中间层

    作者开源 AIIA(AI Information Architecture)v0.6.0,一个本地优先的双向记忆中间层,把你的决策、模式、故事和会话历史送进 Claude Code、Cursor 等工具的上下文,并通过 MCP 把工具的观察、决策和调试经验写回你的记录。底座包含 9 类带质量评分和衰减机制的类型化记忆、三级本地 LLM 栈(本地模型优先,Anthropic / Google 兜底)、后台任务、MCP server 和 aiia CLI,还有 Brain API(localhost:8100)与 Command Center(localhost:8200)两个界面及带人工审核的 Agent Studio。

    推荐理由:开源的记忆中间层,双向同步你的决策与 AI 工具的观察,给出的架构细节可直接用于搭建本地持久记忆。

  5. Reddit · r/LocalLLaMA32

    更新版通用 AGENTS.md:面向软件工程 Agent 的操作准则

    一位 r/LocalLLaMA 用户分享了更新版的全局 AGENTS.md,约占用 3K 上下文,用于纠正 LLM 的不良行为。该准则由通用 Agent 规则与早期输出风格组合而成,涵盖认知验证、先理解后动手、设计、构建、验证与文档沟通六大原则,供希望减少反复纠偏的用户作为起点使用。

  6. Reddit · r/LocalLLaMA44

    基于 Gemma 4 26B 搭建 5 个本地 AI 伴侣:3D 房间、日记、D&D,还能在 Discord 上发消息

    一位非程序员在 Reddit r/LocalLLaMA 展示了完全本地运行的 AI 伴侣应用:LM Studio 服务 Gemma 4 26B (QAT),单张 RTX 3070 Ti(8GB)+ 32GB 内存带动 5 个共享同一模型的伴侣。每个伴侣有 VRM 头像 3D 房间、自写日记、Kokoro TTS 语音、One Piece TCG 对局、D&D 5e 地下城,并可通过 REST 轮询主动在 Discord 发消息。作者发现同模型下 5 个伴侣人格差异明显,使用时长最多、写日记最多的一个依赖性最强。

  7. GitHub · 3D 生成新仓库22

    tradingbot:基于 PHP + MySQL 的自托管外汇信号 Telegram 机器人开源仓库

    开源仓库 iamsaisamhithreddy/tradingbot 提供一个基于 PHP + MySQL 的自托管外汇信号平台。它接收 TradingView 的 5 根 K 线形态警报,计算价格目标并通过 Telegram 向订阅者发送带图表的信号,随后按真实 5 分钟 K 线数据评定胜负。系统含 Telegram 机器人命令、管理面板、ESP32 数据采集、PDF 分析报告与经济日历等功能,/ai 命令可调用 Groq / Gemini / OpenAI / xAI 的 LLM。

  8. GitHub · 3D 生成新仓库40

    aegis-code:AI Agent 自主软件维护平台开源仓库

    GitHub 新仓库 aegis-code 是一个用 Rust 编写的 Agentic 代码维护平台,AI Agent 可摄取 Jira/CI/SonarQube 问题、定位根因、生成补丁并通过 Docker 沙箱验证后提交 PR 供人工审核。系统按 Light→Core→Expert 分层调用 Haiku 5.5、Sonnet 5.5 和 Opus 5.5,采用 4 断点提示词缓存实现 ≥70% 缓存命中率,成本超 $4 或 20 次调用即触发熔断。平台坚持 Human-in-the-loop 原则,Agent 永不自主合并,目标验收率 ≥40%、零回归。

  9. GitHub · 3D 生成新仓库34

    shurikai 开源 Role Model:用 Claude 从职业知识库生成可溯源简历

    GitHub 上的 Role Model 是一个用 Go 和 Postgres 构建的职业知识库工具,由 Claude 推理,可将结构化的职业记录生成针对目标职位定制的简历。系统采用两阶段 LLM pipeline:Stage 1 从 JD 提取结构化信号,Stage 2 分两次调用生成简历,每条 bullet 都通过 contribution_ids 字段记录来源,中间还设有纯 Go 实现的确定性 fit gate 评分。该工具默认单用户、可自托管,只需 Docker 和 Anthropic API key 即可运行。

  10. GitHub · 3D 生成新仓库38

    Model Depot 0.6.6 发布:本地图像生成模型管理工具

    开源工具 Model Depot 0.6.6 发布,提供 Windows 安装包,采用 GNU GPL 3.0 协议,支持中英文界面。它扫描本机的 Checkpoints、扩散模型、LoRA、VAE 等文件,通过 SHA-256 指纹在 civitai 识别模型并下载更新,为每个模型保存推荐设置卡片,ComfyUI 等程序可通过本地 HTTP API(/api/v1/)读取模型列表。所有数据存储在本地,要求 Windows 10/11、NVIDIA RTX 20 系列及以上显卡,约 9 GB 空间。

  11. Reddit · r/LocalLLaMA41

    ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 量化版本

    ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 智能量化版本,量化文件已上架 HuggingFace。目前 llama.cpp 尚不支持该模型,因其原始架构支持代码还未合并;模型卡提及 Strata 支持,但发帖者认为原版 Strata 只支持 Qwen3.8-Flash-Next,实际可能指 Xolotl 或 Maya 等 Strata 衍生分支。

  12. Hugging Face · 新模型:uncensored23

    GLM-5.2 FP8 Uncensored 的 Colibri int4 转换版发布

    Hugging Face 上发布了 zandenAI/GLM-5.2-FP8-Uncensored 的 Colibri int4 独立转换版,供 C 推理引擎 JustVugg/colibri 使用,该引擎将稠密部分保留在内存中并从本地存储流式读取 MoE 专家权重。转换采用行式 int4 量化(嵌入与 LM head 为 int8,norms 与路由权重为 FP32),非标准 Transformers/vLLM/GGUF 格式,须用 Colibri 加载,遵循 MIT 许可。

  13. Reddit · r/LocalLLaMA33

    LocalLLaMA 社区测试近期模型量化版本:DeepSeek-V4-Flash-Vision-Exp 与 Qwen3.8-Flash-Next 领跑初步 benchmark

    Reddit r/LocalLLaMA 用户 EmilPi 发布近期测试模型的量化版本初步 benchmark 结果,DeepSeek-V4-Flash-Vision-Exp(MXFP4)以 Delta score 2.86 居首,Qwen3.8-Flash-Next-Q4KXL-STRATA 得 2.38。测试覆盖智能体编程、推理、空间推理等任务,作者在 2xRTX3090+128GB RAM 上发现没有新模型超越数月前的 DeepSeek/Qwen 老模型,并意外发现 Qwen3.8-Flash-Next 加 Strata 无质量损失且更快。

  14. Reddit · r/SillyTavernAI60

    SillyTavern 分支 Kotatsu 0.8 发布 Android 版

    Kotatsu 0.8 发布,这个 SillyTavern 的分支首次推出 Android 应用,可用 .apk 在手机上完整运行。新版本带来 Natsumikan 默认主题、开启 sprites 后的视觉小说式点按翻页界面、重新设计的 Card Studio(可从一张图在自己 ComfyUI 上生成整套角色立绘),以及消息分叉后的故事线地图。API keys 和本地网络模型可直接使用,Kimi K3.1 Pro 开箱即用,Claude Code 和 ChatGPT 计划仍需电脑配对;作者表示下一步是新的记忆系统与总结器,且不打算加入跑团、骰子类功能。

    推荐理由:作者是项目维护者本人,逐项列出 Android 版、视觉小说界面和角色立绘生成等实际更新,还预告了下一步记忆系统计划。

  15. GitHub · 去对齐工具与仓库50

    Lens:Windows 划词英文解释工具开源发布

    kakuyo1 在 GitHub 开源了 Lens,一个 Windows 托盘划词工具,选中单词、名字或句子后用更简单的英文就地解释,默认不翻译,支持中英西日四种解释语言切换。内置本地 OCR(Ctrl+Alt+S 框选 PDF、图片或视频画面)、Known/New 生词表与 10 分钟到 60 天的间隔复习,可接入 DeepSeek、OpenAI、Gemini、OpenRouter、xAI、Moonshot、Zhipu、Qwen 或自定义 OpenAI 兼容端点,显示每次请求成本并支持每日预算上限;同步数据经口令加密存入用户自己的 GitHub gist,OCR 与约 168,000 词的词表在本地运行,MIT 协议,仅支持 Windows 10/11 x64。

  16. GitHub · 去对齐工具与仓库29

    HRAgents:面向一人 HR 部门的开源虚拟 HR 团队

    开源项目 HRAgents(Apache-2.0)为只有一名 HR 专员的团队提供五个智能体,覆盖招聘、薪酬等流程,采用「提取—评分—把关—沟通」管线:LLM(PydanticAI)只做结构化提取,确定性代码打分,重大决策须由真人签字。项目含 1287 项测试、CI 覆盖率 90%,支持 Docker 自托管、完全本地运行,尚无公开发布版。

  17. GitHub · 去对齐工具与仓库34

    automated-news:用 LLM 每日自动生成的西语科技新闻静态终端

    基于开源项目 automated-news,每天在 GitHub Pages 发布最多 20 条西语科技新闻摘要和热门仓库,默认使用 DeepSeek 的 deepseek-v4-flash 模型做筛选与撰写,也可切换为 claude-code。RSS、Hacker News 和 GitHub Trending 抓取去重后,由 LLM 仅做选择和撰写并经 JSON Schema 验证,每期以 JSON 存入仓库,通过 GitHub Actions 与 Eleventy 3 自动部署,无需服务器或数据库。

  18. GitHub · 去对齐工具与仓库22

    graceh77-ops 开源 ds919-LLM-matching 仓库

    GitHub 用户 graceh77-ops 发布了 ds919-LLM-matching 仓库,包含 docs、results、src 等目录及 READ_ME.md 和 requirements.txt。该仓库尚无简介描述,目前 0 star、0 fork,暂无发布版本。

  19. GitHub · 去对齐工具与仓库42

    ClawKeeper:面向中小企业的可审计财务 Agent 控制平面

    ClawKeeper 是一个面向中小企业财务 Agent 的控制平面,Agent 可提出应付、应收、对账和报表工作,由确定性策略引擎、PostgreSQL 行级安全、审批门和脱敏 append-only 审计日志决定哪些任务可执行。其架构为 1 个 CEO 编排器、9 个领域负责人和 100 个专业 worker 的三层 Agent 层级,高风险操作需审批元数据后才能通过策略检查。v2.0 提供可验证的 proof bundle,CI 在 PostgreSQL 15 上验证 RLS 边界并固定 Bun 1.3.11。

  20. GitHub · 去对齐工具与仓库38

    ChatBud:基于 Flutter 与 Firebase AI 的有状态多智能体工作区与 Grounded RAG 平台

    ChatBud 是一个基于 Flutter 与 Firebase AI 构建的生产级有状态多智能体消息工作区,采用 100% 免费 serverless 架构。其端侧 Grounded RAG 引擎接入 Frankfurter、Open-Meteo 等实时公开 API 并提供带时间戳验证的引用徽章,内置 16 个精选智能体的开源 Persona Hub、Exeter 学术智能体、双层向量记忆,支持 BYOK 在 gemini-2.5-flash、gemini-2.0-flash、gemini-1.5-pro、gemini-1.5-flash 间切换,提供免登录访客模式与桌面/移动响应式布局。

  21. GitHub · 去对齐工具与仓库61

    meshkore 开源自托管语音优先个人 AI Agent Zaelar

    meshkore 在 GitHub 发布 Zaelar,一个自托管的语音优先个人 AI Agent,本地 LiveKit 语音链路由 FlashBrain 在一秒内应答,耗时任务交给基于 Claude Code CLI 的 Brain Worker 后台执行。记忆为单个本地 SQLite 文件(向量、FTS5、图与遗忘机制),每轮蒸馏并夜间整合;支持 Google、Telegram、WhatsApp、Spotify 等连接器,默认模型为 DeepSeek、OpenAI、Deepgram、Inworld 等,需 Python 3.11+ 和约 3 GB 磁盘,采用 Sustainable Use License 1.0,个人使用免费但不可商用。

    推荐理由:README 完整公开了双脑架构、SQLite 记忆方案、默认模型表和端口布局,想自托管语音 Agent 的读者可以直接照着部署。

  22. GitHub · 去对齐工具与仓库48

    himani-2-git 开源 Prompt-Engineering-Tutor:基于 BM25 检索的提示词工程问答机器人

    GitHub 项目 Prompt-Engineering-Tutor 是一个基于课程笔记回答提示词工程问题的 RAG 聊天机器人,使用本地 BM25 检索并自动扩展缩写(如 CoT),配合 LLM 流式输出答案及可展开的来源引用。其支持多种答案风格、多供应商回退(Groq、Gemini、OpenRouter、Cerebras)、滑动窗口限流(默认每小时 300 次查询),并提供 Streamlit 界面与单元测试。

  23. GitHub · 去对齐工具与仓库15

    GitHub 开源项目 planetabhi/riseofmachine

    GitHub 上的开源仓库 planetabhi/riseofmachine,包含 ai-tool-radar 插件、.claude-plugin 配置、skills-lock.json 及基于 Astro 的 src 源码目录,附带 CONTRIBUTING.md 与 LICENSE.txt,采用 bun 管理依赖并以 vitest 做测试。仓库结构已公开,可按 LICENSE 条款使用与贡献。

  24. GitHub · 去对齐工具与仓库31

    JavisBot-Service 开源 javis-transparency 仓库,持续审计 javis.bot 中转的 Claude / GPT 模型真伪

    JavisBot-Service 发布 javis-transparency 仓库,基于已发表研究持续审计 javis.bot 中转是否真的提供所宣传的 Claude / GPT 模型,防止量化、降级或掉包。审计代码在 GitHub 机器上运行,每 6 小时执行一次,结果由 github-actions[bot] 提交,页面由 GitHub Pages 生成;用户可用 temperature=0 的 curl 探针自行复现。该审计属概率性一致性检测,不能提供密码学级证明。

  25. Reddit · r/LocalLLaMA55

    Berth 让已缓存模型 5.6 秒完成加载,首次磁盘加载需 13.7 秒

    作者 /u/Distinct-Pie2389 提交的 Berth 工具支持引擎把权重驻留到系统内存,ComfyUI、vLLM、SGLang 等支持 park 协议的引擎可从内存恢复而非从磁盘重载,仅在测得 RAM 覆盖引擎加余量时驻留,内存不足时优先停掉已驻留引擎。在 RTX 4090 加 64 GiB 内存的参考配置上,经 llama-swap 的单次对话请求(含 lease)从请求到回复:21 GB 对话模型文件已在 page cache 时 5.6 秒,ComfyUI 驻留 RAM 后切换不到 1 秒,ComfyUI 切到 27B 对话模型 13.6 至 16.3 秒;数据与方法见 Strata 的 Benchmarks Repo。

  26. GitHub · 去对齐工具与仓库54

    pstreet/mistral.rs 部署分支新增 AMD ROCm 支持并附性能对比

    pstreet 的 mistral.rs 部署分支在 upstream 的 CUDA/Metal/CPU 路径之外增加了 AMD ROCm(Strix Halo gfx1151)服务支持,支持 cpu、rocm、cuda 等多种构建形态组合。正文给出 v0.8.2 基准:Q8 prefill 在 GB10/B200/H100 上为 7395.7/27705.6/26220.6 TPS,高于 llama.cpp GGUF Q8_0 的 3973.7/11992.4/11702.1;BF16 decode 多数场景快于 vLLM。上游 mistral.rs 引擎本身支持 45+ 架构、ISQ/GGUF 量化、OpenAI 与 Anthropic 兼容 API、MCP 与内置 agentic 运行时。

  27. GitHub · 去对齐工具与仓库63

    TokenLedger 开源:跨平台 AI 工具 Token 消耗监控桌面应用

    Geidorf 开源了 TokenLedger,一款基于 Tauri 2 + React + Rust 的桌面应用,扫描 Claude、Codex、Grok CLI、Gemini CLI 等 20 余种本地 AI 工具的日志,将 Token 用量与预估费用汇总到本地 SQLite 看板。支持 Supabase 可选云同步与多设备聚合、Android 看板、缓存字段分列与自动价格发现,覆盖 macOS arm64、Windows x64 与 Android API 26+,以 MIT 许可证发布。

  28. GitHub · 灵魂体仓库58

    Local Quench 发布:在你已有的 GPU 上运行本地 LLM 的 AI 编码智能体

    Local Quench 发布,这是一款面向本地 LLM 的 AI 编码智能体,支持 LM Studio、llama.cpp、Ollama 和 vLLM,代码不出本机,提供 Windows、Linux 和 Android 版本。它针对本地模型常见失误(宣布步骤后停止、改测试直到通过等)设计了 harness 纠偏规则,且每条规则可单独关闭并测量;内置 QuenchBench 基准,还可通过 quenchbench.py 一条命令跑 SWE-bench Verified、Terminal-Bench 2.0、Aider Polyglot 等评测。8 GB VRAM 即可起步,应用自带模型顾问推荐适配显存的模型和量化方案。源码不开放,仓库提供发布包、issue 跟踪和基准脚本。

    推荐理由:为本地模型设计了针对常见失误的 harness 纠偏机制,且每条规则都可单独关闭并用 QuenchBench 实测,方法可迁移到自己的本地部署。

  29. GitHub · 灵魂体仓库45

    whetstone:面向 Apple Silicon 的 MLX 专属仓库维护 Agent(michaeldtimpe/whetstone)

    whetstone 是一个仅支持 MLX、运行在 Apple Silicon 上的仓库维护 Agent,可对任意仓库添加功能、修复 bug、更新文档或审查维护,并自动提交 PR,当前已发布 v1.8.0。BFCL n=1240 agent 评测中 irrelevance 达 100%(240/240,+9.58pp),总分 90.24%(+1.85pp);SWE-bench n=75 与 v1.7 基本持平。项目通过 SpecDD .sdd 契约链在写入时约束行为,要求 Python 3.11+、localhost:8000 的 oMLX 服务器和 ≥64 GB 统一内存。

  30. GitHub · 灵魂体仓库66

    skuld:按模型架构估算推理所需显存的 LLM 内存计算器

    michaeldtimpe 在 GitHub 开源了 LLM 内存计算器 skuld(在线版 skuld.zoleb.com),输入模型名即可估算推理所需的 VRAM 或统一内存。它按注意力类型和 MoE 拓扑分支计算 KV cache,而非套用单一公式,例如 DeepSeek 的 MLA 在 32k 上下文 BF16 下 KV 约 2 GiB,朴素计算会高估到约 107 GiB;另处理 GQA、MoE 总参/激活参数、Qwen 3.5/3.6 混合注意力和 Gemma 滑动窗口。

    推荐理由:作者解释了为何按注意力类型和 MoE 拓扑分支计算,并给出 MLA 场景下 2 GiB 对 107 GiB 的对照数据,方法可直接复用。

  31. GitHub · 灵魂体仓库47

    llm-structured-output:零框架依赖的 LLM 结构化输出工具

    GitHub 开源项目 llm-structured-output(LLM Output Helper)发布,提供不依赖任何框架的 structured_output() 函数,用定位、修复、校验三层兜底清洗 LLM 输出的 JSON,处理全角标点、聊天前缀和截断等脏数据,支持 ensure_keys 校验、max_retries 重试。v0.2.0 增加可选 Pydantic v2 完整约束校验。定位与修复模块改编自 Agently,按 Apache-2.0 发布,其余代码为 MIT。

  32. GitHub · 灵魂体仓库62

    Skirnir:面向 Ollama 的自托管 LLM 路由与 AI 网关开源

    psewar 在 GitHub 开源了 Skirnir,一个自托管的 LLM 路由器和 AI 网关,部署在多台 GPU 机器的 Ollama 之前,对外同时提供 Ollama API、OpenAI 兼容接口和 Anthropic Messages API(可接 Claude Code)。客户端按角色而非模型名请求,路由器根据 VRAM 占用、游戏检测、速度和错误率选择节点与上下文档位,支持 Wake-on-LAN、熔断、云兜底层级和共享 agent 记忆;auto 角色由本地决策链自动选角色,链路路由准确率 0.947。当前版本 router 0.1.6、agent 0.8.4,自 2026 年 9 月起在一个 homelab 持续运行,作者强调无稳定性保证。

  33. GitHub · 灵魂体仓库49

    研究发现:LLM 对心理健康帖子的分类更贴近专家而非自述标签

    针对 Kallstenius 等人原研究的 Matters Arising 评论发现,三名临床心理学家盲评了 Kaggle 心理健康语料的 103 条帖子,GPT-4o-mini 与专家共识的一致率为 61%,与原始自述标签仅 42%;SVM 复现结果相反(46% 和 57%)。这说明原研究中 TF-IDF+SVM(95%)优于 LLM(65%)的结论可能受标签质量影响。

  34. GitHub · 灵魂体仓库79

    PolyStrata 开源:在普通 PC 上本地运行十个大模型

    VecSzn 发布 PolyStrata,一个基于 Strata 的本地推理工具,在普通 PC 的显卡、内存和处理器之间分摊计算,可运行 Qwen3.8-Flash-Next、GLM 5.3 Flash、DeepSeek V4 Flash、LFM2.5、Flint、Qwen3.6-35B-A3B 等十个模型。Qwen3.8-Flash-Next 在 RTX 5070 上以 IQ3_S 量化写入 53 tokens/s,DeepSeek V4 Flash 91 GB 文件在 RTX 5090 工作站写入 56 tokens/s;在 8 GB 显存笔记本上,PolyStrata 读取提示词比 llama.cpp b11540 快 2.7 到 3.5 倍。

    推荐理由:仓库给出了各模型在不同量化档位下的读写速度实测,并与 llama.cpp 在同一台笔记本上做了直接对比。