跳到正文
  1. Reddit · r/LocalLLaMA58

    多智能体对冲基金项目弃用向量数据库改用 SQLite BM25,并用 Rust 写出 3.6ns 风控哨兵

    开源多智能体对冲基金实验作者根据社区反馈重构架构,分享三类失败模式的修复经验:用带极性契约的 Factor Ontology Schema 预判指标方向后,投资委员会的极性幻觉降到 0%;反射记忆从 Embedding API 加向量数据库(200-450ms 往返)换成 SQLite FTS5 BM25(0.35ms),关键词检索在交易复盘场景更可靠;实时风控哨兵用 Rust 的 SoA 内存布局重写,单仓位止损评估 3.63ns,Python 到 Rust 的管道 IPC 往返 2.88μs。代码与基准已在 GitHub(lumina-ai-hedge-fund)开源。

    推荐理由:作者实测对比了向量数据库与 SQLite BM25 的检索延迟,并给出 Rust 哨兵的纳秒级基准数据,做法可直接迁移到多智能体系统。

  2. GitHub · 去对齐工具与仓库57

    ehartye/wiki-master:在 Obsidian 上原生实现 Karpathy LLM Wiki 模式的 Claude Code/Copilot CLI/Codex 插件

    ehartye 发布 wiki-master 插件,让 Claude Code、GitHub Copilot CLI 或 Codex 作为合成引擎,在 Obsidian 中增量编译并维护一个持久、密集互链的 markdown wiki。无 MCP server、无 daemon、无向量数据库,语义搜索基于本地 Ollama 嵌入的 chunk 级索引,约 1,800 页约 5,500 chunks,暴力余弦检索在个位数毫秒内完成。

    推荐理由:原文给出了完整的技能清单、vault 结构和检索规模数据,读者可以据此判断这套零向量数据库的 wiki 方案是否适配自己的工作流。

  3. GitHub · 灵魂体仓库76

    开源 QQ 本地大模型聊天机器人 qq-ollama-bot

    muguang1224 发布了用 Ollama 本地模型驱动的 QQ 聊天机器人项目 qq-ollama-bot,通过 NapCat 收发消息,不需要云端 API,支持 Windows / Linux / macOS。它用 qwen3.5-4b 聊天、qwen2.5vl:3b 看图,加 YOLO 做目标检测,具备情绪系统、长期记忆、人设进化、语音回复(edge-tts / GPT-SoVITS 声音克隆)、主动聊天和 QQ 空间发说说等功能;并用 Prompt 层加代码正则两层拦截,阻止模型编造「刚刷到视频」等假经历。README 附完整安装步骤、风控与账号安全提示,以及图片缩放实测,原图送模型需 46-200 秒,缩到 256px 后降到 4.4 秒。

    推荐理由:README 讲清了情绪系统、长期记忆和两层防编造的构造方法,还给出图片缩放和显存的实测数据,做法可迁移。

  4. GitHub · 3D 生成新仓库62

    开源 AI 长篇网文生成系统 ai-novel-generator 发布

    GitHub 开源项目 j77156057-art/ai-novel-generator 发布,把长篇网文写作拆成可工程化、可验证的流水线,含 FastAPI 后端与 Vue 3 前端。核心机制包括 16 维叙事档案与 21 个可机检文体特征的文风蒸馏三档、层级摘要树保证前情连续覆盖段 1..N、BM25 × 向量 RRF 混合检索、知识图谱 v3 生成前提醒防漂移;助理 agent 有 25 个工具,写操作仅 propose_action / propose_text_edit / propose_text_fix 三种提案,需人批准落库并留版本快照。项目含 1,300 项后端测试(8 项既有失败)和空白机 19 项自检全绿;基于 LLM 的知识图谱抽取等列为未完成边界。

    推荐理由:把长篇网文写作拆成可验证的流水线,覆盖不变量、知识图谱防漂移和提案闸门都有可复算做法,方法可迁移到其他长文本生成场景。

  5. GitHub · 去对齐工具与仓库65

    OpenNotebookLM 开源:自托管的 Google NotebookLM 替代品

    tom1030507 在 GitHub 发布 OpenNotebookLM,一个自托管的 Google NotebookLM 替代品,支持导入 PDF、Word、网页和 YouTube 字幕并基于来源给出带引用的回答。文档、嵌入向量与对话存于本地 SQLite,混合检索用 sqlite-vec 加 FTS5/BM25 并以 RRF 融合,支持 CJK 分词;LLM 可接 Claude、OpenAI 兼容 API 或本地 Ollama/llama.cpp/vLLM,未配置 provider 时返回 model_used 为 fallback 的抽取式回答。

    推荐理由:README写清了混合检索、嵌入模型内存占用实测和未配LLM时的抽取式回退,读者可据此判断这个自托管 NotebookLM 替代品的实际能力边界。

  6. GitHub · 去对齐工具与仓库72

    Tether 发布面向小上下文窗口的 LLM-Native 微型 Agent 框架

    作者发布 tether-sdk(GitHub igormcsouza/tether),一个默认零工具加载、面向小模型与小上下文窗口的 headless Agent 框架,通过单一 act(cmd, stdin) 命令通道、SQLite WAL 状态存储与 FTS5 BM25 检索、bwrap/unshare 内核沙箱和显式 done 终止门来降低 token 开销。在自主制作 YouTube Short 的基准中,同一 claude-sonnet-5-5 在 Tether 内消耗 5,318 tokens(48.7s),而 Claude Code CLI 消耗 211,355 tokens(97.4s);本地 8B 模型 gemma4:e4b 仅用 3,073 tokens(53.1s)。

    推荐理由:作者用同一 claude-sonnet-5-5 对比 Claude Code,同一模型 token 从 211,355 降到 5,318,且附了本地小模型实测与失败原因。

  1. GitHub · 去对齐工具与仓库62

    letspurify-ux/llm_agent:基于 Rust 的企业知识问答 LLM Agent 仓库

    GitHub 仓库 letspurify-ux/llm_agent 发布了一个企业内部知识问答 LLM Agent,后端用 Rust(axum)实现,基于 MnemoArc 问答模式运行时,支持语义搜索、知识文档读取、Oracle 查询、项目源码检索和 MCP 工具扩展。一个服务器对应一个角色,名称、角色指令和工具在设置页配置;管理库为 MariaDB,查询目标为 Oracle,LLM 兼容 OpenRouter / vLLM / Ollama 等 OpenAI 接口。对话上下文按 bundle 单位管理,超过 high_water(90%)从最旧 bundle 清理至 low_water(50%),查询结果按 step 编号保存,模型仅输出引用由前端填充表格与图表。

    推荐理由:仓库 README 详细交代了上下文清理水位、工具结果限额和 Oracle 例程绑定等实现细节,可按需查阅自建知识问答 Agent 的工程做法。

  2. GitHub · 去对齐工具与仓库64

    hongxin 开源 tim-harness:装进浏览器页面的随身大模型编程 Harness

    hongxin 在 GitHub 发布 tim-harness v0.4,一个纯浏览器端的大模型编程助手 Harness,打开页面填一次 OpenAI 兼容 API Key(DeepSeek / OpenAI / 本地 Ollama)即可使用,零后端零安装,密钥只存本机 IndexedDB。核心特性包括五层 Token 成本防线(前缀缓存实测省 84-90% 输入费用,DeepSeek 命中价 1/50)、目标驱动自动推进、18 个工具(文件读写、JS 沙箱、子代理派发、技能系统等)、四种可视化视图,以及平台无关 core 架构,已在纯 Node 通过 157 项冒烟断言并验证微信小程序 PoC。

    推荐理由:作者给出五层 Token 成本防线和实测省 84-90% 输入费用的数据,浏览器零后端架构对想本地跑编程智能体的人有参考价值。

  3. GitHub · 灵魂体仓库69

    relayline(ccx)开源:Claude Code 与 Codex 互为 lead 和 sub-agent 的委派工具

    GitHub 项目 relayline 发布 ccx 工具(v0.4,2026 年 10 月),让 Claude Code 与 Codex 互为主从智能体,支持共享记忆、按难度分工、验收检查和成本记账,仅依赖 Python 标准库,命令为 ccx。Gemini CLI 和 DeepSeek(经 Claude Code、Codex 或 DeepSeek Harness)及 Kimi、GLM、Qwen、OpenRouter 可作子智能体接入。

    推荐理由:把省钱的实测数据连同不利结果一起公开,读者可以据此判断多智能体委派在什么条件下才真的划算。

  4. GitHub · 灵魂体仓库61

    开源 Mac 语音助手 J.A.R.V.I.S 发布,基于 Claude Code 并支持本地模型

    ashwinsingh2007 在 GitHub 开源了受钢铁侠 JARVIS 启发的 Mac 语音助手 J.A.R.V.I.S,MIT 协议。说 wake up 后全程免手操作,大脑可选 Claude Code、Anthropic API、Gemini 或 Ollama 本地模型;长任务交给后台 worker FRIDAY(默认跑 Opus),期间可继续对话并查询进度。语音识别与默认 Kokoro 语音都在本机运行,能操作已登录的 Chrome、Claude Code 会话和 Mac 应用,支持长期记忆、晨报、定时例程和 Telegram 遥控;发送、删除、付款等操作前会复述任务并等待确认。

    推荐理由:作者完整公开了架构、安全边界和模型选择方案,想给 Mac 装一个语音 Agent 的人可以直接照着装起来试。

  5. GitHub · 去对齐工具与仓库58

    AIQSA:面向中小团队的自托管多模型 AI 工作区在 GitHub 开源

    insciqq 在 GitHub 发布 AIQSA,一个自托管 AI 工作区,可在私有工作区中统一使用 GPT、Claude、Gemini、DeepSeek、OpenRouter 或自有模型,使用自己的 API key。每个聊天可配独立 KVM 虚拟机运行代码和处理文件,记忆系统只从用户话语学习并记录事实主体与时间,可经 OAuth 接入 Claude Code 和 Codex;需 64 位 Linux、Docker 25.0+、2 核 8GB 内存和 50GB SSD,采用 AGPLv3 许可。

    推荐理由:README 给出了硬件要求、安装命令和记忆机制细节,团队可据此评估自托管多模型工作区的落地成本。

  6. GitHub · 灵魂体仓库72

    IdleJot 开源:让 AI Agent 以群友身份常驻 QQ 群

    ID-VerNe 开源 IdleJot 项目,把 AI Agent 常驻一个 QQ 群,被 @、引用或叫到名字才回复,其余时间潜水看聊。Agent 读上下文现场写回复而非关键词固定话术,人格来自可热切换的 Markdown 人格卡(自带 little_whale、dragon_girl 模板),群友画像与记忆存本地 SQLite,闲时自动提炼。项目经 MCP 接入 Agent,靠 NapCat(OneBot 11)收发消息,默认 mention_only 触发,支持原生引用、按花名 @ 人、追问窗口和守护保活,目前仅支持 Windows、只发文字。

    推荐理由:作者详细公开了常驻栈、群友记忆沉淀和人格卡模板的构造方式,想做群聊 Agent 的人可以照着整套架构自己搭。

  1. GitHub · 去对齐工具与仓库61

    meshkore 开源自托管语音优先个人 AI Agent Zaelar

    meshkore 在 GitHub 发布 Zaelar,一个自托管的语音优先个人 AI Agent,本地 LiveKit 语音链路由 FlashBrain 在一秒内应答,耗时任务交给基于 Claude Code CLI 的 Brain Worker 后台执行。记忆为单个本地 SQLite 文件(向量、FTS5、图与遗忘机制),每轮蒸馏并夜间整合;支持 Google、Telegram、WhatsApp、Spotify 等连接器,默认模型为 DeepSeek、OpenAI、Deepgram、Inworld 等,需 Python 3.11+ 和约 3 GB 磁盘,采用 Sustainable Use License 1.0,个人使用免费但不可商用。

    推荐理由:README 完整公开了双脑架构、SQLite 记忆方案、默认模型表和端口布局,想自托管语音 Agent 的读者可以直接照着部署。

  2. GitHub · 灵魂体仓库68

    nodal-agents 开源自托管多智能体平台

    Kwintspiracy 发布 nodal-agents,一个本地自托管的多智能体编排平台,两条命令安装,内嵌 Postgres,无需云依赖,每个智能体可配独立模型、技能、记忆和工具,支持 Telegram、Discord、Slack、WhatsApp 和仪表盘对话。所有凭据以 AES-256-GCM 加密存储,自带 token 预算、防失控守卫、智能体间委派、自学习技能和 ROOT 自扩展机制,支持 Anthropic、OpenAI、DeepSeek、MiniMax、Kimi 及 LM Studio、Ollama 本地模型。需 Node 24+ 与 npm 11.6+,目前为 1.0 前版本。

    推荐理由:本地自托管的多智能体编排平台,把人格、记忆、技能和模型选择全部落进 Postgres,想自建 Agent 团队的人可以参考它的架构取舍。

  3. GitHub · 灵魂体仓库64

    Grillcheese-AI 开源 CubbyLLM 架构并发布自研 450M 模型 base450m

    Grillcheese-AI 开源 CubbyLLM,一个八层架构项目,语言模型被刻意做成最小、可替换的一层,每句回答都是 VM 针对事实库执行的程序或带理由的拒绝,用构造而非判断保证诚实。项目同步发布自研 450M 混合模型 base450m(MinGRU + 窗口注意力,bbpe128k 分词器,约 4B token 预训练,经 Vulkan 运行于 grilly2),并给出算术步进(单次通过 5.5% 提升)、qFHRR n-gram 记忆、800 题验证管线 0.718 覆盖且精度 1.000、SimpleQA 与百科 OCR 等大量实测数字,每个数字对应 validation/logs 中的日志。

    推荐理由:原文给出可复现的验证实验与指标,把语言模型降为可替换一层、由 VM 仲裁每个回答的架构做法有可迁移的参考价值。

  1. GitHub · 去对齐工具与仓库66

    mu 编码智能体发布:用小型 judge 模型接管例行决策

    qybaihe 发布 mu,一个基于 pi 的编码智能体,把上下文管理、命令安全、完成判断等例行决策交给小型 judge 模型,在 agent 循环的 40 个决策点上作答,主模型专注写代码。默认 judge 为 TypeSafe 托管的 Jev,也可换成本地 Laya(322M 参数)或自家的 mude 1.0(2B 参数,基于 Qwen3.5-2B 微调,MIT 协议,含 MLX 8-bit 版);测试日志裁剪在最长失败日志上无损压缩 51% 字符,所有判定写入本地 ledger 可审计,支持 shadow 模式对比 judge。提供命令行与桌面应用,作者注明尚无与 pi、Claude Code 或 Codex 的端到端对比。

    推荐理由:原文给出了40个决策点的完整清单和测试日志裁剪的实测数据,读者可以据此评估这套judge架构的适用范围与局限。

  2. GitHub · 灵魂体仓库56

    开源自托管 AI Agent 平台 Chatter 发布,集成 Telegram 与桌面端控制

    NikitaCherepov 在 GitHub 开源了多平台 AI Agent 系统 Chatter(AGPL v3.0),Agent 跑在服务器上,通过 Telegram bot 与 Electron 桌面端连接同一账号,可一键分享给朋友或家人。系统包含 backend-api、desktop-app、Telegram bot、admin-panel、chatter-manager、webapp-notes 和可选 voice-service,各组件以 Docker Compose 编排;模型定价自动从 OpenRouter 拉取,内置 Pinecone 向量记忆、语音唤醒与 TTS、智能家居、邮件、网页浏览、多角色聊天和 Runbook 等功能,支持按用户设预算限额。

    推荐理由:原文完整给出了组件结构、安装命令与安全机制细节,读者可以直接评估这套自托管 AI Agent 平台是否值得自建。

  3. GitHub · 灵魂体仓库59

    本地个人 AI Agent 桌面应用 Bloks 3 发布,支持 Mac、Windows、Linux 和 iPhone

    Bloks 3 正式发布,这是一款运行在本机的个人 AI Agent 桌面应用,以聊天界面呈现,每个 Agent 底层是 Claude Code、Codex、Gemini CLI 等真实引擎会话或你持有密钥的任意 API。3.0 新增多工作区、Bloks Team 成员协作、按引擎和 Agent 的用量统计与月度限额、卡片化回答、多 Agent 房间协作、审批与规则引擎、可读可撤销的 Markdown 记忆、例程与 Watcher 等能力;数据全部以明文文件存于本机,无后端存储,iPhone 应用仅作为桌面端的远程窗口,配套 Apple Watch 审批。应用免费,源码以 FSL-1.1-MIT 许可公开于 https://github.com/hamedgitty/bloks ,Android 版即将推出。

    推荐理由:原文完整给出了 Bloks 3 的工作区、权限、花费限额与数据落盘结构,读者可以据此评估这套本地 Agent 方案是否值得自部署。

  1. GitHub · 去对齐工具与仓库59

    ContextCraft 开源:基于 AST 与 PageRank 的仓库上下文压缩工具

    作者在 GitHub 开源 ContextCraft,一个 AST 感知的仓库打包工具,用 Tree-sitter 解析代码、以 Personalized PageRank 评估文件架构重要性,并通过多选背包问题在 4 个 AST 保真层级(FULL/SKEL/SIGS/TREE)间分配 token 预算。在其自身仓库的基准中,4000 token 预算下公开 API 签名覆盖率达 70.9%,而朴素前缀截断仅 18.4%;支持 CLI、Python SDK 和 Web 界面,可输出 Markdown、Claude XML 或 JSON,采用 MIT 许可证。

    推荐理由:作者给出了与朴素截断在相同 token 预算下的公开 API 覆盖率对比数据,读者可以据此评估这种 AST 分级压缩是否值得替换现有打包工具。

  2. GitHub · 去对齐工具与仓库58

    Zen-harness 发布:基于 Qwen 3.6 35B-A3B 的本地个人 Agent 框架

    作者 AryThakar 发布 Zen-harness,一个通过 llama.cpp 运行 Qwen 3.6 35B-A3B 的本地个人 Agent 框架,可在自有 GPU(约 24 GB 显存)或 Kaggle 免费 T4 x2 上运行。主 Agent 调度网页研究、文档检索和数据分析三个助手,关键事实和数字由代码校验而非模型自证,含 664 项测试、Windows 免安装包,采用 PolyForm Noncommercial 1.0.0 许可,非商业免费。

    推荐理由:作者公开了完整架构文档、664 项测试和分阶段实测记录,可据此了解一个本地 Agent 系统如何用代码校验约束模型输出。