跳到正文
  1. Reddit · r/LocalLLaMA58

    多智能体对冲基金项目弃用向量数据库改用 SQLite BM25,并用 Rust 写出 3.6ns 风控哨兵

    开源多智能体对冲基金实验作者根据社区反馈重构架构,分享三类失败模式的修复经验:用带极性契约的 Factor Ontology Schema 预判指标方向后,投资委员会的极性幻觉降到 0%;反射记忆从 Embedding API 加向量数据库(200-450ms 往返)换成 SQLite FTS5 BM25(0.35ms),关键词检索在交易复盘场景更可靠;实时风控哨兵用 Rust 的 SoA 内存布局重写,单仓位止损评估 3.63ns,Python 到 Rust 的管道 IPC 往返 2.88μs。代码与基准已在 GitHub(lumina-ai-hedge-fund)开源。

    推荐理由:作者实测对比了向量数据库与 SQLite BM25 的检索延迟,并给出 Rust 哨兵的纳秒级基准数据,做法可直接迁移到多智能体系统。

  2. GitHub · 灵魂体仓库59

    Tekto 开源:让编码智能体在浏览器里写 CAD 应用的 AI-first 平台

    modellstadt 在 GitHub 开源 Tekto,一个 AI-first 的在线 CAD 实验平台,MIT 协议。用户向编码智能体描述设计想法即可在浏览器得到可交互的 3D/2D 应用,Sketch API 把单个函数变成带滑块的完整应用。平台为智能体协作做了专门设计:✎ Markup 把视口上的标记解析到触及的对象、世界坐标和源码行;npm run snap 用 headless Chrome 截图让智能体在声称完成前自查,页面报错时以退出码 1 失败;CLAUDE.md 是智能体手册,公共 API 仅一个入口 src/index.ts。

    推荐理由:这个 CAD 库为 AI 智能体设计了一套可验证的工作流,Markup 截图和 snap 自检机制是值得借鉴的人机协作方法。

  3. GitHub · 灵魂体仓库68

    OmOWright 发布:给 AI 智能体用的 Playwright 形态浏览器自动化库

    code-yeongyu 发布开源库 OmOWright,为 AI 智能体提供 Playwright 形态的浏览器自动化 API,设计思路来自 Jun 关于 Aside 浏览器智能体登顶 Online-Mind2Web 等榜单的文章。

    推荐理由:README 讲清了为何让模型沿用 Playwright 接口、如何压缩快照与处理滚动采集,方法可迁移到其他 GUI 智能体工程。

  4. GitHub · 去对齐工具与仓库64

    PromptScript 开源发布:一份 AI 规则源文件编译出 50 个编码工具的原生配置

    mrwogu 在 GitHub 发布开源编译器 PromptScript(MIT 协议),用 .prs 源文件统一定义指令、技能、agents、MCP 服务器、hooks 和策略,编译为 Claude Code 的 CLAUDE.md、GitHub Copilot、Cursor 等 50 个编码 agent 目标的原生文件。支持 @inherit/@use/@override 分层继承与确定性合并,内置 prs validate 安全扫描可解码 hex、Base64 等编码并检测提示词注入(PS005、PS012 等规则),远程依赖通过 promptscript.lock 固定以保证可复现构建,并提供 prs migrate 从现有 CLAUDE.md 等文件迁移。

    推荐理由:原文给出了编译流程、50 个目标平台和安全扫描的具体规则清单,读者可以评估能否用一份源文件替代多份易漂移的指令文件。

  5. GitHub · 去对齐工具与仓库59

    GreyWork 开源桌面端 AI 智能体工作台,集成 ACP 外部智能体与本地模型

    jean3690 在 GitHub 开源了 GreyWork,一个面向开发者的桌面优先 AI 智能体工作台,通过 Agent Client Protocol 接入外部编码智能体,并支持 OpenAI 兼容的本地模型流式接入。功能包括三级权限模型(只读/工作区/完全访问)与主机侧拦截、带文件预览和 Git 的授权工作区、基于 Cordis 微内核的插件/MCP/技能市场、cron 定时任务,以及微信、钉钉、飞书、Telegram、QQ、Discord、企业微信七个消息渠道。技术栈为 Electron 加无头 Rust 服务端(axum sidecar)与 Vue 3 渲染层,支持 zh-CN/en-US 双语界面,MIT 协议。项目地址:https://github.com/jean3690/GreyWork

    推荐理由:原文详细列出了权限模型、插件签名机制和双前端架构,开发者可据此评估这个多智能体工作台是否值得本地部署。

  6. GitHub · 去对齐工具与仓库58

    Personal Wiki Builder:基于 Karpathy llm-wiki 模式的访谈式个人 wiki 脚手架

    laurenceshan 发布 personal-wiki-builder,一个受 Karpathy llm-wiki 模式启发的非官方 setup skill,通过引导式访谈或 Quick Start 确认蓝图后再生成 wiki 仓库。它继承原始模式的三层结构(不可变 raw 源、LLM 维护的 Markdown wiki、约束 agent 的 schema),并扩展出三项设计:以 claim、principle、decision、question 为核心页面类型并区分事实、外部观点、用户判断与 AI 推理;将 AI 推断的判断标记为草稿、修改已确认判断需用户确认;默认私有仓库。

    推荐理由:把 Karpathy 的 llm-wiki 理念落成带访谈流程、蓝图确认和 schema 治理边界的可复用脚手架,强调判断演进与隐私默认私有。

  7. GitHub · 去对齐工具与仓库59

    OmniFree 开源:用各家免费额度拼出一个个人云

    GitHub 上的 OmniFree 项目把多家免费层资源整合成个人云,用故障转移路由聚合 Groq、Gemini、Mistral、OpenRouter 等免费 LLM API,并跨 R2、B2、GCS 等免费存储分散文件,还提供数据库、Pi-hole DNS 过滤和计算资源,通过暗色模式移动 PWA 管理。项目采用六边形架构,core/ 定义端口与智能路由,每个服务商是 plugins/ 下的适配器,配置集中在 config/providers.yaml。附带的免费额度核查表(2026-10-19 核对)记录了 Oracle A1 缩至 2 OCPU/12GB、Koyeb 被 Mistral 收购后取消免费层、Cerebras 改为 30 天 $5 试用、Gemini 限额两次下调等变化,并给出对应配置调整。

    推荐理由:仓库附有 2026-10 逐家核对的免费额度变化表,读者可据此了解各免费层现状与部署成本。

  8. GitHub · 灵魂体仓库72

    keyroll 开源:一键查找并轮换本机所有 AI 供应商 API key 副本

    Blackman99 发布 keyroll(https://github.com/Blackman99/keyroll),离线扫描本机 Claude Code、Codex、OpenCode、shell 配置、.env 及备份中的所有 API key 副本,并通过各 issuer 的免费只读端点检查 key 是否仍有效(ALIVE/REJECTED)。keyroll rotate 只需粘贴一次新 key 即可重写所有生效副本并清除遗留副本,keyroll ci 可列出 GitHub Actions 中疑似供应商 key 的 secret 名称;工具只显示指纹和密钥末四位,绝不读取或输出密钥值,单一 Go 静态二进制、无第三方依赖。

    推荐理由:作者完整公开了工具的扫描范围、检查与轮换流程和不读密钥值的安全设计,读者可以据此评估是否把它用于管理本机散落的 API key 副本。

  9. GitHub · 灵魂体仓库59

    OBEY-api-gateway:单二进制 OpenAI 兼容 AI 网关开源

    GitHub 上的 fdanobey/OBEY-api-gateway 是一个 OpenAI 兼容的 AI 网关,提供多供应商路由、自动故障转移、熔断器与限流冷却,支持 OpenAI、Ollama、AWS Bedrock、Groq、vLLM 等供应商,单个 Rust 二进制、无运行时依赖。特性包括两级响应缓存、prompt-cache 感知路由、Codex OAuth 登录与网页搜索桥接、guardrail 管线、Agent 循环检测、虚拟密钥管理、token 与工具定义压缩,可通过 Windows 安装包、Docker、Railway 或源码构建部署。

    推荐理由:单文件 Rust 网关把故障转移、限流冷却、缓存路由和虚拟密钥做进一个仓库,文档细到超时字段,适合自建多供应商路由时参考。

  10. GitHub · 灵魂体仓库76

    开源 QQ 本地大模型聊天机器人 qq-ollama-bot

    muguang1224 发布了用 Ollama 本地模型驱动的 QQ 聊天机器人项目 qq-ollama-bot,通过 NapCat 收发消息,不需要云端 API,支持 Windows / Linux / macOS。它用 qwen3.5-4b 聊天、qwen2.5vl:3b 看图,加 YOLO 做目标检测,具备情绪系统、长期记忆、人设进化、语音回复(edge-tts / GPT-SoVITS 声音克隆)、主动聊天和 QQ 空间发说说等功能;并用 Prompt 层加代码正则两层拦截,阻止模型编造「刚刷到视频」等假经历。README 附完整安装步骤、风控与账号安全提示,以及图片缩放实测,原图送模型需 46-200 秒,缩到 256px 后降到 4.4 秒。

    推荐理由:README 讲清了情绪系统、长期记忆和两层防编造的构造方法,还给出图片缩放和显存的实测数据,做法可迁移。

  11. GitHub · 灵魂体仓库59

    Ark 发布:面向 AI 编码智能体的代码理解引擎,通过 MCP 提供调用关系与影响分析

    magicdrive 发布 Ark,一个供 AI 编码智能体使用的代码理解引擎:它用 Tree-sitter 解析仓库、提取声明与引用并按各语言作用域规则消解,通过 MCP 提供 21 个工具,支持调用方/被调方查询、变更影响分析和按符号的 token 预算上下文。每个答案带 exact/strong/candidate 置信级别并统计未消解引用,模糊名返回声明列表而非默认选一个,名称不跨语言匹配。

    推荐理由:原文给出置信分级、按语言的解析边界和真实耗时数据,能帮助读者判断这类代码索引工具对 Agent 的实际边界。

  12. GitHub · 3D 生成新仓库62

    开源 AI 长篇网文生成系统 ai-novel-generator 发布

    GitHub 开源项目 j77156057-art/ai-novel-generator 发布,把长篇网文写作拆成可工程化、可验证的流水线,含 FastAPI 后端与 Vue 3 前端。核心机制包括 16 维叙事档案与 21 个可机检文体特征的文风蒸馏三档、层级摘要树保证前情连续覆盖段 1..N、BM25 × 向量 RRF 混合检索、知识图谱 v3 生成前提醒防漂移;助理 agent 有 25 个工具,写操作仅 propose_action / propose_text_edit / propose_text_fix 三种提案,需人批准落库并留版本快照。项目含 1,300 项后端测试(8 项既有失败)和空白机 19 项自检全绿;基于 LLM 的知识图谱抽取等列为未完成边界。

    推荐理由:把长篇网文写作拆成可验证的流水线,覆盖不变量、知识图谱防漂移和提案闸门都有可复算做法,方法可迁移到其他长文本生成场景。

  13. GitHub · 去对齐工具与仓库60

    Shivanim042003 开源 llm-inference 推理服务栈并实测对比 vLLM

    作者开源 llm-inference,一个面向可测量的 LLM 服务栈,包含从零实现的 continuous batching 引擎、OpenAI 兼容服务器、开环负载生成器和自动生成报告的实验集。在 T4 上对 Qwen/Qwen2.5-0.5B-Instruct 实测,continuous-32 达 6 req/s SLO 容量,为 vLLM(12 req/s)的 50%,静态 KV 槽位加 CUDA graphs 后升至 10 req/s 达 vLLM 下界 83%;附逐 token 正确性测试、精度(fp16/int8/nf4)对比与复现脚本,仓库 MIT 协议。

    推荐理由:作者自建推理服务栈并与 vLLM 同卡对比,给出 SLO、CUDA graphs 和前缀缓存的消融数据,可复现。

  14. GitHub · 去对齐工具与仓库62

    kanderson-ai-dev 开源 langgraph-multiagent-orchestrator 多租户多智能体报告编排服务

    开发者 kanderson-ai-dev 在 GitHub 发布基于 FastAPI 与 LangGraph 的多租户编排微服务:提交报告简报后由 LLM Supervisor 动态路由、通过 LangGraph Send() 并行分发任务,Writer 与 Reviewer 进行有界辩论直至过评,否则升级人工。

    推荐理由:仓库给出完整的多租户多智能体编排实现,附带预算门控、哈希链审计和离线可跑的评测门槛,适合直接复用改造。

  15. GitHub · 去对齐工具与仓库58

    Cuttlely 1.4.3 发布:开源可视化多智能体编排平台,主打精益上下文与发布前对照回放

    开源项目 Cuttlely(Apache-2.0)发布 1.4.3 版,提供拖拽式多智能体编排,由 Harness Prime 主智能体把问题拆分给各专家智能体,每个智能体只接收自身任务所需的上下文,并展示每次运行的 token 与耗时。新版本包含 PostgreSQL MCP 节点安全查询与 Allowed functions 列表、启动时干净重编译的 harness profiles 等改进。

    推荐理由:开源多智能体编排平台,原文给出 draft 对照回放、测试集门禁和按任务裁剪上下文的具体 token 对比,方法可直接复用。

  16. GitHub · 灵魂体仓库56

    peymanpro 开源 AI-Evaluation-Engineering V1.1 评测工程框架

    peymanpro 在 GitHub 发布 AI-Evaluation-Engineering V1.1,一个供 AI 系统做测量、对比与回归测试的中立于提供商的评测层。V1.1 新增带类型化的 Agent 轨迹回放与任务/步骤成功分离分析、对抗性安全回归用例、配对 bootstrap 置信区间的发布决策 compare(evaluate_release_candidate,含 Bonferroni 校正与 PASS/FAIL/INCONCLUSIVE/INVALID_EVIDENCE 四种判定)、方向感知回归门控、失败记录转回归套件的 JSONL 失败记忆,以及质量/成本与质量/延迟权衡前沿分析和可审计证据包。

    推荐理由:作者把评测当工程学科来设计,给出了配对 bootstrap、回归门控和失败记忆等可复用做法,对搭建 AI 评测体系有参考价值。

  17. GitHub · 灵魂体仓库60

    People of the Iliac Bay 更新:Daggerfall Unity 模组让 NPC 持久生活并接入本地 LLM 对话

    Daggerfall Unity 模组 People of the Iliac Bay 发布 10 月 26 日测试跟进更新,通过持久家庭、日常行程、有限卫兵和可选本地 LLM 对话让 NPC 生动起来。本次更新去除 NPC 物品栏创建时的重复世界拷贝,启动卡顿从 3,097ms 降至 8.92ms,核心测试 2121/2121 通过;对话需单独配置本地模型服务器,默认使用 Gemma + Breeze,项目仍为开发快照,尚无完整安装包。

    推荐理由:开发者给出启动卡顿从 3,097ms 降到 8.92ms 等实测数据和明确的未完成清单,读者可据此判断项目当前的真实完成度。

  18. GitHub · 灵魂体仓库63

    Peristyle 开源多智能体框架 harness,用 Postgres 做智能体记忆与隔离

    Peristyle 在 GitHub 发布了开源项目 harness,一个面向大语言模型的多智能体框架:每个智能体一个 Postgres schema 实现隔离,记忆以行存储并用 pgvector 向量相似度加 trigram 文本检索做混合召回。全部智能体由一个 Flask 进程和端口服务,浏览器聊天界面加 REST API 和移动 PWA,支持多智能体群聊(仅被 @ 提及的智能体回复)、回合中插话、上下文超限时整体丢弃最旧迭代并在系统提示中告知、每晚重读身份文件。智能体身份由 IDENTITY.md、SOUL.md 等 Markdown 文件构成,每回合开始时读取,改动无需重启即生效。安装只需克隆仓库加一个 config.yaml,附 MIT 许可证。

    推荐理由:原文把 Postgres schema 隔离、混合检索和截断降级等设计讲得具体,读者可以照着复现这套多智能体记忆架构。

  19. GitHub · prompt 工程新仓库67

    Live Character Guide v9.2.6:LLM 角色卡工程化构建指南开源

    GitHub 仓库 vudirvp-sketch/live-char-guide 发布 v9.2.6,是一份俄语的 LLM 角色卡工程化构建指南,兼容 SillyTavern,面向 12B–32B+ 本地模型。它主张角色卡问题是构造而非改提示词能解决的,流程为 SPINE 心理骨架、行为锚点、声音隔离、系统提示词到成品卡,共 10 部分 62 节、4 张完整示例卡,并含诊断排错和 15 种反模式拆解。技术栈为静态 HTML/CSS/原生 JS,MIT 许可,部署在 GitHub Pages。

    推荐理由:这份俄语指南把角色卡当作行为引擎来构造,从 SPINE 心理骨架到诊断排错给出完整流程,方法可迁移到其他 RP 前端。

  20. GitHub · 去对齐工具与仓库65

    OpenNotebookLM 开源:自托管的 Google NotebookLM 替代品

    tom1030507 在 GitHub 发布 OpenNotebookLM,一个自托管的 Google NotebookLM 替代品,支持导入 PDF、Word、网页和 YouTube 字幕并基于来源给出带引用的回答。文档、嵌入向量与对话存于本地 SQLite,混合检索用 sqlite-vec 加 FTS5/BM25 并以 RRF 融合,支持 CJK 分词;LLM 可接 Claude、OpenAI 兼容 API 或本地 Ollama/llama.cpp/vLLM,未配置 provider 时返回 model_used 为 fallback 的抽取式回答。

    推荐理由:README写清了混合检索、嵌入模型内存占用实测和未配LLM时的抽取式回退,读者可据此判断这个自托管 NotebookLM 替代品的实际能力边界。