跳到正文
10月25日周日
  1. GitHub · 灵魂体仓库59

    Braid 开源多 LLM 智能体图编排库,支持并行任务与 Git worktree 隔离

    Epsirom 在 GitHub 开源了 Braid,一个把多个 LLM 智能体编排成图的 TypeScript/JavaScript 库:独立任务并行执行,输出按边传递给依赖任务,每个智能体拥有独立上下文。支持 decision 节点分支、固定上限的循环、运行中编辑与暂停,为编辑代码的智能体提供独立 Git worktree,并由显式 integrate 节点把结果写回工作区。可用作核心库(npm 包 @chrok/braid,需 Node.js 22+),也可作为 Pi(需 1.2.0)或 DeepSeek Harness(0.2.0-rc.2,DSH 支持自 Braid 0.3.1 起)的插件,带实时面板。0.5 API 为实验性,项目采用 MIT License。

  2. GitHub · 灵魂体仓库68

    Mnemochat 开源群聊机器人记忆系统:分层漏斗加艾宾浩斯衰减

    作者开源了 Mnemochat,让 API 驱动的 QQ 群聊机器人像人一样记住群友,采用 STM 到 Staging 到 LTM 的分层漏斗加艾宾浩斯衰减(R=exp(-Δt/S),每次召回 S×1.25 封顶一年)与 BM25/向量/实体图混合检索。项目只追加不物理删除,遗忘仅是检索权重衰减;单文件 SQLite 存储、零外部服务依赖,检索阶段零 LLM 调用,已接入 OneBot v11(NapCat/LLOneBot/Lagrange)并内置离线控制台模拟器,附 47 个离线测试。

    推荐理由:README 给出了从衰减公式到巩固与检索的完整实现细节,读者可以照此评估并复用这套群聊记忆方案。

  3. GitHub · 灵魂体仓库58

    开源工具 claude-crew 发布:用一个看板编排一组 Claude Code 智能体跑完 SDLC

    pranjal-joshi 发布 claude-crew v0.8.0,一个纯标准库 Python 工具,用看板调度多个 Claude Code 智能体按 SDLC 各阶段(planner、builder、tester、reviewer 等 9 个角色)协作。每个智能体在自己的 git worktree 分支工作,完成任务后生成决策单供人审批合并;支持工作流链、定时与事件触发、预算控制和 boss 聊天调度。无需额外依赖,克隆后 python server.py --demo 即可体验。

    推荐理由:单一 Python 文件即可编排多个 Claude Code 智能体分阶段协作,每个智能体用独立 git worktree 隔离,可直接克隆复现。

  4. GitHub · 灵魂体仓库34

    FreeLLMAPI Proxmox LXC 一行命令安装:统一免费 LLM 网关

    FreeLLMAPI 是一个统一免费 LLM 网关,聚合 34 个免费 Provider、635 个模型端点,月流量 7.4B tokens,提供 OpenAI 兼容的 /v1 端点,支持智能路由、Failover 和加密 Key。该 GitHub 仓库提供一行命令安装脚本,可在 Proxmox 无特权 LXC 中以 Node 22 原生运行(无 Docker),Web UI 与 API 监听 3001 端口,systemd 服务设置 Restart=always 且容器 onboot: 1。脚本幂等,重跑自动走 git pull 更新路径,支持 reboot 自启验证与 --debug 完整日志排错。

  5. GitHub · 灵魂体仓库54

    Ternair 发布,一条 pip install 运行 BitNet b1.58 模型并提供 OpenAI 兼容 API

    Ternair 是一个纯 Python/PyTorch 的三值权重推理实现,pip install 即可加载 microsoft/bitnet-b1.58-2B-4T 并启动 OpenAI 兼容 HTTP 服务,无需 C++ 构建。2B-4T 模型文件从约 5 GB 压缩到 1.1 GB(packed 存储 1.6 bits/value),CI 验证与 HuggingFace 参考实现输出一致性 Pearson 0.9958、top-1 一致率 85.7%;缺点是 CPU 推理速度约为 FP16 基线的 0.09×,WikiText-2 上 PPL 反而低于 FP16 基线(13.30 vs 23.37)。

  6. GitHub · 灵魂体仓库57

    开源编码智能体长期记忆工具 Mímir 发布 0.2.0

    mojoaar 在 GitHub 发布自托管编码智能体长期记忆工具 Mímir 0.2.0,单容器部署,通过 MCP 和 REST 存取记忆,按仓库路径作用域提供决策、约定与经验。记忆以路径树存储,每条含标题、摘要和正文,人类可读,不存不可检查的嵌入向量;提供七个 MCP 工具,支持关键词与语义混合搜索,学习用 DeepSeek 或 OpenCode 等自有模型,语义搜索默认可用 Ollama 的 nomic-embed-text(768 维)。尚未支持备份、MFA、审计页面、记忆浏览器、i18n 和导入已有仓库。

    推荐理由:自托管编码智能体长期记忆方案,路径树加人类可读存储,不依赖黑盒嵌入,给出了完整的部署与接入方法。

  7. GitHub · 灵魂体仓库48

    Hostwarden:为 AI 编码助手加上系统管理安全护栏的开源规则集

    Hostwarden 是一套规则,把 Claude Code、OpenCode 等终端 AI 助手变成谨慎的 sysadmin,支持 Linux、FreeBSD 和 macOS 目标,Windows Server 仅可经 SSH 报告。它逐条解释并等待用户批准每条 SSH 命令,备份配置、支持 dry-run,并对分区表、磁盘擦除、sshd 配置和关机等操作硬性封禁。每个服务器的信息存于独立的 git 记忆仓库 memory/,团队可通过私有 remote 共享;项目接续 Stefan Wintermeyer 的 Heinzel,在 GitHub 组织 hostwarden 下维护。

  8. GitHub · 灵魂体仓库26

    SwarmLLM-Bench:大语言模型驱动的多智能体协同控制仿真平台开源

    开源仿真平台 SwarmLLM-Bench 将 LLM 集成到 OODA 循环中,用于实时无人机蜂群协同控制。平台采用 FSM + LLM 混合架构和四层安全护栏防止幻觉,基于 Gymnasium 模拟空气动力学、电量与通信延迟。在对抗场景中,相比纯 FSM 基线,任务成功率从 0% 提升至 88%,无人机存活率达 97%,OODA 循环频次提升 27 倍。

  9. GitHub · 灵魂体仓库56

    llmf 0.5.1 发布:免密钥调用免费 LLM 端点的 Python 库与 CLI

    MoonLite-Br 发布 llmf(llmfree)0.5.1,一个仅依赖标准库的 Python 库和 CLI,可一行代码调用无需 API key 的 OpenAI 兼容公开端点,失败时自动在多提供商间回退。支持 fast/best/code/vision/reasoning 等模型别名、流式输出、OpenAI 形状接口、llmf serve 本地服务,以及 doctor 健康探测(约 24h 缓存);0.5.0 新增 ch-at、rewind-ai 提供商和仅手动指定的 nottrack。该项目 MIT 许可,README 提醒端点非官方免费、可能随时失效,勿发送敏感数据,桌面端和 Termux 均可运行。

    推荐理由:README 写清了多提供商回退机制、别名路由与 CLI 用法,读者可以直接pip装上试,也能了解免费端点不稳的风险提示。

  10. GitHub · 灵魂体仓库61

    Thermite 开源自动研究框架:让 AI Agent 循环跑实验,只保留经验证的结果

    开源项目 Thermite 让 AI Agent 在自有机器上以循环方式自动做代码实验,可运行数小时或数天,仅保留经过独立 judge 验证的改动。Agent 无法查看或修改 judge,judge 在同一硬件上计时并与当前最优版本对比,附带 12 个已知判定的作弊样例做验收测试;支持 Hill climb、Goal、Research 三种模式,提供仪表盘、REST API 与 MCP,目前正向 v0.1.0 首个公开版本开发,采用 MIT 许可。

    推荐理由:原文讲清了judge隔离与防作弊机制的设计原理,读者可以理解autoresearch如何在不信任Agent的前提下确认结果。

  11. GitHub · 灵魂体仓库37

    ContextCompressor:调用 OpenAI API 前压缩源代码与提示词的开源工具

    GitHub 开源项目 ContextCompressor 是一个纯客户端开发者工具,在请求 OpenAI API 前压缩源代码和提示词,去除注释、多余空白、空行和 console 日志等零价值内容——这类开销可占 gpt-4o 等模型 token 载荷的 20% 到 40%。它提供基于 gpt-4o、gpt-4o-mini、gpt-4-turbo 现行定价的实时 token 与费用节省分析,支持可配置的压缩规则,全部处理在本地完成,不向外部服务器传输代码或 API 载荷。

  12. GitHub · 灵魂体仓库41

    Legal Eye 希伯来语法律 RAG 公开评测仓库 legal-eye-eval 发布

    legal-eye-eval 是希伯来语法律 RAG 系统 Legal Eye 的公开质量评测仓库,其答案逐字引用真实以色列判例,不接外部 LLM,最新 50 题评测中幻觉引文率为 0%、5/5 超范围问题全部拒答。评测由 GitHub Actions 每周日自动重跑,但按 2026-10-24 起的 strict verdict 仅 24/50(48%)通过,未达到 85% 的发布门槛。语料仅覆盖以色列最高法院 2022 年快照共 751,194 份文档,冻结测试集上法律题通过率为 19/30。

  13. GitHub · 灵魂体仓库55

    Decidra:面向 vllm-sr/d3-turbo 的专用 CUDA 推理引擎

    juanqui 发布 Decidra,一个专为 26.1B 混合决策模型 vllm-sr/d3-turbo 打造的 CUDA 推理引擎,HTTP 服务与 CUDA 引擎在单个 Rust 进程内,运行路径无 Python、PyTorch 或 vLLM。状态编码一次后所有问题从缓存分叉,64 问基准比 vLLM-SR 快 2.4–5.2 倍,c8 下最高 5.2 倍吞吐;支持 RTX 4090、H100/H200、RTX PRO 6000,W4A8 视觉包需 24 GB 显存,MIT OR Apache-2.0 双许可,代码在 https://github.com/juanqui/decidra。

    推荐理由:原文给出了与 vLLM-SR 同硬件同检查点的完整对比矩阵和校验方法,读者可以按自己的 GPU 档位查找对应延迟与吞吐数据。

  14. GitHub · 灵魂体仓库40

    markitdown-pdf-ocr-pipeline:基于 MarkItDown 与视觉 LLM 的 PDF 幻灯片 OCR 转换管线

    GitHub 开源项目 markitdown-pdf-ocr-pipeline 是面向图片密集型大学课件和技术 PDF 的文档提取工具,结合 pdfminer.six 的稀疏文本页面检测、Microsoft MarkItDown 与视觉 LLM(Gemini / OpenAI / 本地 LM Studio)。管线分两步:先用 check_pages.py 通过 pdfminer.six 遍历每页 LTTextContainer 排版元素并标记文本稀疏的页面,再对标准文本提取器返回空结果的整页图表、扫描图进行视觉模型转换,输出 Markdown。

  15. GitHub · 灵魂体仓库14

    animae-search:基于 Next.js 与 Django 的动漫发现平台 Anime Index

    GitHub 开源项目 animae-search 打造了 Anime Index,一个面向生产环境的动漫发现平台,采用 Next.js 前端加 Django API 与 PostgreSQL(pgvector)、Redis、可选 Kafka 的容器化架构。平台支持趋势/本季/高分榜单、可分享搜索 URL、角色页面、区域观看可用性、个人片库与社区评分,目录数据来自 CC0 Wikidata 的 Wikimedia 适配器。目前 MVP 部署在 ap-south-1 的单台 EC2 上并由 Caddy 提供 HTTPS,标题对话助手默认使用免费额度的 gemini-3.5-flash-lite,可配置 OPENAI_API_KEY 作为备用。

  16. GitHub · 灵魂体仓库66

    phase 开源工具实测本地大模型每 token 能耗,拆分 prefill 与 decode

    GitHub 项目 phase 发布,可在本机直接测量本地 LLM 推理的每 token 能耗,分别报告 SoC 芯片功耗与 sys 整板 DC 输入,并扣除空闲基线,三平台后端均无需 sudo。首组数据在 Apple M5 Pro 24 GB 上测得:decode 每 token 能耗是 prefill 的 20 到 35 倍,仅计芯片封装会低估真实成本 2 倍以上。项目附 18 篇研究笔记,涵盖量化格式能耗、投机解码、批处理与长上下文等发现,Apache-2.0 许可,原始 JSON 在 results/ 目录。

    推荐理由:工具把 prefill 与 decode 能耗分开实测,并给出芯片级与整板级两组数据,解释了为什么各家边缘模型能耗数字对不上。

  17. GitHub · 灵魂体仓库57

    RagLeap Core 开源:自托管的文档驱动业务 AI 引擎

    RagLeap 开源了其自托管引擎 ragleap-core,以 46 个角色化 AI Employee 在 WhatsApp、Telegram、Discord 和语音电话上基于自有文档运行业务,MIT 协议、自带 API key、无厂商锁定。支持 off/semi/full 三档审批门控自主模式、无网络沙箱工具、Neo4j 知识图谱、混合检索、19 家 LLM 提供商或本地 Ollama,一条命令安装。作者同时明确列出未实测部分,如 Windows 安装器仅在一台机器上运行过、语音 Whisper/TTS 全链路尚未端到端实测。

    推荐理由:原文逐项标注了已验证与未实测的功能边界,还给出审批门控和沙箱设计,适合想自托管业务 Agent 的人参考取舍。

  18. Reddit · r/LocalLLaMA21

    适合边缘设备的最佳非编码本地模型讨论

    Reddit r/LocalLLaMA 用户询问兼顾速度与体积、适合手机(SD 8g3)等边缘设备的最佳通用非编码本地模型,要求 4GB 以内。其测试了 Gemma 4 e2b、e4b、qat、q4、Qwen 3.5 4B、Bonsai 8B A1B 等,发现均无法准确回答去年走红的 Spaghetti all'assassina 菜谱,默认输出标准 Bolognese 并缺少焦化步骤。

  19. Reddit · r/LocalLLaMA24

    Beam 1.0 501B A23B 发布 9 天后,LocalLLaMA 用户的使用体验如何?

    Reddit r/LocalLLaMA 用户分享了发布 9 天后测试 Beam 1.0(501B 参数、23B 激活)的体验:借助第三方 provider 运行速度很快,能轻松浏览大型代码库,在 Rust、PHP、Python 和 JS 上表现良好,回答简洁有度且会使用技能。缺点是偶尔循环、部分 toolcall 失败,3D 能力弱且无视觉功能。

  20. Reddit · r/CharacterAI10

    Character.AI 用户热议:swipe 次数限制与广告收入孰更能赚钱

    一位 Character.AI 用户发帖质疑 swipe 次数限制的商业逻辑:靠限制刺激 CAI+ 订阅的收入,是否高于取消限制、增加广告投放带来的收益。作者称 CAI+ 订阅收入确实高于广告收入,但两者相差不大,若用更有吸引力的功能替代 swipe 限制,订阅用户和使用时长增加,收入可能翻倍以上。作者表示自己不打算为此订阅,认为 swipe 限制不值得付费绕过。

  21. Reddit · r/LocalLLaMA65

    Lean-QwenFlash:Qwen3.8-Flash-Next(125B)在 16GB 显存加 8GB 内存下跑出约 20 tok/s

    /u/MaxDev0 将 sybil-solutions 的 GLM-5.3 低内存卸载方案移植到更轻量的 Qwen3.8-Flash-Next(125B),通过 NVMe SSD 直接卸载,在 16GB 显存加 8GB 系统内存的 RTX 4090 上实现约 20 tok/s 解码。8k 短上下文为 28–33 tok/s(散文)、19–22 tok/s(代码),prefill 约 1,080 tok/s;262k 满窗口下 20.0 tok/s 解码、约 1,627 tok/s prefill;RTX 3080 Laptop(16GB 显存、32GB 内存)100k 上下文约 18–21 tok/s,峰值显存 15.5GB。现有方案(如 Strata)需把 24k 专家全部驻留约 48–64GB 内存。

    推荐理由:作者把 GLM 的高效 NVMe 卸载方案移植到 Qwen3.8-Flash-Next,给出多档显存和上下文下的实测速度数据,可复现。

  22. Reddit · r/LocalLLaMA63

    零基础用户用 Claude Code 搭建 Strix Halo 本地 LLM 工作站,Qwen3.8-Flash-Next 180B 跑到 46-53 tok/s

    一位从未写过代码的 Reddit 用户在 r/LocalLLaMA 记录了用 Claude Code 兼任顾问、系统管理员和导师,七周内搭起一台约 3,450 美元的 Strix Halo 迷你主机(Ryzen AI Max+ 395,128 GB 统一内存,2 TB NVMe)的全过程。最终 Qwen3.8-Flash-Next 180B-A6B 写入 46-53 tok/s、prompt 处理约 771 tok/s,Qwen3.6-35B-A3B 达 76.5 tok/s,推理栈完全离线运行,夜间由编码 Agent 和浏览器 QA Agent 无人值守开发替代一款 40 年老程序的原型。

    推荐理由:零基础作者用 Claude Code 当系统管理员从零搭起本地推理机,给出完整硬件选型、内核坑和逐项优化前后数据,可迁移到类似自建场景。

  23. Hugging Face · 新模型:uncensored49

    Qwen3.8-27B-Uncensored 发布 MLX 5.0 bpw 混合精度量化版

    Hugging Face 上发布 orcarouter/Qwen3.8-27B-Uncensored 的 MLX 5.0 bpw 仿射量化版,体积 17.38 GB,比 bf16 小 3.2 倍,针对 M5 的 NAX 张量单元调优。模型保留 256 K 上下文、MTP 头与视觉塔,48 个注意力模块经 GPTQ 量化后中位数输出误差降低 32%。以 Apache-2.0 许可开源,需通过 oMLX 运行。

  24. Hugging Face · 新模型:abliterated25

    mradermacher 发布 Ornith1.0-9B-3MPER0RR-abliterated GGUF 量化模型

    Hugging Face 用户提供 mradermacher/Ornith1.0-9B-3MPER0RR-abliterated-GGUF 模型(Q4_K_S 量化版),可在 llama.cpp、Ollama、Docker Model Runner 等多种本地工具中运行。文档给出 macOS、Linux、Windows 各平台的安装与启动命令,支持通过 llama serve 启动 OpenAI 兼容本地服务器或直接在终端推理,还覆盖 LM Studio、Pi、Hermes Agent、OpenClaw 等客户端配置方法。

  25. GitHub · 3D 生成新仓库40

    emoji-studio:面向新 emoji 概念的开源模型后训练项目

    GitHub 开源项目 emoji-studio 探索用后训练生成新 emoji 概念,已完成 SDXL LoRA 试点训练和 72 组盲评,确定选用 step 25 checkpoint。单张 40 GB A100 负载测试中 18 个生成任务全部成功,吞吐 6.73 images/minute,p95 延迟 35.93 秒,总支出约 $1.49。两个模型都能渲染连贯物体但难以生成双手交互,机械物体如自行车仍是已知弱点,项目尚未训练交互 adapter。

  26. GitHub · 3D 生成新仓库63

    code-model-reliability 开源代码模型能力与可靠性统一度量框架

    szymonkobus 发布 code-model-reliability 仓库,用贝叶斯失败率-难度曲线在同一难度尺度上同时度量代码模型的能力(D50)和可靠性(D99)。发布的拟合覆盖 71 个 arm、1,297 个任务、85,604 个 cell 和 850 万次尝试;仓库含 cmr 命令行流水线、任务集、每次尝试的判定记录和完整重拟合脚本,代码 MIT、数据 CC BY 4.0。

    推荐理由:用同一难度尺度同时刻画模型能力 D50 和可靠性 D99,覆盖 71 个模型配置的可复现评测框架。

  27. GitHub · 3D 生成新仓库11

    GitHub 新仓库 avignk/nova-ai 上线

    GitHub 上出现新仓库 avignk/nova-ai。仓库包含 src、README.md、index.html、server.ts、vite.config.ts 等文件,使用 TypeScript 和 Vite 构建,目前 README 尚无内容。

  28. GitHub · 3D 生成新仓库23

    incubrix-growth-engine 开源增长引擎:面向创作者的多渠道获客自动化

    GitHub 新仓库 incubrix-growth-engine 是一个面向播客、YouTube 创作者的多渠道获客工具,自动完成线索发现、验证、评分和个性化外联草稿生成,覆盖 7 个英语市场,每周重跑且 0% 重复。它调用 YouTube Data API v3 与 Groq 上的 Llama-3 生成个性化内容,6000 条线索全程约 2-3 小时,生产成本约 $2.00,并支持 API key 轮换容错、SQLite 去重续跑和 Streamlit UI。LinkedIn 和 Instagram 消息仅排队供人工发送,符合 DPDP、GDPR 等合规要求。

  29. GitHub · 3D 生成新仓库26

    DEVDOC:AI 驱动的 DevOps 与 SRE 事故调查及修复平台开源

    DEVDOC 是一个 AI 驱动的 DevOps/SRE 事故调查与修复平台,提供自动化的证据驱动流水线:检测、调查、根因分析、生成修复建议、沙箱验证到人工审批。目前已实现 Phase 1–16.1,含可选的 Phase 17 沙箱验证(Docker 隔离网络与资源)与 Phase 18 仅限人工的审批和 append-only 审计;生产环境修复尚未实现。技术栈为 Python 3.13+、FastAPI、PostgreSQL 16 / Supabase(RLS),LLM 采用 NVIDIA Nemotron via Nebius,检索用 Tavily。

  30. GitHub · 3D 生成新仓库48

    modelscope-studio:手机端优先的魔搭 AI 生图应用(Vue 3 PWA + Android 离线壳)

    GitHub 新仓库 mmximxim/modelscope-studio 是一个手机端优先的 AI 生图应用,基于 Vue 3 PWA 前端加本地 Node 服务端,调用魔搭 API-Inference 实现文生图、图生图与对话模型。应用内置 12 个精选模型(2026-10 验证可用),支持 1:1 至 16:9 画幅、标准 1K / 高清 1.5K 清晰度,提示词助手基于 DeepSeek-V4.1-Flash 优化提示词。同一前端可作 PWA 使用或打包成 Android APK(minSdk 26,targetSdk 35)离线壳,令牌只存本机服务端,生成图片仅落盘本机不上传第三方。