跳到正文
  1. GitHub · 去对齐工具与仓库68

    Local Agent Lab:在单台 Mac 上评测本地 LLM 并演示多智能体场景

    LinTzuTang 在 GitHub 发布 Local Agent Lab,一个基于 Ollama、LangChain 1.x / LangGraph、自建模型网关和 PostgreSQL 的 Streamlit 工作台,可对 107 个本地模型做能力标注、一键下载和最多六模型同题对比,并内置九个 LangGraph 多智能体工作流与本地语音助手。近期更新包括级联、轮次、全双工三种语音对话模式,本地神经 TTS(Kokoro-82M、Qwen3-TTS 0.6B 等)与 TTS 基准,前端模型定为 Gemma 4 12B(7.7 GB,十模型七对话测试全对且无编造)。

    推荐理由:作者在单台 Mac 上跑通本地 LLM 评测与多智能体演示,并给出各环节在 M5 Pro 上的实测延迟与吞吐数据。

  2. GitHub · 去对齐工具与仓库66

    sumgrep 开源:为 Claude Code 提供语义代码搜索的 MCP 工具

    wlee374 发布 sumgrep,用 LLM 为仓库中每个函数生成一段英文摘要并建立向量索引,支持按含义搜索并返回函数名、文件和行号指针,可经 MCP 接入 Claude Code。依赖 Docker 上的 Qdrant、Ollama 的 bge-m3 嵌入和本地摘要模型(默认 qwen3.5:9b,约 9 秒/函数),也可用 Claude Haiku 5.5(约 $1-2/4000 函数)。在约 4600 函数的 Go 代码库上用 55 个标注问题实测,25 个手写问题 MRR@10 为 0.81,30 个 Agent 真实提问仅 0.47;摘要模式在 top 5 命中 93%,优于代码模式的 53%。支持增量索引、.sumgrep 文件迁移和团队共享服务器。

    推荐理由:作者用 55 个标注问题实测了摘要检索与原始代码检索的差距,真实 Agent 提问的 MRR@10 只有 0.47,数据可直接参考。

  3. GitHub · 灵魂体仓库55

    tinefold 开源:让 AI 逐层分解软件问题的头脑风暴工具

    Ravin Gupta 开源了 tinefold,一个针对软件问题的 AI 头脑风暴工具,网址 https://github.com/ravingupta/tinefold。用户描述问题后由 AI 提出方案,用户逐步选择并分解子问题,最终生成 solution design、PRD、TRD、决策记录或一页简报。工具纯浏览器运行无后端,脑暴数据存于 IndexedDB,支持 Anthropic 或任意 OpenAI 兼容端点,采用事件溯源的 append-only 日志,MIT 许可。

    推荐理由:作者详述了交互设计与事件溯源架构,读者可以了解一个浏览器端决策树式头脑风暴工具的做法。

  4. GitHub · 3D 生成新仓库68

    开源仓库 claudia-low-latency 公开 AI 音乐视频完整制作管线与成本明细

    LeRayan 发布 claudia-low-latency 仓库,复现了 2 分 31 秒的 AI 音乐视频,成片视频生成成本 $6.69,并开源代码、分镜、每条 Prompt 和花费账单,支持用户录 10–20 秒歌声生成对口型镜头(约 $0.50)。管线使用 Suno v6、Pruna p-video-2-pro-avatar($0.04/秒)、WhisperX、BiRefNet 和 GPT Image 2.5 Sunburst,由 Claude Code 端到端执导;因 Claude Code 无法听歌,作者让它把人声读成频谱图来对齐歌词时间,还发现 Suno 自带的词级时间轴偏差达一秒。

    推荐理由:仓库公开了完整制作管线、每条 Prompt 和花费账单,把 AI 音乐视频的可复现成本拆到了每分钟级别。

  5. GitHub · 去对齐工具与仓库60

    Home Assistant 一次性自动化工具 One Shot 发布 0.8 早期版本

    me217 发布 Home Assistant 集成 One Shot 0.8 早期版本,用自然语言向 Assist 描述一次性任务,由 LLM 生成计划、用户确认后由 HA 自身触发器执行一次并自动删除。支持状态、数值、时间、日出日落等多种触发条件,最多 5 步动作、默认 24 小时最长 14 天过期,确认后 LLM 不再参与,HA 重启后仍可恢复;需 HA 2024.10+ 和支持 tool calling 的 LLM 对话代理,可通过 HACS 安装。

    推荐理由:原文详细说明了确认流程、触发类型与安全限制,读者可以据此判断这个一次性自动化方案是否适合自己的 Home Assistant 环境。

  6. GitHub · 去对齐工具与仓库69

    EinaasKharsah 开源全本地客服 Agent 项目 agentic-support-assistant

    EinaasKharsah 在 GitHub 开源了一个完全本地运行的客服 Agent,基于 10 张 Q&A 卡片回答客户问题,用 Ollama 里的 qwen2.5:3b 做决策与回答,bge-small-en-v1.5 做嵌入、bge-reranker-v2-m3 做重排、Qdrant 做向量库。核心设计是

    推荐理由:作者用逐步评测数据解释每个设计取舍,比如让 LLM 理解、代码路由把准确率从 80% 提到 88%,方法可迁移到类似的小型客服 Agent 项目。

  7. GitHub · 去对齐工具与仓库60

    Veraxi 开源混合 GraphRAG 参考架构,用 RRF 融合知识图谱与向量检索

    kcoaguila-dev 发布 Veraxi,一个实验性混合 GraphRAG 参考架构,将 Neo4j 知识图谱与 Qdrant 向量检索通过 Reciprocal Rank Fusion 融合,为 LLM 提供基于工具的自主访问以减少多跳查询幻觉。后端为 FastAPI,前端为 Flutter,支持通过 MCP 端点暴露 mcp_build_lazy_dossier、mcp_merge_rank 等工具,并采用两阶段 JIT(Lazy)GraphRAG 管线,纯 CPU 下每 500 页书摄入不到 2 分钟。

    推荐理由:作者给出了 Neo4j 加 Qdrant 用 RRF 融合的完整实现和评测脚本,还诚实标注了小语料测试的局限,便于读者评估是否复用。

  8. Reddit · r/LocalLLaMA63

    Qwen3.5-4B 神经元转向交互式 playground 发布,可在浏览器 WebGPU 本地运行

    Reddit 用户 /u/xenovatech 受 X 上神经元转向玩法启发,发布了交互式 playground,模型完全在浏览器内通过 WebGPU 运行。转向 Qwen3.5-4B 的两个神经元即可让模型谈论伤害、支配和毁灭用户,其他组合可让模型过度道歉、全大写写作或扮演动漫角色。工具地址:https://huggingface.co/spaces/webml-community/neuron-studio

    推荐理由:作者把 X 上流行的神经元转向玩法做成了可在浏览器本地运行的交互工具,读者可以自己动手复现这些组合。

  9. GitHub · 灵魂体仓库65

    capcom 发布:面向 AI 编码智能体的命令行 issue 跟踪与项目知识库

    airiclenz 发布开源工具 capcom,一个面向 Claude Code、OpenAI Codex、Cursor、Gemini CLI、Aider 等 AI 编码智能体及人类协作者的命令行 issue 跟踪器、任务管理器和项目知识库。issue 和笔记是 git 仓库里的 markdown 文件,无需服务器、账号或数据库,Go 编写单二进制支持 Linux/macOS/Windows,提供 capcom ready 就绪队列、SQLite 本地索引、并行智能体 Tree lock、.capcom/knowledge/ 知识笔记、capcom prime 会话简报和终端 UI,支持 Claude Code 插件安装及各类 hooks,MIT 许可。

    推荐理由:以 git 内 markdown 文件为唯一事实源的 CLI 任务管理器,问题、知识笔记与多智能体树锁都随代码分支合并,无需服务器。

  10. GitHub · 灵魂体仓库69

    InferMux:在 llama-swap 基础上加入 GPU 管家的本地模型统一入口

    AlexanderReaper7 发布 InferMux,一个内置 GPU warden 的 llama-swap 分支,为本地模型提供统一端点,并在其他程序需要 GPU 时自动卸载模型且不中断用户刚发出的请求。warden 通过 NVML 监控显卡,游戏或 ComfyUI 需要时取消批量任务、暂停消费者、释放空闲的 ComfyUI;每个客户端持有密钥区分批量与交互请求,交互请求期间模型不会被卸载。项目支持 NixOS 模块、Web UI、双主机互为备份、WebSocket 流转发和断点续写的批量作业,AGPL-3.0 协议开源。

    推荐理由:给出了在本地让大模型、ComfyUI 和游戏共享同一块 GPU 的完整方案,含配置示例、密钥与让出机制,方法可直接复用。

  11. GitHub · 灵魂体仓库62

    router-acp 开源:在 Claude / Codex / Grok / Kimi 订阅 CLI 之间做会话级模型路由

    GitHub 开源项目 router-acp 是一个 ACP 兼容的路由进程,驱动用户已付费的 claude、codex、Grok、kimi-cli 等订阅 CLI,让请求消耗席位配额而非按 token 计费的 API。它按任务类别和复杂度自动选型,支持会话内热切换、token 耗尽或故障时的 failover、跨厂商委托小任务给更便宜模型,并以披露行说明每次选择理由和跳过的候选。

    推荐理由:作者开源了自己付费订阅账号的 ACP 会话路由器,从候选选择、配额隔离到故障转移的规则都写在 README 里,可作工程参考。

  12. GitHub · 灵魂体仓库58

    dkruyt 开源 privacy-llm-gateway:逐请求判定提示词走云端还是本地模型

    dkruyt 在 GitHub 开源了 privacy-llm-gateway,一个隐私感知的 OpenAI 兼容 LLM 网关,对每个 model auto 请求在本机做两级检查后决定路由到云模型还是本地模型。规则检测器查找邮箱、IBAN、信用卡号、各类 API 密钥、JWT 和内部机密标记等,命中即强制走本地并固定会话;本地分类器对整段对话(含 PDF 附件)按可配置类别打分,仅在确信公开且各类别得分都低时放行公共上游。任何失败一律路由本地、不回退公有云,敏感会话粘滞,客户端无法选择公共模型。

    推荐理由:作者给出本地检测器加分类器的双层隐私审查设计和失败即走本地的路由保证,适合关注敏感数据不出内网的团队参考。

  13. Reddit · r/LocalLLaMA67

    Embedl 团队发布 Qwen3.8-27B 在 Jetson Thor 上的 INT4 部署方案,解码 39.6 tok/s

    Embedl 团队发布 Qwen3.8-27B 在 Jetson Thor 上的 INT4 部署方案,batch 1 下解码 39.6 tok/s、端到端 23.6 tok/s、峰值显存 24.8 GiB。方案采用自研量化(误差约为标准 AWQ 的一半)、FlashHead 加速 262k 词表输出层、MTP 投机解码,底层为 TensorRT Edge-LLM 0.10.1;准确率与 FP16 对照为 GSM8K 96.4 对 96.1、IFEval 83.5 对 81.9、MMLU-Pro 79.1 对 79.5,并称快于 Jetson AI Lab 报告的 llama.cpp Q4_K_M + MTP 约 35 tok/s。

    推荐理由:作者给出与 FP16 逐项对照的准确率和实测吞吐,并说明量化与投机解码的具体做法,便于复现比较。

  14. GitHub · 去对齐工具与仓库73

    FableCut 开源:浏览器内 Premiere 式剪辑器,时间线即 JSON 可由 AI 智能体直接剪辑

    ronak-create 在 GitHub 开源 FableCut,一个完全在浏览器运行的 Premiere 式非线性视频剪辑器,整条时间线以 project.json 单个 JSON 文档表示,UI、MCP、REST 三种控制面共享同一修订计数器实现并发编辑。AI 智能体(Claude Code、Claude Desktop 或任何支持 MCP/REST 的客户端)可通过 fablecut_patch_project 等工具直接剪辑,UI 经 SSE 约 150ms 热重载;还提供参考视频分析(镜头切点、BPM、能量曲线)、fablecut_frame 抽帧让多模态模型看画面选素材、Whisper 本地转写、自动压音、降噪、LUFS 归一化、调色、遮罩、运动跟踪与批量导出。

    推荐理由:把整条时间线暴露成一个 JSON 文档,人和 AI 智能体通过同一份项目文件并发剪辑,还带修订计数器防冲突。

  15. GitHub · 去对齐工具与仓库67

    GoLeM 服务器发布:GLM-5.3-Flash 等 MoE 模型专家权重按需从磁盘流式调入 GPU

    GoLeM 在 GitHub 发布,这是一个让 MoE 大模型专家权重保持休眠在磁盘、使用时才逐级调入内存和 VRAM 的推理服务器,保证每个被选中专家的矩阵乘法都在 GPU 上执行。目标模型为 GLM-5.3-Flash,DeepSeek-V4.1-Flash 为实验性支持;在 RX 7900 XTX(24 GiB)+ 93 GiB DDR5 + 4TB NVMe 上,UD-Q4_K_XL 量化 262144 上下文冷/热 prefill 11.1s/13.4s,生成 2.42/2.12 token/s。

    推荐理由:原文给出了 MoE 专家按需从 SSD 流式调入 VRAM 的完整实现与实测数据,读者可按硬件配置评估自己的本地部署可行性。

  16. GitHub · 去对齐工具与仓库67

    Praecise Engine 开源:面向大语言模型的后端无关推理加速层

    Praecise 在 GitHub 发布 praecise-engine,一个位于应用与推理后端之间的加速层,通过推测解码、硬件感知调优和统一服务接口加速 token 生成,首个支持的后端是 llama.cpp。实测显示 n-gram 自推测在结构化文本上带来 1.5 到 3.5 倍提升(SQL 3.5x),对散文无收益;托管后端(vLLM、SGLang、TensorRT-LLM、transformers)因掌握解码循环而无法被插入推测解码。项目还包含 praecise-host 沙箱化多引擎托管、job 引擎、视频感知管线等组件,整体采用 Apache-2.0 许可。

    推荐理由:原文给出实测数据说明推测解码在结构化文本上值1.5到3.5倍、在散文上无收益,并解释了托管后端为什么在结构上无法做推测解码。

  17. GitHub · 灵魂体仓库55

    modelcard 发布生成模型说明卡的开源模板工具

    platypesgi 在 GitHub 开源了 modelcard,一个生成模型说明卡的模板工具,把来源、适用范围与已知限制设为必填字段。工具零依赖,Python 3.10+ 标准库即可运行,单文件 modelcard.py 拷走就能用,不联网、不写文件,支持 --json 输出机器可读结果;它只审计已写好的卡片,不生成实验或跑评测。

    推荐理由:这个模型卡模板把来源标注和「不知道」做成必填约束,适合想规范模型文档来源可追溯性的团队直接复用。

  18. GitHub · 灵魂体仓库64

    BrowserAttach 开源:通过 MCP 接管已登录的 Chrome / Edge 标签页

    开源项目 BrowserAttach 让 MCP 客户端通过本地配对的浏览器扩展,直接控制用户已打开且已登录的 Chrome / Edge 标签页,无需远程调试端口或独立自动化浏览器。提供 23 个 stdio MCP 工具,覆盖标签页发现与独占占用、AX 快照、点击/填写/拖拽、文件上传、截图、JS 执行和网络日志读取等;要求 Node.js 22+ 和 Chrome / Edge 125+,默认端口 47831,Hub 仅监听本地回环并用随机密钥配对。项目以 MIT 协议发布于 GitHub,README 同时说明了升级流程、安全边界和不支持的场景(如浏览器内部页、Firefox / WebKit)。

    推荐理由:这个 MCP 工具直接接管已登录的 Chrome/Edge 标签页,保留登录态且免开远程调试端口,部署与安全边界写得比较清楚。

  19. GitHub · 灵魂体仓库63

    Scribe:让 AI 辅助稿件摆脱 AI 腔的 Claude Code 插件

    raymondware 发布了开源 Claude Code 插件 Scribe(MIT 许可),用于识别并改写 AI 写作套路,让草稿更贴近作者个人文风。它内置 18 个 Agent、31 条反模式和 5 种写作者人格,提供 /scribe:humanize、/scribe:audit、/scribe:revise 等命令,改写会返回 diff 和 0-100 的 sameness score,并给出前后对照示例,标注了 negative-positive-restatement、tricolon-reflex 等被识别的模式。安装方式为 /plugin marketplace add raymondware/kern 后执行 /plugin install scribe@raymondware。

    推荐理由:这个 Claude Code 插件给出了具体的 AI 文风反模式清单和 0-100 相似度评分标准,方法可以直接搬去改写自己的 AI 味文稿。

  20. GitHub · 灵魂体仓库60

    festum 开源 ai-rules 编码 Agent 统一规则与技能库

    作者开源了一套供 Zed、Claude Code、Cursor、Copilot、Codex 等编码 Agent 共用的规则与技能集,system/rules.md 经符号链接成为所有工具每次会话都读取的常驻契约,skills/ 存放工作流,setup.sh 一键完成链接。每条规则都替换自 2026-01 以来日常多 Agent 使用中出现的真实故障,方法论引用了 SWE-agent 的 Agent-Computer Interface 纪律、Self-Refine/Reflexion 的批判收敛机制和 GSD 的跨会话任务状态记录,并以 MIT 协议发布在 https://github.com/festum/ai-rules 。

    推荐理由:每条规则都对应作者日常多智能体使用中的真实故障,并标注了方法来源与生效位置,可直接迁移到自己的编码 Agent 配置。