跳到正文
10月23日周五
  1. GitHub · 灵魂体仓库30

    XiaoCheng991/LLM-gateway:手写 Java 实现的多 Provider 大模型 API 统一网关

    开发者 XiaoCheng991 在 GitHub 开源了 LLM-gateway,一个手写 Java(JDK 21+ / Spring Boot 4.x)实现的多 Provider 大模型 API 统一网关,解决多模型管理混乱、切换成本高和调用不可观测的问题。当前支持 Nvidia(deepseek-ai/deepseek-v4-flash)和 OpenRouter(owl-alpha)两个 Provider,非流式调用已可用、SSE 流式开发中,提供 OpenAI 兼容的 /api/chat/completions 端点、工厂模式路由、多轮对话、SQLite 会话持久化及 ReAct Agent 能力,模型映射配置在 yml 白名单中,换模型只改配置不改代码。

  2. GitHub · 灵魂体仓库41

    NoID Privacy Workstation 44:面向 AI 智能体工作流的隐私加固 Fedora 发行版

    GitHub 项目 NoID Privacy Workstation 发布,这是一个基于 Fedora 44 / GNOME 50 的隐私加固工作站 ISO,包含 41 个功能模块,覆盖内核、网络、身份、固件、服务和浏览器等加固基线,无项目遥测。系统为 AI 智能体工作流设计:VSCodium 预置隐私默认设置,Claude、Codex CLI 及 Gemini 全局指令路径按用户选择性安装,模型访问为 opt-in,本地推理支持 RamaLama / Ollama / LM Studio。蓝牙、定位、摄像头、麦克风默认关闭,提供 GPG 签名 ISO 供下载验证。

  3. GitHub · 灵魂体仓库23

    content-extraction-pipeline-video-stt-llm:用 Whisper 和 Groq Llama 3.3 70B 把烹饪视频转成结构化食谱的开源项目

    GitHub 开源项目 content-extraction-pipeline-video-stt-llm 将烹饪视频 URL 自动转为结构化 JSON 食谱。流程分四步:yt-dlp 和 FFmpeg 提取音频,OpenAI Whisper 转写并翻译为英文,Groq 的 Llama 3.3 70B 模型解析出菜名、食材、用量和步骤,FastAPI 通过 REST API 返回结果并生成食材购物搜索链接。项目以 MIT 协议开源,需配置 Groq API key,作者提醒提取结果需人工复核。

  4. GitHub · 灵魂体仓库60

    budget-rag v1.0.0 发布:成本感知的 RAG 检索框架

    GitHub 项目 mylgtab/budget-rag 发布 v1.0.0,实现成本感知的长文档问答检索,简单问题走 BM25 便宜路径,难题才升级混合检索加重排与大模型。在 200 条改写问句评测中,级联策略用 47% 的成本拿到深检索 99.5% 的召回;附录还给出分块粒度、双索引自动选择、两层缓存(LongBench 30 条冷缓存 46.6 秒降到热缓存 4.6 秒)与预算档位对比,完整实验记录与复现脚本见 docs/report.md 和 make check。

    推荐理由:作者公开了完整实验数据和复现脚本,还保留了负结果,想比较不同 RAG 检索策略成本与召回的读者可以直接参照。

  5. GitHub · 灵魂体仓库24

    llm-chat-app-template2:基于 Cloudflare Workers AI 的开箱即用聊天应用模板

    灵魂体仓库开源了 llm-chat-app-template2,一个由 Cloudflare Workers AI 驱动、可直接部署的 LLM 聊天应用模板。它使用 SSE 实现流式响应,支持自定义模型与系统提示词,可集成 AI Gateway,并内置 Observability 日志。模板基于 TypeScript 和 Cloudflare Workers 构建,提供适配移动端与桌面端的响应式界面,聊天历史保存在客户端。

  6. GitHub · 灵魂体仓库61

    supercarto 开源:把地理数据编译成 token 预算内的拓扑图供 AI 智能体直接推理

    supercarto 是面向 LLM 的空间中间件,把 GeoJSON 等地理数据编译成 token 预算内的拓扑 YAML 图,供 AI 智能体直接推理。官方示例中 272,993 字节(约 68,000 tokens)的文件在 1024 token 预算下压缩到约 890 tokens,缩小约 99%;所有被裁剪的要素按层记录在 omitted 字段中。工具内置无密钥天气、带诚实降级状态的交通与 GTFS 公交时刻、室内楼层图,通过 npm/pip、CLI、HTTP 和 MCP 提供,附带 supercarto-bench 基准(编译图 38/47、原始 GeoJSON 15/47、无地图 0/47),共 412 项测试通过,Apache-2.0 许可。

    推荐理由:README 给出了同一测试文件压缩前后的 token 数字和可复现命令,读者可以直接验证给 Agent 用的地图能省多少 token。

  7. Reddit · r/SillyTavernAI18

    SillyTavern 用户求教:RTX 3060 笔记本上运行 gemma-4-E4B-it-ultra-uncensored-heretic-Q8_0 的配置是否该升级

    一位 Reddit 用户在 r/SillyTavernAI 求助:其在 RTX 3060 笔记本(6GB VRAM)上本地运行 gemma-4-E4B-it-ultra-uncensored-heretic-Q8_0,设置 16384 上下文与 KV cache q4,但部分角色叙事质量差、场景描述含糊。他询问该模型是否仍是好选择、有无更好方案,并希望获得配置改进建议。

  8. Reddit · r/SillyTavernAI23

    用 Claude 打造的开源工具:把 Wiki XML/TXT 转成 SillyTavern Lorebook,无需 LLM

    Reddit 用户发布了一款借助 Claude 开发的轻量桌面工具(Python 运行),可将 MediaWiki .xml 导出和 .txt 设定文档一键批量转换为可导入 SillyTavern 的 World Info/Lorebook .json 文件,全程无需 LLM。作者已用小型 fandom wiki 页面和一份更大的文件测试,后者生成了 379 条正典/非正典条目。工具以开源形式发布。

  9. GitHub · 3D 生成新仓库23

    EmpirioLabs-AI/mcp:连接 180+ AI 模型的 MCP 远程服务器仓库

    EmpirioLabs 发布远程 MCP 服务器(Registry 名称 ai.empiriolabs/mcp,版本 1.2.0),无需安装即可通过 OAuth 2.1 或 API key 调用 180+ AI 模型、图像/视频/语音生成、网络搜索、批量任务、GPU Cloud 和托管智能体,价格与 API 一致。服务器提供 82 个工具、10 个工具集和多个预设 prompt,支持 Claude、ChatGPT、Cursor、Codex CLI、Gemini 等客户端以自定义 connector 或 URL 配置接入,连接消耗账户预付额度。

  10. GitHub · 3D 生成新仓库49

    Lisa-Harness 开源 lisa-pack-markdown:基于长期记忆的 Markdown 文档生成包

    Lisa-Harness 推出 lisa-pack-markdown 包,将用户指令结合召回的长期记忆生成为经过结构化校验并持久化到 lisa-storage MCP 服务器的 markdown 文档。提供 markdown_forge_document 与 markdown_consolidate_sources 两个操作,以及基于 markdown-it-py 的只读校验工具 markdown_generate。内置截断续写与大纲契约机制,最多 forge_max_continue_attempts 4 次续写、文档上限 20000 字符。

  11. GitHub · 3D 生成新仓库25

    college-project:集多模态与代码库智能于一体的 RAG 助手

    GitHub 新仓库 AmanShankarDev01/college-project 发布了一个离线优先的多模态 RAG 助手,基于 Spring Boot 3(Spring AI)、React 18 和 Qdrant 向量数据库构建。它可用 Ollama 本地运行 phi3、llama3.1 等模型,也可切换 Anthropic Claude、OpenAI GPT-4o、OpenRouter 或 Groq Cloud。助手能从文档提取文本与插图,克隆解析 GitHub、GitLab、Bitbucket 仓库,并以可交互引用标注为 AI 回答提供证据。

  12. GitHub · 去对齐工具与仓库29

    Docstóteles AI:基于 Firecrawl 与 RAG 的网页文档智能问答助手

    开源项目 Docstóteles AI 将任意网页技术文档转化为可问答的 AI 助手,使用 Firecrawl 抓取页面、LangChain 编排 RAG、Groq API 运行 openai/gpt-oss-120b,嵌入采用 Hugging Face 的 all-MiniLM-L6-v2,向量索引用 FAISS,界面为 Streamlit。默认抓取最多 15 页,回答仅基于索引片段并标注来源,所用工具均有免费套餐。

  13. GitHub · 去对齐工具与仓库23

    ai.nvim:Neovim 内与 AI 对话的 provider 无关 ask/stream 层(Beta 阶段)

    GitHub 上的 ai.nvim 是一个仍在活跃开发、可能存在 breaking changes 的 Beta 阶段 Neovim 插件,提供 provider 无关的 ask/stream 层,用于在编辑器内调用 AI,包含上下文组装(buffer/selection/diagnostics)、流式回答面板和单个 :Ai 命令。其支持 claude、openai、ollama 等 provider,pdfport.nvim 已通过其 ask() 发送 PDF 与页面图片,插件采用 MIT 许可证发布。

  14. GitHub · 去对齐工具与仓库35

    RoboFang v1.8.0(Beta)发布:连接 AI 智能体与物理世界的安全中枢

    RoboFang v1.8.0(Beta)发布,对物理集成与安全架构作出重大调整。该工具是连接 AI 智能体(MCP 服务器)与物理世界的本地优先安全中枢,可控制智能家居设备、专业软件工具和机器人硬件,强调隐私、本地执行与安全,稳定版发布前将快速迭代。

  15. GitHub · 去对齐工具与仓库20

    jaswanthBavi 的 AI-LLMOPS 学习仓库

    GitHub 用户 jaswanthBavi 开源 AI-LLMOPS 仓库,按 day-2 至 day-12 组织 LLM 运维学习内容,包含 server.py、cpu_monitor.py、health.py、server_health.py 等脚本,覆盖服务器监控、CPU 监控与健康检查。仓库托管在 GitHub 上,可公开访问。

  16. GitHub · 去对齐工具与仓库20

    RunAny:本地优先的 AI 技术博客与开发者 playground 仓库 runany

    RunAny 是一个本地优先的技术博客与开发者 playground 仓库,提供 AI 配置指南、开发工具和实用教程。项目采用 monorepo 结构,包含 Astro + MDX 静态网站、Fastify API 与 webhook 服务及共享 TypeScript 工具包,使用 UnoCSS 样式和 npm workspaces 管理,要求 Node.js 22+ 与 npm 10+,以 MIT 协议开源。

  17. GitHub · 灵魂体仓库32

    Kubernetes 推出 model-serving-signals:模型服务器引擎无关的信号契约项目

    Kubernetes 推出 model-serving-signals 项目,为模型服务器提供引擎无关的信号契约,包含统一指标语义、vLLM、SGLang、TensorRT-LLM 等引擎配置、映射导出器、一致性测试套件和自动扩缩容集成。项目由 Kubernetes SIG Autoscaling 与 SIG Instrumentation 赞助,完整指标表和设计文档已发布,文档基于 MkDocs 构建并通过 Netlify 发布。

  18. GitHub · 灵魂体仓库20

    pdf-to-qbo 开源工具:银行账单 PDF 转 QuickBooks Online 兼容的 OFX/QFX/CSV

    开源项目 pdf-to-qbo(Statably)将银行账单 PDF 转换为 QuickBooks® Online 兼容的 OFX/QFX/CSV 文件,内置 JPMorgan Chase、Bank of America、Wells Fargo 等 20 家银行的专用解析器,扫描版 PDF 可选 LLM fallback OCR 提取。项目提供 Web UI、CLI 和带 API key 认证的 REST API,订阅分 Free(10 次/月,$0)、Starter(100 次/月,$9/mo)和 Pro(无限,$29/mo)。

  19. GitHub · 灵魂体仓库57

    humanizer 仓库发布 2.12.16,提供五个可安装的 AI 写作技能

    GitHub 仓库 apoapostolov/humanizer 发布 2.12.16,为 AI agent 提供五个可单独安装的写作技能:humanizer 1.7.10(保留作者声音改写)、simple-english 2.4.2、ai-writing-detector 1.2.2、writing-prose 1.2.4 和 writing-voice 1.1.0。2.12.16 让目录保护作者判断、排版符号不影响评分,检测器输出为 signals_only,不作为作者归属证明;技能可复制到 ~/.claude/skills/ 等目录或用 npx skills 安装,MIT 许可。

    推荐理由:仓库把去 AI 腔改写拆成五个可单独安装的技能,并明确检测器只报信号不作作者判定,安装与脚本用法都可照抄。

  20. GitHub · 灵魂体仓库35

    raguram-3398 的 AI-engineer 仓库:如何通过一个个经过测试的项目构建可靠的 AI 软件

    GitHub 仓库 raguram-3398/AI-engineer 通过一系列自包含、带 README 的可测试项目,展示如何构建可靠的 AI 软件,包含两个已上线的 AI 产品。Sales Call Intelligence 每通电话约 $0.06,代码测试覆盖 95%,隐私测试移除 27/27 项个人信息;Multimodal RAG Engine 基于 52 份 FDA 文档(2,313 页)问答,92% 的答案声明可由引用页面支撑,20/20 道陷阱问题被拒答,每次回答约 $0.001。

  21. GitHub · 灵魂体仓库22

    NeuroPrompt Studio:受 Claude Fable 启发的提示词工程资源库

    GitHub 仓库 NeuroPrompt Studio 上线,收录 50+ 可复用提示词模板,覆盖 zero-shot、few-shot、chain-of-thought、tree-of-thought 等原子模式,灵感来自 Claude Fable 系列整理仓库。资源库按四大支柱组织:模式库、多步 Workflow 蓝图(文档分析、代码生成与评审)、评测套件(一致性评分、幻觉检测、成本分析)以及生产部署模板(限流、重试逻辑、context window 管理、多模型路由与安全防护),面向开发者、研究者和产品经理开放使用。

  22. GitHub · 灵魂体仓库41

    lukegalea 开源 ash_agent_tools:面向 AI 智能体的 Ash 只读内省工具库

    lukegalea 在 GitHub 发布 ash_agent_tools,为 AI 智能体提供 Ash 框架的只读内省能力,以 JSON 可编码的 map 回答资源描述、输入验证、策略拒绝原因等问题,且不执行任何操作。工具提供三种接入方式:普通函数与 Mix 任务、通过 mix ash_agent.serve 在本地回环运行的 MCP 守护进程,以及集成到 ash_ai MCP 路由的六个开发工具。它无需启动应用即可编译项目工作,全部输出为纯 JSON。

  23. GitHub · 灵魂体仓库35

    ChatCLI 上架 Homebrew:支持 OpenAI、Claude、Gemini 等多家 LLM 的命令行工具

    ChatCLI 现已推出官方 Homebrew tap,通过 `brew tap diillson/chatcli` 与 `brew install chatcli` 即可安装。该 CLI 工具支持 OpenAI、Anthropic Claude、Google Gemini、AWS Bedrock、DeepSeek、GitHub Copilot 等多家 LLM 提供商。功能包括流式交互对话、自主执行任务的 Agent 模式、代码生成与编辑的 Coder 模式、大型代码库上下文管理、插件系统、多语言支持及会话历史管理。

  24. GitHub · 灵魂体仓库39

    chatless:基于 Tauri 2.0 与 Next.js 的本地优先 AI 聊天客户端

    chatless 是一个基于 Tauri 2.0 与 Next.js 的桌面 AI 聊天客户端,支持接入 OpenAI、Anthropic、DeepSeek 等云端服务或 Ollama、LM Studio 本地模型,数据完全存储在本地。它支持 PDF、Word、Markdown 文档解析、本地 RAG 知识库、MCP 协议集成、Prompt 管理及 WebDAV 提示词同步,并可从 GitHub Releases 下载 Windows、macOS、Linux 安装包。项目采用 MIT 许可证开源。

  25. GitHub · 灵魂体仓库53

    LLM-Rosetta 发布:基于中间表示的多厂商 LLM API 格式互转 Python 库

    Oaklight 发布 LLM-Rosetta,一个用 hub-and-spoke 架构和中心 IR 在不同 LLM 厂商 API 格式间互转的 Python 库,解决每对厂商都要单独写转换逻辑的 N² 问题。支持 OpenAI Chat Completions、OpenAI Responses、Anthropic Messages 和 Google GenAI 四种格式,含请求/响应双向转换、流式、工具调用和自动检测厂商;核心零必需依赖,MIT 协议开源,配套 llm-comply 工具可验证网关端点是否符合官方规范。

  26. GitHub · 灵魂体仓库13

    ericagulto/free-llm-radar-data 仓库:为 Free LLM Radar 仪表盘提供数据

    GitHub 仓库 ericagulto/free-llm-radar-data 存放 Free LLM Radar 仪表盘的数据,通过 GitHub Pages 跨源读取。其中 data.js 设置 window.RADAR,由定时刷新任务重写;数据与仪表盘(位于 free-llm-radar)分离,使每日数据刷新无需重新部署站点。data.js 中的 id 是仪表盘引用层的永久键,不可重命名。

  27. ComfyUI Releases · 图像工作流26

    ComfyUI v0.42.5 发布

    ComfyUI 发布 v0.42.5 版本,tag 为 483dae4,于 23 Oct 00:07 打上标签,发布页附带 2 个资源文件。这是 GitHub Comfy-Org/ComfyUI 仓库的一次常规版本发布。

  28. Reddit · r/LocalLLaMA54

    ThousandML 发布 Training Factory 平台,支持 4-bit QLoRA 微调开源模型

    作者 /u/textclf 发布了用于微调开源模型的 Training Factory 平台,主打对 4-bit 量化模型做 QLoRA 而非全精度微调以降低 GPU 成本。所用 CQ(Coded Quantization)为免校准量化,作者在 Qwen 3.8 27B 上用 Wikitext-2 对比称其 KLD 优于 unsloth-bnb-4bit(磁盘占用 18GB 对 22.4GB,Top 1% 一致率 92.419% 对 91.954%);在 Alpaca 数据集上用单张 A40(48GB)跑通训练,峰值 PyTorch 分配显存 25.5 GiB、稳态中位每步约 14.99 秒。

  29. GitHub · 去对齐工具与仓库23

    LLMs-Auto-Score-System:基于 Gemini 的自动评分系统开源仓库

    一个用于创建考试并自动评分的 Web 应用,支持以文字或图片提交答案,由 Gemini 给出分数建议及理由,教师确认后才向学生公布结果。本地部署需 Node.js、pnpm 和 Python 3.11 以上,并配置 GEMINI_API_KEY、数据库、Firebase 与 Cloudinary;前端、API(端口 8001)和 Socket.IO(端口 3001)分进程运行。

  30. GitHub · 去对齐工具与仓库26

    Cortex-54:GitHub 上的自主交易智能体项目,免费额度运行并交易 $54 账户

    GitHub 开源项目 Cortex-54 是一个自主交易智能体,完全运行在免费额度上(Cloudflare Workers Free、GitHub Actions 和免费 LLM API),以 $54 Alpaca 模拟账户与 $54 真实账户同步交易,并通过 Discord 控制。其采用四级思考漏斗(math → Clef-flash → Clef → 跨家族 LLM 多空法庭),昂贵的推理只用于约 1% 的最佳想法,并由 8 条规则的 constitution.json 约束、任何模型不可覆盖。目前处于 Phase 0 基础阶段,尚无交易逻辑。

  31. GitHub · 去对齐工具与仓库42

    Electron Stagewright:让 Claude Code 等 Agent 测试真实 Electron 应用的 MCP 服务器

    Electron Stagewright 是一个 MCP 服务器,可让 Claude Code、Codex、Cursor、Cline、Aider 等 MCP 兼容 Agent 操作真实 Electron 应用,通过 accessibility tree 检查、稳定 ref 交互和带重试的 expect 断言返回有界证据。它针对 Electron 的主进程、原生菜单、多窗口和签名打包产物提供一等支持,快照文本编码可减少 5-10x token 消耗,当前版本为 @electron-stagewright/core@0.6.3,需 Node.js 24 及以上。

  32. GitHub · 去对齐工具与仓库42

    delegAItor:将多来源工单委派给多智能体并行处理的 GitHub 开源工具

    GitHub 上的开源工具 delegAItor 可将 GitHub Issues、Notion、Linear、Jira 或 markdown 列表中的多个工单委派到隔离的 git worktree 和分支,每个工单由独立的 agent 会话(Claude、Copilot、Codex 或 OpenCode)处理,并通过共享 SQLite 锁与消息注册表协调会话、避免文件竞争。工具支持按仓库命名规范生成分支、随进度移动看板卡片、开 PR 并审查 diff,可经 MCP 服务器注册供 Claude/Copilot 原生调用,并提供 Copilot/Claude skills 实现一句话派单。

  33. GitHub · 去对齐工具与仓库32

    BRZ:一个尚未定义产品的多智能体工作框架(GitHub 开源仓库)

    GitHub 上的 BRZ(blast-radius-zero)仓库目前是一个围绕空产品的多智能体工作框架,尚未定义产品本身。主 agent 负责规划、撰写 brief 和集成,协调者向各 agent 分发指令,每个 brief 声明独占写入范围,由 AGENTS/scope_ledger.md 记录以避免重叠。仓库内置 17 个可复用技能(finance、fundraising、legal、infra)及 AGENT.md、AGENTS/ 等规范文档,面向 Vultr Agent Rush Hackathon 的产品需求。

  34. GitHub · 去对齐工具与仓库60

    开源工具 atrium 发布:用一块看板管理多个编码 Agent 会话

    开发者 dovholuknf 在 GitHub 开源 atrium,一个本地运行的 Agent 会话管理看板,把每个 Agent 会话显示为卡片,区分需要授权与已完成的状态,所有工具调用先经过权限门,可用 always/never 规则自动应答。支持 Claude Code、codex、gemini、opencode、ollama 等作为 runner 接入,Agent 之间可跨机器以 peer 消息通信,房间通过双向 TLS 连接 hub,看板绑定 loopback、无账号无云,状态可在重启后保留,采用 Apache 2.0 许可证。

    推荐理由:作者以罗马中庭隐喻讲清了多 Agent 会话看板的设计取舍,卡片、权限门与跨机通信的机制都有具体说明。

  35. GitHub · 去对齐工具与仓库52

    sghng/abstract 仓库将 OpenCode 改造成小型学术研究实验室

    sghng/abstract 是一个配置仓库,把 OpenCode 变成小型学术研究实验室,包含常驻不变的内核指令、写作与文献与实验等技能库,以及内外部审稿人、文献检索、视觉审稿、nlpatch 等副手智能体简报。每个项目由一个主会话通过文件(工单、报告、备忘、模型)编排并平级委派子智能体;附 abstract init 脚手架命令,另有可选的 hindsight 记忆插件,手动安装并写进用户级配置,仅在研究项目里激活。状态为早期,设计理由见 MEMORY.md 与 manifesto.md。

  36. GitHub · 去对齐工具与仓库32

    NMoi-Agent:本地优先的 Rust 无头核心 LLM 客户端开源项目

    NMoi-Agent 是一个本地优先的 LLM 客户端,采用 Rust 无头核心加各平台原生 UI,数据留在用户设备上,以 GPL-3.0-only 许可开源。项目当前处于 stage 0,核心代码已完成、测试待 CI 执行,包含 SQLite 存储、L0–L3 启动校验、上下文管理四模式、内容寻址归档、写入时刻脱敏及 NMoi-Agent doctor/init/backup 等 CLI 诊断命令。