跳到正文
10月23日周五
  1. GitHub · 去对齐工具与仓库49

    Meeting Desk:开源自托管应用,用 AI 将会议记录转化为行动项写入 Google Sheets

    Meeting Desk 是一款自托管开源 Web 应用,可从 Google Meet 的 Notes by Gemini 文档、recap 邮件或粘贴的文本中用 AI 提取行动项、负责人、截止日期、决策与风险,经人工审核后作为行写入现有 Google Sheets,保留布局、公式和下拉选项。它支持 Gemini、Claude、OpenAI、OpenRouter、Amazon Bedrock 及 Ollama 本地模型,可发布摘要到 Slack、Google Chat、Mattermost 或 Discord,并以单个 Docker 镜像附带 Helm chart 部署。

  2. GitHub · 去对齐工具与仓库51

    OpenAccountants 发布覆盖 231 个辖区的免费 AI 税务技能库并开放 MCP 接入

    OpenAccountants 上线免费 AI 税务技能库,含 1,903 条技能、覆盖 231 个辖区,其中 33 条经会计师评审,其余为标注来源引用的草稿;已回答 20,976 个问题。技能可经 MCP 连接器接入 Claude、ChatGPT、Cursor、Windsurf 等,使回答可引用具体技能及评审状态,也提供 pip 包 openaccountants-mcp 与手动下载 packages/ 目录的方式。每条技能处于会计师评审或带源引用草稿两种状态之一,夜间同步含数学检查、官方来源监测、按月预算重推导与 AI 即兴发挥测试;代码采用 AGPL-3.0,技能内容为 OpenAccountants Guide License v1.0。

  3. GitHub · 去对齐工具与仓库44

    mobileLLM:macOS 与 iOS 端开源本地 Agent 聊天应用

    开源项目 mobileLLM 在 GitHub 发布,这是一款面向 macOS 和 iOS 的本地优先 Agent 聊天应用,原生 Swift + SwiftUI 编写,支持 Apple MLX、llama.cpp 和 Apple Intelligence 三种引擎通过统一协议在设备端运行开源权重模型,无需账号和遥测。应用内置持久化 Agent 运行时,支持工具调用、MCP、子智能体、并行工具批处理和动态工作流,并提供 OpenAI 兼容的在线模型接口;Apple Intelligence 模型在符合条件的设备上 0 字节可用,要求 iOS 26 / macOS 26。

  4. GitHub · 去对齐工具与仓库49

    RedDragon:将 15 种 tree-sitter 语言、COBOL 与 HLASM 降低到统一 IR 并在 VM 上执行的开源项目

    GitHub 开源项目 RedDragon 将 15 种 tree-sitter 语言、COBOL 和 HLASM 源码降低到统一的 38 opcode 三地址码 IR,并在 VM 上确定性执行,面向不完整的遗留代码。源码与依赖完整时解析、降低、执行全程 0 次 LLM 调用,仅在信息缺失时用 LLM 修复或生成占位值;默认运行包含 17,418 个测试,并附有基于 NIST CCVS 的 COBOL 一致性快照(最新为 2026-10-19)。

  5. GitHub · 去对齐工具与仓库61

    agent-broker 发布:基于 Redis 的多进程 Agent 调用权限协调库

    Devpaul-01 发布 agent-broker,一个基于 Redis 的纯权限门控库,已上线 npm,需 Node.js 22+ 和外部 Redis。它不代理实际调用,只在调用前原子地裁决共享预算、委托深度、并发与熔断状态,调用后由调用方回报结果;另附独立的 Python 实现,两者用相同的 Redis 键和 Lua 脚本,可跨语言共享同一状态。

    推荐理由:作者本人发布了这个多进程 Agent 协调门控,README 明确划清了与 LLM 网关的边界并给出信任模型与缺陷说明。

  6. GitHub · 去对齐工具与仓库31

    genai-agentic-lab:GitHub 上的生成式 AI 智能体实验仓库

    GitHub 用户 AayushAswal27 开源的 genai-agentic-lab 仓库,收录 chains、prompts、output_parsers、runnables、sequential 与 parallel workflows 等 LangChain 相关实验代码,另含 fine-tuning、huggingface-basics、text_splitters、document_loader、tools 及 youtube-chatbot-rag 等目录,并提供 agent.ipynb 与 requirements.txt。

  7. GitHub · 灵魂体仓库28

    ERDischargeRecommendationsRAG:基于欧洲指南的急诊出院建议 RAG 系统开源

    GitHub 开源项目 ERDischargeRecommendationsRAG 是一套检索增强生成(RAG)流水线,读取意大利语急诊病历,依据欧洲官方指南生成有出处引用的出院建议。系统分为离线与在线两部分:离线解析 PDF 指南并构建 FAISS 索引,在线将病历拆解为查询、多阶段检索后由 LLM 生成结构化建议,意大利语与英语互译可由 LLM 或 DeepL 完成。项目提供 Streamlit 界面,需 CUDA 支持,非 API 部分约需 4Gb VRAM。

  8. GitHub · 灵魂体仓库37

    Quorum:自托管 AI 助手平台,数据不出本地服务器

    开源项目 Quorum 是一个自托管 AI 助手平台,可在企业自有服务器上运行本地模型,未来还将支持多智能体编排,支持多租户、按用户授权。目前已实现 Docker Compose 一键安装、流式对话、附件上传(TXT/Markdown/CSV/PDF/DOCX,单个最大 5 MB)、MCP 工具调用,以及基于 Qdrant 集合的知识库问答。它兼容 Ollama、vLLM、llama.cpp、LM Studio 等 OpenAI 兼容端点,无出站遥测,基于 .NET 10 构建,项目仍处早期开发阶段。

  9. GitHub · 灵魂体仓库58

    mlxtop 3.1.1 发布:本地 LLM 性能监控工具

    mlxtop 发布 3.1.1 版,这是一款本地 LLM 监控工具,将内存压力、分页、GPU 状态与运行时的 tokens/s、prefill 进度、队列等指标并列显示,并用一行结论指出变慢原因如重分页或显存占满。支持 oMLX、vLLM、SGLang、llama.cpp、Ollama、LM Studio 等 13 种运行时的自动检测,本地只读运行、无需 sudo、不上传数据;3.1.1 新增可即时生效的 Settings 页和 mlx-serve prefill 进度,支持 macOS(Apple Silicon)、Linux 与 Windows,MIT 协议开源。

    推荐理由:本地 LLM 排障工具把内存、分页、GPU 与运行时自身指标并排呈现,还给出健康与否的一句话结论,适合排查本地推理变慢。

  10. GitHub · 灵魂体仓库19

    AI Video Director 开源 DEMO:中文想法自动转 Storyboard 分镜和视频生成 Prompt

    GitHub 开源项目 ai-video-directo 可将一句中文视频想法自动转为 Storyboard 分镜和英文 Final Prompt,流程为 Idea → AI Director Analysis → Storyboard → Final Prompt。生成的 Prompt 适配 Kling、Veo、Sora、Seedance、Runway 等视频模型,技术栈为 React + Fastify,AI 部分使用 DeepSeek API。当前为 DEMO V1,暂未接入真实视频生成 API。

  11. GitHub · 灵魂体仓库50

    i18n-ai 开源:用 LLM 智能体为网站生成多语言 locale 文件

    codeonym-oss 在 GitHub 发布 i18n-ai,一个用 LLM 智能体从源 locale 树生成网站多语言文件的 CLI 工具,支持保持 {{name}}、%s、ICU MessageFormat、i18next 复数等占位符完整。工具先用 scan 做预检并请用户确认,再由 LangGraph 并行分类文件并按文件和 locale 分智能体批量翻译,每条译文经规则校验,不合格的带问题说明重试;支持 OpenAI、Anthropic、Google、Mistral、Groq、Ollama、OpenRouter 等供应商,默认保留已通过的既有翻译只补缺失项,经 uv tool install i18n-ai 或 pipx 安装。

  12. GitHub · 灵魂体仓库26

    llm-research 使用指南:如何用本地 Java 应用向多家大模型批量提问并保存结果

    GitHub 开源项目 llm-research 是一个本地 Java 21 应用,可向 OpenAI、Claude、Gemini、Grok、DeepSeek、Qwen 等多家模型提供商批量发送 questions.csv 中的问题并保存答案。用户通过 .env 配置 API 密钥、application.yml 选择启用的提供商,每次运行在 output/ 目录生成 xlsx、csv、jsonl、json 四种格式的结果,并记录延迟和输入/输出 token。每次调用消耗 API 额度,项目建议首次只用 1 个提供商、1 次重复和少量问题进行验证。

  13. GitHub · 灵魂体仓库27

    hermes-ios:Nous Research Hermes Agent 的原生 SwiftUI iOS 客户端发布

    viniciusbregoli 在 GitHub 开源 hermes-ios,一个连接 Nous Research Hermes Agent 网关的原生 SwiftUI iOS 客户端,与桌面端共用 hermes dashboard / hermes serve 网关,同步聊天、机器人、例程和设置。它支持流式回复、slash 命令、2-6 个机器人的群聊、子智能体树与 Bot Screen 远程桌面接管,需从 Xcode 安装,目标 iOS 17 及以上,不在 App Store 上架;免费 Apple 账号需每 7 天重装一次。

  14. GitHub · 灵魂体仓库21

    Jubbio 开源面向 LLM 的官方开发文档仓库 jubbio-docs-for-llms

    Jubbio 平台在 GitHub 发布 jubbio-docs-for-llms 仓库,提供从 Jubbio Developer Portal 提取的机器可读技术参考(JUBBIO_DEV_REFERENCE.md、llms.txt、llms-full.txt),弥补预训练 LLM 不了解 Jubbio 端点、payload schema 而误用 Discord/Slack 约定的问题。文档覆盖认证、消息、频道、Slash Commands、Webhook、OAuth2、语音等 10 个模块,支持在 Cursor/Windsurf、Claude Projects、ChatGPT Custom GPTs 中使用,采用 MIT License。

  15. GitHub · 灵魂体仓库50

    matt-riley 开源 skill-evaluator:为 AI 技能提供评测驱动的迭代工具

    matt-riley 在 GitHub 发布 skill-evaluator,用于对 AI skills 做评测驱动迭代:定义测试用例后,让 agent 分别在有技能和无技能的情况下运行,由 LLM 给输出打分并对比基准结果。工具支持 `skill-eval init`、`skill-eval loop`(运行→评分→基准)和 `skill-eval report` 生成 HTML 报告,可通过 brew 或 `go install` 安装。

  16. GitHub · 灵魂体仓库32

    user01000000000010/CUDA:面向 LLM 与 Transformer 的高性能 CUDA 加速内核库

    GitHub 仓库 user01000000000010/CUDA 提供一套面向 LLM 和 Transformer 架构的生产级 CUDA 加速内核库,基于 Tile IR、TMA 异步流水线和寄存器内数值稳定化实现。核心功能包括 Hopper sm_90 架构的 FlashAttention-3 生产者-消费者内核、FlashAttention-2 前向/反向实现、兼容 vLLM 的 PagedAttention、FP8 量化 KV-Cache(节省 50%–75% HBM 显存)、DeepSeek V2/V3 的 MLA(KV 占用降低 5x–8x)、GQA 与融合 RoPE,以及端到端全融合 Transformer 块。

  17. GitHub · 灵魂体仓库37

    anvilry:Sairam Ugge 的 GenAI 工程师作品集仓库,提供 Classic/Play/Chat/Developer 四种浏览体验

    GitHub 仓库 anvilry 是 GenAI 与后端工程师 Sairam Ugge 的求职作品集,基于单一内容层提供四种可切换体验:SSG 静态页、WebGL Build Graph、基于 RAG 的 AI 对话服务和含 32 条命令的终端视图。对话功能使用 AWS Bedrock 上的 Claude Sonnet 4.6,失败时回退到 Haiku 4.5,并支持流式 markdown、语音输入读出(默认浏览器原生实现)以及公开只读 MCP 服务器。技术栈为 Next.js 16、React 19、Tailwind v4,达到 WCAG 2.2 AA 无障碍标准。

  18. GitHub · 灵魂体仓库32

    ikpsthakur/oslo-hack:面向奥斯陆项目交友的手机友好单页网站,附 AI 维护的本地项目 wiki

    ikpsthakur/oslo-hack 是一个公开仓库,提供用于在奥斯陆寻找小型项目伙伴的手机友好单页网站,并采用适配 Andrej Karpathy LLM Wiki 模式的 AI 维护项目 wiki,无需后台模型或 API key。访客聊天机器人使用 OpenRouter 的 nvidia/nemotron-3.5-lightning:free 模型,网站与 API 托管于 Vercel,知识来自公开访客指南与含 56 条虚构记录的合成知识库,经 allowlist 在构建时编译,免费额度为每天 50 次请求。该迁移于 2026-10-22 获用户批准并在 Vercel Gateway 返回 HTTP 403 后完成,PR #4 已合并部署并验证真实回复。

  19. GitHub · 灵魂体仓库53

    qh 开源面向 AI 智能体的省 token 数据库 MCP 服务器

    qh 是一个为 AI 智能体设计的数据库 MCP 服务器,无论多少连接只暴露 schema 和 query 两个工具,并以尽量少的 token 返回结果,支持 PostgreSQL 13+、MySQL 8.0.16+、MariaDB 10.6+、SQLite 和 MongoDB 7/8,查询默认返回 100 行 TSV。bench/ 目录与 Google MCP Toolbox for Databases 1.14.0、dbhub 1.5.0、mongodb-mcp-server 3.0.5 在相同问题、模型和提示词下对比,精度持平的情况下每任务 token 分别节省 83.6%、40.2%、95.2%。

  20. Reddit · r/LocalLLaMA20

    本地 AI 玩家求升级建议:Strix Halo 96GB 跑 Qwen Flash Next,游戏主机能否兼顾 GLM 5.3

    一位 LocalLLaMA 用户用 GMKTek Evo X-2(Strix Halo)96GB 以 HaloGen Flash 跑 Qwen Flash Next,240k 上下文下达到约 1700tps prefill 和 50+ TPS decode。他希望在搭载 5700X3D、128GB DDR4 和 3080Ti 的游戏主机上跑 Maya(用 GLM 5.3)并让 Flash Next 编排,但内存或性能略显不足,正在二手 Threadripper/EPYC、加 3090、多 GPU 或 Strix Halo 外接 eGPU 之间权衡。

  21. Reddit · r/LocalLLaMA57

    Ling-3.0-tiny UBTree DFlash 草稿模型在原版 llama.cpp 实现实测,代码生成提速 61%

    Reddit 用户 /u/Barni275 从新发布的 Ling-3.0-tiny UBTree 中提取纯 DFlash 草稿部分(丢弃 7 个 ubtree_selector 张量),使其可在原版 mainline llama.cpp 上运行,并放出转换后的 GGUF 与转换流程(yury-kapoyko/Ling-3.0-tiny-UBTree-dflash-GGUF)。小规模实测显示:散文生成从 78.8 tok/s 提升到 84.8 tok/s(+8%,接受率 0.28/2.7),Python 代码生成从 79.0 tok/s 提升到 127.2 tok/s(+61%,接受率 0.53/4.2);转换仅需对 GGUF converter 做小补丁,其余均为原生功能。

  22. Reddit · r/LocalLLaMA60

    两台 £300 骁龙迷你主机实测:ToRc 引擎跑 Qwen3.6 35B A3B 达 315/43 tok/s

    作者用两台 £299.99 的 Lenovo IdeaCentre Mini(Snapdragon X X1-26-100,32GB LPDDR5,无 GPU)以 USB4 相连,实测 llama.cpp、Janas 和自研 ToRc 引擎跑量化模型的读写速度。统一测试负载下,ToRc 双机跑 Qwen3.6 35B A3B Q4_0 达 315/43.3 tok/s(读/写),编码对话 59.6 tok/s;95GB 的 Qwen3.8 Flash Next IQ4_NL 靠 NVMe 流式读取专家权重,双机达 46.2/20.3 tok/s。MTP 加速依赖文本类型,代码任务普遍提速而 Alice 散文上 llama.cpp 反而变慢。整套方案约 £600、负载功耗各约 35W,ToRc 引擎尚未发布。

    推荐理由:作者在两台 300 英镑的骁龙迷你主机上实测多款推理引擎跑 Qwen 大量化模型的读写速度,并给出统一测试负载和完整数据。

10月22日周四
  1. Reddit · r/LocalLLaMA20

    用员工笔记本上的 Ollama/Lemonade 池化推理,让小企业免费使用 LLM?

    一位 Reddit r/LocalLLaMA 用户提出把小企业员工笔记本上运行的 Ollama 或 Lemonade 客户端通过共享 API 和自定义负载均衡器连接起来,池化算力分担 LLM 推理负载,从而让小企业免费使用大语言模型。作者已发布最小原型和 GitHub 源码,计划在本地企业做小规模实验验证可行性。

  2. GitHub · 3D 生成新仓库47

    NVIDIA 开源 SkillEvaluator:检测 AI Agent 技能质量及其对任务效果的影响

    NVIDIA 发布开源工具 SkillEvaluator,用于检查 AI Agent 技能并衡量技能对任务结果的影响。它提供三层评估:Tier 1 静态校验(可用 Semgrep、SkillSpector、Gitleaks 做安全扫描)、Tier 2 基于 embeddings 的重复检测、Tier 3 通过 Harbor 沙箱对比有无技能的实际运行效果。示例技能可获得 84.5/100(B)评分,默认通过阈值为 70;工具支持 uv 运行 Python 3.13,可通过 NVIDIA Build API key 调用模型。

  3. GitHub · 3D 生成新仓库26

    Zimkjdv/Model-Atelier:個人 AI 圖像創作與實驗工作台

    Model-Atelier 是一个个人 AI 图像创作与实验工作台,采用 Vue 3 + TypeScript 前端与 FastAPI 后端,通过独立 ComfyUI 执行生成,SQLite 与图片保存在本机。支持 Checkpoint 文生图/图生图、Canny ControlNet、FLUX.1 [schnell] 元件库、LoRA 局部编辑等功能。Windows 环境需 Python 3.12 与 Node.js,平台占用 8000 端口,暂未提供训练、多租户或官方付费 API。

  4. GitHub · 3D 生成新仓库43

    doseedo 开源 AI 编码代理音乐技能集 doseedo/skills

    doseedo/skills 让 Claude Code、Cursor、Codex 等加载 Markdown 技能的 AI 编码代理用 doseedo 制作音乐。代理可将音符交给 40+ AI 乐器演奏、用自定义乐器做 timbre transfer、拆分 stems、生成和转录音乐,并把录音转成 Logic Pro / Ableton 会话。每个任务通过 doo 命令或 MCP 工具执行,费用在运行前报价,DAW 项目可跨 Logic、Ableton、Pro Tools 等 10 种格式转换,项目采用 MIT 许可证。

  5. GitHub · 3D 生成新仓库50

    Gizlang 发布:原生编译 TypeScript 全栈工具链开源亮相

    GizAI 在 GitHub 开源 Gizlang,一门经 LLVM 原生编译为单个可执行文件的 TypeScript 语法语言,内置 GizWeb Web 框架、GizDB 数据库(兼容 PostgreSQL 和 Oracle 协议)、向量搜索、S3 对象存储和 GPU 上的 LLM 与图像视频生成。基准测试中其 Web 应用达 1,739 请求/秒(Next.js 16 为 197),Todo JSON API 达 608k 请求/秒,任务切换 18 ms(Go 为 73 ms)。目前支持 Linux x86-64(Windows 走 WSL 2),版本为 0.y.z,采用 MIT 许可证。

  6. Reddit · r/LocalLLaMA69

    Kapitsa 0.2.7 实测 2021 款 M1 Pro 16GB 跑 Qwen3.5 与 Nemotron 编码速度

    Kapitsa 贡献者 Ye 发布 0.2.7 版本,针对老款 Apple Silicon 芯片优化,并在 2021 款 MacBook Pro 14(M1 Pro、16GB)上对六个模型做了与同机最快竞品引擎的基准对比。Qwen3.5 4B/9B 解码达 97.2/56.8 tok/s,分别为 mlx-serve 的 1.56×/1.52×;Qwen3.6 35B-A3B 2-bit 达 52.2 tok/s,解码 1.21-1.35× llama.cpp;六个模型峰值内存均低于对手,Dory 4B 为 4.4 vs 11.5 GB。Nemotron Dory 4B 长上下文解码被 mlx-lm 反超,作者已开 issue 跟进。

    推荐理由:作者给出六个模型在 16GB M1 Pro 上与最快竞品的逐项对比数据,含长上下文衰减和内存占用,可复现可查证。

  7. Reddit · r/LocalLLaMA70

    capy-flash v0.7.1 发布:Qwen3.8-Flash-Next 125B MoE 可在 64 GB 内存上运行

    开源推理引擎 capy-flash 发布 v0.7.1,让 Qwen3.8-Flash-Next(125B MoE)在 64 GB 内存加一或两张 16 GB GPU 上运行,双卡实测 234 tok/s;Qwen3.8-27B 3-bit 版可放进单张 16 GB 卡(174 tok/s,64k 上下文)。Flash-Next 的 routed experts 直接使用 ISTA-DASLab 的 GSQ-RCO 3-bit 量化(约 48 GiB 驻留内存,峰值约 57 GB),27B 的 3-bit 量化 MMLU-Pro 从 0.78 降至约 0.72,GSM8K 与 NVFP4 持平;代码与权重见 https://github.com/ValerioDolci/capy-flash。

    推荐理由:作者给出了具体显存占用和双卡实测速度,还附上 3-bit 量化与 NVFP4 的质量对比数据,方便判断取舍。

  8. GitHub · 去对齐工具与仓库42

    BOAR 2.0.0-rc1 发布:离线运行在手机上的开源研究助手

    BOAR 2.0.0-rc1 是一款开源 Android 离线研究助手,下载模型与知识包后可在飞行模式下答题,无需账号、服务器或 Google Play Services,答案引用本地 Wikipedia 文章、知识包和用户文档。12 GB 以上手机使用 Qwen3 4B(约 2.5 GB),更低配置用 Qwen3 1.7B(约 1.1 GB),搜索模型为 BGE Small,知识包约 164 MB。应用以 Kotlin 和 Jetpack Compose 编写,推理通过 JNI 调用 llama.cpp,APK 可从 releases 页面下载。

  9. GitHub · 去对齐工具与仓库49

    vgtitov 开源 bsl-ai-toolkit:面向 1C:Enterprise 8.3(BSL)开发的 AI 智能体工具包

    vgtitov 在 GitHub 发布 MIT 许可的 bsl-ai-toolkit,为 1C:Enterprise 8.3(BSL)的 AI 智能体开发提供规则、技能与 MCP 服务器。工具包含 onec-code 代码搜索、bsl-ls 诊断、onec-metadata 的 byte-perfect 元数据修改(经测试库 round-trip 验证)、onec-ops 运维与 onec-data 只读数据访问,参考实现为 Claude Code,Cursor、Copilot、Gemini CLI、Codex、Cline、Windsurf、Aider 经适配器接入。

  10. GitHub · 去对齐工具与仓库59

    Flightdeck 开源:面向生产与编码 Agent 的自托管观测与控制平面

    flightdeckhq 在 GitHub 发布 Flightdeck,一个自托管的 Agent 观测与控制平面,可实时展示每个 Agent 的 LLM 调用、MCP 事件和工具调用时间线。

    推荐理由:原文给出了传感器接入方式、SDK 覆盖矩阵和已知限制,读者可以据此评估这套自托管 Agent 观测方案是否适配自己的技术栈。

  11. GitHub · 去对齐工具与仓库46

    Orion:面向 VS Code 的本地优先 AI 编程助手 grenitho/orion 发布

    grenitho/orion 发布 Orion,一款本地优先、以验证驱动的 VS Code AI 编程助手,由 Python FastAPI 后端与 TypeScript 扩展组成,通过 localhost 通信。它以显式 todo 列表跟踪多步任务,用 verify_code 调用 node --check、tsc、Python compile 等真实解析器/编译器覆盖 16 种文件类型来核验完成声明,内置 22 个工具、116 项自动化测试,LLM 路由以 Gemini 为主、OpenRouter 与 Cloudflare 为备选,免费 Gemini key 即可使用。

  12. GitHub · 去对齐工具与仓库18

    Nexus-Science:科研检索与追踪网页平台

    Nexus-Science 是一个科研网页平台,可跨多个开放来源检索、理解并追踪研究动态,提供开放标准的可信度评分、兴趣提醒、新闻 feed,以及附带研究方法说明的报告和适配 Zotero、Mendeley、EndNote 的引用。面向巴西医疗领域另有可选模块,将药品与 ANVISA、Conitec 和 Rename 数据交叉。软件为专有闭源,已在 Render 与 PostgreSQL 上投产,测试套件含 1.471 个测试、最低覆盖率 80%。