跳到正文
#本地部署
10月17日周六
  1. GitHub · 3D 生成新仓库19

    Offline-AI-Video-Dubber-Translator：Windows 离线 AI 视频配音与翻译工具开源仓库

    GitHub 上线 Windows 离线 AI 视频配音翻译工具 Offline-AI-Video-Dubber-Translator，支持本地语音转写、SRT/VTT 字幕导出、离线翻译、本地 TTS 配音、逐段时间对齐、原声闪避与多语言导出。项目采用离线优先设计，不强制上传云端，支持批量处理和可复用配置文件，推荐 16GB+ 内存与支持 GPU 加速的现代显卡。

  3. arXiv · cs.CL53

    Muse Glimmer 30B 端侧智能体模型论文发布，Apache 2.0 开源

    论文介绍 Muse Glimmer，一个面向消费级硬件上自主智能体任务的开源 30B 因果语言模型，集多步推理、工具调用与失败恢复于一体，支持文本与图像输入，训练数据覆盖一百多种语言，量化至约 4-bit 可单 GPU 本地推理。作者称其在工具调用、多步规划和智能体任务完成上优于同尺寸的 Gemma4-31B 与 Qwen3.6-27B，模型以 Apache 2.0 许可发布。

    推荐理由：论文给出30B级端侧Agent模型在同尺寸模型上的基准对比，对关注本地部署智能体的人有参考价值。

  4. GitHub · 去对齐工具与仓库69

    self-hosted-ai-stack：Docker Compose 一键部署本地 AI 全栈

    bernard8209 发布 self-hosted-ai-stack 仓库，用 Docker Compose 一键部署本地 AI 栈，集成 Ollama 推理、AnythingLLM 聊天界面、LiteLLM 网关、Whisper 语音转写、Kokoro TTS、Docling 文档解析和 MCP 工具等服务。默认密码保护并自动生成 API 密钥，支持 NVIDIA CUDA 加速与 linux/amd64、linux/arm64 双架构，另提供最低约 4.5 GB 内存的轻量组合，如 chat-only、rag-pipeline、voice-pipeline 等，并附部署、安全、备份与升级指南。

    推荐理由：README 给出了各服务端口、内存占用和轻量组合清单，读者可按 4.5 GB 起的配置挑选需要的自托管方案。

  5. GitHub · 灵魂体仓库53

    Artificial Analysis 开源 agentperf-local 本地智能体推理速度基准工具

    Artificial Analysis 开源了 agentperf-local，通过重放录制的智能体对话测量本机对 AI 智能体的服务吞吐与延迟，支持 llama.cpp、vLLM、SGLang、LM Studio、Ollama 等 OpenAI 兼容服务器，或自动下载固定版本模型并启动服务器后测试。默认回放 agentperf-default-v1 包含 8 个智能体任务共 168 轮，完整运行需 65,536 token 上下文，每轮携带全部历史对话；结果只测速度不测输出质量，提交数据为可选项。

  7. Reddit · r/LocalLLaMA55

    本地跑 LLM 还是调 API 划算？/u/paq85 发布浏览器端成本计算器

    /u/paq85 发布了一个浏览器端 LLM 成本计算器（appdoesit.com/apps/llm-cost-calculator），本地侧按功耗×时长×电价计算，提供 RTX 4070 Ti Super 500W 约 1k/50 tok/s、RTX 5090 900W 约 2.5k/120 tok/s 及 5090 eco 模式 650W 约 2k/100 三档预设；云端侧按输入、输出和缓存 token 计费，参考费率为 $0.25 / $1.20 / $0.02 每 1M。作者指出缓存输入费率是多数计算器靠猜的部分，也是本地与云端成本交叉点的关键；在 60k 输入 / 50k 缓存 / 2k 输出、90% 在线的固定场景下，电费几乎持平而 API 费用持续攀升，提示词越长且重复越多，交叉点越靠后。

  9. Reddit · r/LocalLLaMA62

    nullmoth 开源 macOS NVIDIA Metal 驱动，可在 PC 上以 Metal 加速运行 macOS

    GitHub 用户 nullmoth 开源了面向 macOS Sequoia 的 NVIDIA GeForce Metal 驱动，非翻译层，支持 Metal 3 的 argument buffers tier 2、光追、mesh shaders 和 MetalFX，覆盖 Turing 及更新架构（GTX 16、RTX 20/30/40/50 系列），底层用 NVIDIA 开放内核模块加着色器转换到 Mesa NVK Vulkan 路径，项目为 Rust 编写、已有 3k+ stars。配套工具 1401 可在 Windows 上检测硬件、生成 OpenCore 配置并写入 macOS 安装盘。

    推荐理由：原文说明了该 Metal 驱动的实现路径和已验证范围，读者可据此评估在 PC 上跑 macOS 跑本地推理的可行性。

  10. Reddit · r/LocalLLaMA29

    Qwen3.8 Flash Next 在 Nvidia AGX 64GB 上的本地推理实测

    用户在 64GB 内存的 Nvidia AGX 嵌入式设备上以 50W 功耗实测 Qwen3.8-Flash-Next-Gyro-L-TQ3_0.gguf（108GiB），处理速度 82 token/s、生成速度 9.86 token/s。同机测试中 Qwen3.8-27B Q8_K_XL 生成 8.3 token/s、Q4_K_M 达 10.5 token/s，Qwen3.6-35B-A3B 单请求 23 token/s、双请求 43 token/s。作者原以为 Framework 桌面 128GiB 版会更快，但按其博客预估 Qwen3.8 27B Q4 仅 11-12 token/s，手持 5000 美元预算仍难找到数量级提升的方案。

  11. GitHub · 灵魂体仓库73

    hranicka 开源 llm-gateway：按需切换本地模型后端的 OpenAI 兼容代理

    hranicka 在 GitHub 发布 llm-gateway，一个 OpenAI 与 Anthropic 兼容的代理，按请求中的 model 字段按需启动和关闭本地模型后端，用顺序切换解决消费级显卡 VRAM 只能装一个量化模型的问题。它支持 /v1/chat/completions、/v1/messages、/v1/responses、图像生成与编辑端点，可代理 llama-server、vLLM、ExLlamaV3、sd-server、ComfyUI 等后端，并利用 ROCm/CUDA/Metal 编译目标与 flash attention 等原生运行时参数。

    推荐理由：作者给出了单槽 VRAM 下按需切换模型后端的具体做法，并附 EXL3 与 GGUF 的实测速度和困惑度对比数据。

  12. GitHub · 去对齐工具与仓库62

    workbuddy-bridge：把腾讯 CodeBuddy CLI 转成 OpenAI 兼容 API 的本地适配器

    xbmaxx 发布 workbuddy-bridge，将官方腾讯 CodeBuddy CLI 通过其非交互模式适配为 OpenAI 兼容的 /v1/chat/completions 端点，无需 API key，仅允许 x0.00 免费模型（如 deepseek-v4.1-flash、hy3），并设三层防护防止误耗 credits。项目解析 CLI 文本输出还原原生 tool_calls，覆盖七种实测输出形态；实测相对 DeepSeek 官方 API 每轮增加约 2.4 秒固定开销，来自进程启动、CLI 初始化和额外一跳网络。支持 SSE 流式与 reasoning_content 展示，项目地址 https://github.com/xbmaxx/workbuddy-bridge。

    推荐理由：作者实测了桥接层相对 DeepSeek 官方 API 的延迟开销，并给出 2.4 秒固定成本的构成拆解，方便读者判断是否值得本地部署。

  13. GitHub · 灵魂体仓库59

    证道 v2.1.2 发布，安卓免 root 一键运行 Claude Code 等 CLI Agent

    独立开发者发布安卓轻量级 AI Agent 运行环境证道，当前版本 v2.1.2（2026-10-16），在 PRoot 的 Debian 13.7 环境中一键运行 Hermes Agent，并支持终端自装 Claude Code、OpenCode、AGY CLI。门槛为 Android 16（API 36）加 arm64；README 详述 targetSdk 从 28 抬到 36 的技术路径及其导致内置 OpenCode 被弃用（error=13），首次安装需下载约 200MB RootFS，Agent 智能来自云端 API，不提供本地模型推理。

    推荐理由：README 真机记录了 targetSdk 36 抬升的原理与代价，安卓免 root 跑 Claude Code 等官方 Agent 的做法可直接参考。

  14. GitHub · 去对齐工具与仓库60

    custom-llm-gateway 把 CodeBuddy/TRAE/Qoder 订阅额度包装成本地 OpenAI 兼容 API

    cdxDNRF 在 GitHub 发布 custom-llm-gateway，将 CodeBuddy、WorkBuddy、TRAE、Qoder 的订阅额度包装成本地 OpenAI 兼容 API，聚合端点共 72 个模型，带 Web 控制台。项目复用 dsh-codearts-auth 插件 58,279 行代码且一行未改，自有代码约 3,000 行，支持 OAuth 登录、多账号池、一键签到、限流自动换号和静默续期，每个供应商独立端口与账号池。作者提示该做法模拟官方客户端调用未公开接口，可能违反上游用户协议导致限流或封禁，建议勿用主账号。

    推荐理由：原文给出端口布局、协议转换实现和实测记录，读者可以照着把多个订阅额度接成 OpenAI 兼容 API 自用。

  15. Reddit · r/LocalLLaMA34

    Reddit 用户自建本地 Muse 智能体框架，求推荐长程任务模型

    一位 Reddit r/LocalLLaMA 用户搭建了本地智能体框架，配备 96+24+24GB VRAM（RTX pro 6000 + 2x3090）和 128GB 内存，用于追踪退款、监控邮件、整理病历和下单等任务。主力模型为 Qwen Flash Next q6，快速任务用 Qwen 3.6 35ba3b 搭配 Ninfer 达到 500tok/s 解码速度，并寻求能超越 QFN q6 的长程自主智能体模型推荐。

  17. Reddit · r/LocalLLaMA12

    Strata 在单卡与双卡 GPU 上 prefill 仅约 150-200 tps，用户求助优化

    一位 r/LocalLLaMA 用户在 Strata 上用 4070 12GB 与 v100 16GB 组成双 GPU，以 rco iq3_xxs 量化运行，单卡和双卡的 prefill 速度都只有约 200 tps，远低于他人展示的近 1k tps。即使单独在 4070 上也很慢，用户怀疑与 v100 的 PCIe gen 3.0 x4 有关，并公开了含 --expert-cache、--max-context 131072、--kv int8 等参数的启动配置征求优化建议。

  18. Reddit · r/LocalLLaMA42

    Qwen3 14B 评测模型不比 8B 强：一处提示词修改让正确评分从 3/14 升到 10/14

    一位 LocalLLaMA 用户在 Ollama 本地 agent 环境中测试发现，Qwen3 14B 作为 judge 模型并不比 qwen3:8b 更准，还因超出 3060 VRAM 慢约 3 倍。失败主因是 judge 把 coder 仅提出而未执行的命令也扣分；在提示词中说明这一区别后，正确评分从 3/14 提升到 10/14。作者认为结构比模型规模更重要，但样本较小。

  19. GitHub · 3D 生成新仓库65

    gguf2mlx 新增 Qwen3-VL-8B 文本条件编码器转换，支持 GGUF 转 MLX

    开源工具 gguf2mlx 新增 Qwen3VLTextEncoderConverter，可将 Qwen3-VL-8B 的文本条件组件转换为 BF16 safetensors，保留多模态 RoPE 分段和视觉 token ID，默认 BF16 输出，FP32 解码避免 FP16 溢出。工具面向 Apple Silicon Mac，把 GGUF 模型转成 MLX-LM 兼容的 HF 风格目录，支持 LLaVA、Qwen2-VL 和 MiniCPM-V 4.7 的 VLM 适配器、显式 direct-quant 4-bit 量化及 .mlx 打包与 SHA-256 校验。仓库明确声明文本转换未经真实推理的隐藏状态或画质验证，不支持安静降级精度，未知架构直接失败而非回退。

    推荐理由：README明确区分已验证与未验证的转换边界，并把Qwen3-VL文本编码器的精度和mRoPE保留写清楚，适合想在Mac上做GGUF转MLX的读者。

  20. GitHub · 灵魂体仓库30

    SrujanAcharya07 毕业设计项目：本地优先的邮件钓鱼调查工具，集成 Ollama 与 LangChain

    GitHub 上一个本地优先的 Flask 钓鱼邮件调查工具开源发布，解析邮件、提取指标、运行透明规则，并通过 LangChain 调用本地 Ollama 模型（如 llama3.2）生成经 Pydantic 校验的分析建议，结果存入 SQLite。风险评分基于证据，单一弱指标保持 Low，中高级别需多证据佐证；LangChain 或 Ollama 不可用时自动回退到规则结果，可选用 YARA 扫描附件，报告对 URL 做脱敏处理。

  21. GitHub · 灵魂体仓库49

    15 个本地 LLM 俄罗斯方块编程实测：千分制排名

    一个 GitHub 仓库用同一指令让 15 个本地 LLM 各自制作俄罗斯方块网页游戏，以 1000 分制排名。测试在 AMD Strix Halo（Radeon 8060S、64GB 统一内存）上用 llama.cpp b11701 router 模式运行，Agent 为 opencode v1.18.35，每模型独立会话、bubblewrap 沙箱隔离并禁网，单次限时 60 分钟。评分由 headless Chrome 实机操作测试（含 10 张截图）加代码评审组成，图形与手感由人工确认，结果写入 RESULTS.md。

  23. GitHub · 3D 生成新仓库33

    NotionAI_Notepad：本地优先的 AI 加密笔记应用在 GitHub 开源

    GitHub 新仓库 VijayKumaro7/NotionAI_Notepad 发布了一款 Notion 风格的本地优先 AI 笔记应用，笔记在浏览器端用 AES-GCM 加密后再存储，服务器不接触明文。应用支持基于 WebSocket 和操作变换的实时协作、TOTP 两步验证、5 个内置模板、AI 起草与问答，并可配置接入 OpenAI、Anthropic 或兼容的 LLM。技术栈为 React 19、TypeScript、tRPC v11、Drizzle ORM 和 Vitest。

  24. GitHub · 去对齐工具与仓库56

    RomTranslate Studio 开源：在本地用 AI 翻译复古游戏 ROM

    RomTranslate Studio 在 GitHub 开源，可在本地用 AI 翻译复古游戏 ROM，支持 11 种文件格式检测、逐行校验与 IPS/BPS 补丁导出，ROM 不离开本机。实测一个商业 GBA 游戏回写 10,705 段文本，控制码 3,699/3,699 字节级一致，经 Codex CLI 的 AI 译文 199/200 通过校验，4 批并行 86 秒译 200 行。支持 Ollama、ChatGPT 订阅、Claude API 及任意 OpenAI 兼容端点，GBA/DS/NES/SFC 等平台均为实验性，压缩文本与日语回写仍是短板，软件处于 alpha 阶段，MIT 许可。

    推荐理由：原文给出了在真实 GBA 游戏上的实测数据与各平台支持矩阵，读者可据此判断这个本地 AI 汉化工具目前能做什么、还差什么。

  25. GitHub · 灵魂体仓库55

    minicpm-webapp：基于本地 MiniCPM-V 4.7 的图像分析与网站健康监控工具

    shank15217 在 GitHub 发布 minicpm-webapp，一个用本地 llama.cpp 运行 MiniCPM-V-4.7-1B 多模态模型的 FastAPI 应用，可描述分类图像并通过与基线截图比对检测网页篡改。判定由确定性的 dHash64+MAE 像素比对拥有，VLM 只对被标记的波段做单图旁白；支持 detail（f16，640×480 约 832 token）和 fast（-4x 下采样，约 223 token）双视觉模式，附 U1–U6 测试计划和 W1–W11 已知弱点清单（如亚 1% 面积改动可过阈值、存在 SSRF 缺陷建议仅限局域网部署）。

    推荐理由：用确定性像素比对拥有判定权、VLM 仅做旁白的架构做网站篡改检测，还公布了已知弱点清单和实测 token 数，部署细节可迁移。

  26. GitHub · 去对齐工具与仓库50

    ZhiYuan Agent：开源本地优先的桌面 AI 智能体

    ZhiYuan Agent 是一款开源（AGPL-3.0）、本地优先的桌面 AI 智能体，内置免费模型，无需第三方 API key 即可使用，也可通过 llama.cpp 运行本地 GGUF 模型并调节上下文长度、GPU 分配等参数。它能读写文件、执行命令、操作浏览器，生成 PPT、Word、PDF、Excel，并支持从微信、飞书、钉钉等应用接收任务，提供 Experts、Skills 和 MCP 扩展。

  27. GitHub · 灵魂体仓库66

    开源本地 AI 助手 Cortex：Rust/Tauri 外壳加 dockerized Python 大脑，全状态本地存储

    davidcristian 在 GitHub 开源了个人本地优先 AI 助手 Cortex，由宿主原生 Rust/Tauri 外壳（全局热键 Ctrl+Alt+Space、悬浮层、屏幕捕获、OS 操作）通过 gRPC 连接 dockerized Python 大脑（llama.cpp 推理、Postgres+pgvector 语义记忆、MCP 工具、子智能体）。所有状态存在本地 Redis 和 Postgres 中，模型可随时热替换而不丢状态；不可逆操作如发邮件需在悬浮层审批卡确认；三层模型包括常驻的 gemma-4-12B 多模态 QAT Q4、2-4B 子智能体阵容和按需加载的 31B 级推理模型，按 14 GB 软 VRAM 预算调度。

    推荐理由：架构文档写得相当完整，三层模型调度、pgvector 记忆和不可逆操作审批机制都有具体设计，适合研究本地助手工程的人参考。

  28. Reddit · r/LocalLLaMA21

    llama.cpp 这一年半的巨大进步：一位 LocalLLaMA 用户的本地 LLM 体验

    一位用户回顾 2025 年 3 月至今的本地 LLM 之路：从 RX 7800 XT 上跑 Mistral Nemo Q4_K_M 的 15 t/s，到双 RTX 5060 Ti 16GB 加持下，llama.cpp 0.7.0 运行 Gemma 4 31B IT QAT 超过 60 t/s 生成、1100 t/s 处理，Qwen3.8 27B 推理约 70 t/s、写代码约 100 t/s。随着 tensor split 与 MTP 引入及 Web 界面改版，本地模型已能完全替代云端 LLM。

  29. Hugging Face · 新模型：uncensored28

    VicTeam Agency 发布 Qwen3.8-27B-Uncensored GGUF 量化版

    VicTeam Agency 基于 Alibaba Qwen 的 Qwen3.8-27B（Apache 2.0）发布去审查版 GGUF 模型，采用 huihui-ai 社区的 abliteration 去除拒答、Unsloth 动态量化，面向单显卡本地智能体开发。提供 Q4_K_XL（约 17.4 GB，质量优先）和 IQ4_XS（约 14.4 GB，可完整装入 16 GB 显存、速度更快）两种量化，可通过 llama.cpp（llama-server --jinja）和 llama-swap 运行。

  30. GitHub · 去对齐工具与仓库62

    hokanosekai 开源 llama.kt：在 Android 端侧运行 GGUF 模型的 llama.cpp Kotlin 绑定

    hokanosekai 发布 llama.kt，一个 Kotlin/Android JNI 绑定，可在设备端加载任意 GGUF 模型运行推理，无需服务器或云端，原生 C++ 引擎提取自 llama.rn 并以纯 Kotlin API 重新暴露。在 OPPO（MediaTek Dimensity 900）上验证，Qwen2.5-0.5B（q4_K_M）CPU 约 20 tok/s；实测显示稠密模型在大核 CPU 上最快，Vulkan 仅对 Gemma 3n/4 更优，8GB 级设备可用上限约 4B 量化模型。多轮对话通过 KV cache 前缀复用，4 轮后 TTFT 保持 1.7–2.4s，而完整重预填充约需 48s。

    推荐理由：作者在真机上给出多款模型的 CPU 与 Vulkan 后端实测数据，读者可据此判断这类端侧 GGUF 推理方案的实际可用规模。

  31. Reddit · r/LocalLLaMA56

    Qwen 3.6 27B 本地十条实用玩法分享：从自建应用到给 Agent 加记忆

    Reddit 用户 GrungeWerX 在 r/LocalLLaMA 分享 Qwen 3.6 27B 的十条本地实用玩法，称基于四个多月使用经验整理，并推荐搭配 llama.cpp。做法包括让模型自建应用和聊天前端、创建 ReAct 循环与 MCP 工具、用子智能体扩展上下文、注入元数据实现时间感知和上下文超限时自动换备份模型，以及启动时加载历史会话摘要作为记忆。

  32. Reddit · r/LocalLLaMA66

    Kimi K3 发布三个月后实测：本地几乎跑不动，小模型已追平

    Reddit 用户 /u/Sanbi_Ai 复盘 Kimi K3 发布三个月后的实际使用状况：全模型 1.56 TB，Unsloth 推荐的最小量化为 594 GB，需约 610 GB RAM+VRAM，装不进 512 GB；1-bit 量化与全模型下一 token 一致率 79%，2-bit 达 90% 但需 861 GB。其在 Artificial Analysis 指数已从 57 降至 44，GLM-5.3（753B）得 45，Step 5 Preview（600B）以 44 追平；自家 API 仅 43 tok/s，AA agentic 基准平均每任务近一小时、超 $10。许可证非 MIT，公司若 12 个月内总收入超 $20M 需与 Moonshot 另行签约。

    推荐理由：作者用 Unsloth 量化文档和 AA 数据逐项核算了 Kimi K3 的本地运行门槛、API 速度和许可证限制，信息可直接用于部署决策。

  35. Reddit · r/SillyTavernAI18

    Qwen3.6 无法在 SillyTavern 中正常使用的排障求助

    一位用户在本地运行 SillyTavern 并通过自建服务器连接 llama.cpp 使用 Qwen3.6 时遇到输出不稳定问题：模型有时只输出一行，有时输出大段 "Here is a thinking process" 思考块和乱码标签。用户尝试了 jinja 模板、"derive from model metadata" 选项、在 System Prompt 添加标签以及 --reasoning-budget 0 参数均无效，且角色扮演中的 Impersonating 功能完全无法使用，在论坛求助通用模板。

  37. GitHub · 3D 生成新仓库31

    mtchms/TinyCode：基于 Tern 124M 的浏览器端 Python 代码生成与讲解模型开源

    GitHub 新仓库 mtchms/TinyCode 开源两个基于 Tern 124M 的独立模型：Code Generator 将英文请求转成 Python 代码，Code Narrator 将 Python 代码转成讲解。推理通过 ONNX 在访客本地 CPU 的 Web Worker 中运行并支持 token 流式输出，无需推理服务器或 API key，每模式按需加载约 650 MB FP32 权重，用户请求和代码不会发送到模型托管方。

  38. GitHub · 3D 生成新仓库31

    开源填字游戏工作室 Krosalita 发布：生成、手编、导入、实时多人对战

    Krosalita 是一个开源全栈填字游戏工作室，可从 62k 词库自动生成谜题、手工编辑网格、导入 crosswithfriends 真实谜题，并支持实时多人协作或积分对战。求解器基于 bitset CSP，在 Web Worker 中 p50 6ms、p95 15ms 完成填字，远快于旧版 16.8s 的波函数坍缩方案。技术栈为 React 19 + Vite 7 + Supabase + Vercel serverless，支持 PWA 离线使用和可选的本地 Ollama 线索生成。

  39. GitHub · 灵魂体仓库55

    Elitza 发布：基于 OpenCode 分支的本地自生长 AI 伴侣终端 Agent

    GitHub 上的 elitza-code 仓库发布 Elitza，一个定位为“与你一起成长”的 AI 伴侣终端 Agent，是 OpenCode 终端 Agent 的分支，MIT 协议开源。它使用 OpenRouter :free 免费模型或用户自带密钥（BYOK），不内置任何 key；记忆基于 SQLite 的 soul.db，含 persona 和自写技能，核心身份存于 ~/.elitza/SOUL.md 可编辑；提供带 sessions、subagents、LSE、diffs 和插件系统的全屏 TUI，数据全部保留本地。安装命令为 curl -fsSL https://elitza.life/install.sh | bash，源码运行需 Bun 1.4.2+。

    推荐理由：这是一个可本地运行的伴侣型终端 Agent，README 讲清了记忆存储、人格文件和 BYOK 的具体构造，可按需取用。

  40. GitHub · 灵魂体仓库44

    nvidia-api-proxy：把 NVIDIA API key 藏在自己控制的令牌之后

    GitHub 上的 nvidia-api-proxy 是一个零依赖 Node.js 反向代理，客户端用它自己的 PROXY_AUTH_TOKEN 调用 NVIDIA NIM API，真实 NVIDIA_API_KEY 只留在服务端，请求路径与请求体逐字节透传。它支持 SSE 无缓冲流式响应、timingSafeEqual 恒定时间鉴权、并发上限加有界 FIFO 队列（超限返回 429 与 Retry-After）、PROXY_RPM/PROXY_TPM 限流，客户端断开会同步取消上游请求。项目基于 Node >= 18.14，附 Render 部署配置，含 141 个黑盒测试。