跳到正文
10月16日周五
  1. GitHub · 3D 生成新仓库54

    HOT-Step CPP 发布:本地 C++/GGML 引擎运行三款 AI 音乐生成模型

    scragnog 发布 HOT-Step CPP 桌面应用,基于 acestep.cpp 和 GGML 在本地硬件上生成音乐,无需云端、API key 或订阅,支持 ACE-Step 1.5、MiniMax-Music3 和 YuE2 三个模型在工具栏切换。实验性 Training Studio 可在应用内为三个模型训练风格适配器,无需 Python;对量化基座训练将 MiniMax-Music3 的显存下限从 31.4 GB 降到约 10 GB。支持 Windows/Linux/macOS 的 CUDA、Vulkan、ROCm、Metal 和 CPU 后端,便携版解压即用,含歌词工作台、伴奏分离、音频转 MIDI、Lua 插件等功能,项目采用 MIT 许可证,模型权重各有独立条款。

  2. GitHub · 3D 生成新仓库39

    Soliplex:自托管全栈 RAG/AI 系统发布 Agent Skills 部署方案

    Soliplex 是一个自托管的全栈 RAG/AI 系统,包含基于 pydantic-ai 的 FastAPI 后端、Flutter 客户端和终端 UI。它发布两个 Agent Skills:soliplex-template 可生成含 nginx、Postgres、Ollama 等组件的完整 Docker Compose 部署栈,soliplex-docs 让 Claude Code、Codex、Copilot 等智能体直接依据官方文档回答部署与配置问题。项目采用 MIT 许可证开源。

  3. GitHub · 3D 生成新仓库39

    botextractai 开源 ai-multimodal-rag-with-videos:基于 LLaVA 与 LanceDB 的视频多模态 RAG 问答示例

    botextractai 在 GitHub 发布 ai-multimodal-rag-with-videos 示例,构建针对已摄取视频集合的多模态 RAG 问答系统。项目使用 BridgeTower 嵌入模型、LanceDB 本地向量数据库和开源 LLaVA 模型,支持视频加字幕、OpenAI whisper 生成转录、LLaVA 生成画面描述三种预处理方式,并通过 LangChain 链式调用,可经 Python 代码或 Gradio 网页界面查询,需 OpenAI 与 Prediction Guard 的 API key。

  4. GitHub · 灵魂体仓库49

    hdcola 开源 OmniVoice:macOS 菜单栏实时语音转写与翻译工具

    GitHub 上的 OmniVoice 0.8.0(内部测试版)发布,这是一款 macOS 菜单栏应用,默认在本地完成实时转写、翻译和语音输入,无需云端服务。它支持悬浮字幕面板、⌥A 划词翻译、⌥S 截图翻译和任意应用内语音输入,可用系统引擎或本地模型(R2T2、HY-MT1.5 1.8B、T3PO),平衡版模型包约 3.4 GB,需 macOS 26 或更高版本,可通过 Homebrew 安装。

  5. GitHub · 去对齐工具与仓库45

    PAWN LLM Cost Forecaster 1.0 发布:支持发现 OpenRouter 全目录模型并自动刷新价格

    ericediger 的 PAWN LLM Cost Forecaster 1.0 发布,可发现 OpenRouter 各提供商的计价文本模型、安全刷新所选模型价格并保留本地回退,仍是无需运行时依赖或 API key 的单 HTML 应用。10 月 15 日的公开目录含 463 条记录,修订后的解析器接受 456 条(379 个可选模型和 77 个 :batch 变体),排除 7 个负哨兵价格的路由别名,新增可发现模型包括 openai/gpt-6.1-sol、anthropic/claude-fable-5.1 和 google/gemini-4-argon。

  6. GitHub · 去对齐工具与仓库22

    GitHub 开源仓库 enhansome/enhansome-llm-powered-agent:LLM 智能体资源合集

    GitHub 仓库 enhansome/enhansome-llm-powered-agent 汇总了大语言模型(LLM)智能体相关的论文、开源项目等资源,涵盖推理规划、多智能体协作、Web Agent、机器人与游戏等方向。该仓库已不再活跃维护,主要收录 2023 年 10 月之前的论文,收录新论文可通过提交 PR 实现。

  7. GitHub · 灵魂体仓库59

    swanchain/computing-provider v0.6.1:把 GPU 或订阅代理变成 Swan Inference 付费推理节点

    swanchain 的 computing-provider 发布 v0.6.1,可将自有 GPU 或订阅型模型代理接入 Swan Inference 市场按 token 收费。无需钱包、区块链注册或公网 IP,通过 WebSocket 出站连接即可在 NAT 后运行;支持 llama.cpp、vLLM、SGLang 的 Docker 部署和 Mac 上的 Ollama,激活需小于 24 小时审核与可退押金(USDC、SWAN 或刷卡),并内置自检、告警、仪表盘、本地网关与 REST API。

  8. GitHub · 去对齐工具与仓库56

    Janus 开源:Claude Code 与 Anthropic API 之间的本地代理工具

    risadams 发布 Janus,一个运行在 Claude Code 与 Anthropic API 之间的本地代理,默认原样转发请求并逐条记录 token 与成本。可选功能包括 shadow、local-then-escalate、local 三种本地模型路由模式、密钥占位与文件隐私保护、Claude 不可用时的本地兜底、MCP worker 工具和压缩,压缩默认关闭因实测仅省约 1.5%。项目处于 pre-release,MIT 许可,需 Go 1.27+ 或下载构建,捕获默认保留 7 天。

    推荐理由:原文给出完整的请求处理流程、各功能开关和实测数据,比如压缩默认关闭因为只省约 1.5%,读者可据此评估是否引入。

  9. Reddit · r/LocalLLaMA53

    开源框架 OpenUI 1.0 发布,让 AI 智能体实时生成可交互 UI

    Reddit 用户转发开源项目 OpenUI 发布 1.0 版,让 LLM 用自有 DSL「OpenUI Lang」实时生成可交互界面,据称比 JSON 方案省约 67% token,且组件可流式渲染。框架 MIT 协议、模型无关,可通过 Ollama、LM Studio 接本地模型;同团队还发布了基于 diffusiongemma、4B 激活参数的开源权重模型 OUI-1,Apache 2.0 协议,在其生成式 UI 基准上得 71.7%。

  10. Reddit · r/LocalLLaMA46

    IBM Granite Switch 4.1 30B/8B 发布:单端点集成对话、决策与语音

    IBM 发布 Granite Switch 4.1 30B,一个模块化 LLM,将 granite-4.1-30b 基座(30B 参数、128K 上下文)与决策、guardian-core 两个 aLoRA 适配器及 granite-speech-5.0-470m-turboctc 语音转文本编码器组合,通过控制 token 按需切换,单端点即可在对话、决策和语音转写间切换。采用 Apache 2.0 许可,支持 Transformers 与 vLLM,另有 8B 版本及无音频的 3B/8B/30B preview 版本。

  11. Reddit · r/LocalLLaMA18

    LocalLLaMA 讨论:48GB、64GB 或 96GB 内存能否跑好用的开发用开源权重模型

    Reddit r/LocalLLaMA 用户发帖询问有哪些开源权重模型可在 48GB、64GB 或 96GB 内存上运行开发任务,希望了解大致内存占用。发帖者称在 128GB 机器上可运行不错的本地模型,尤其配合前沿模型做规划调度,但此前讨论未涉及更低内存配置的可行下限。

  12. Reddit · r/LocalLLaMA65

    capy-flash 发布:在双 16GB 消费级 GPU 上以 NVFP4 运行 Qwen3.8-Flash-Next 125B MoE

    /u/FeydRowan 发布 capy-flash,基于其 ninfer-tp2 引擎,可在两块 16GB 消费级 GPU 上以 NVFP4 运行 Qwen3.8-Flash-Next 125B-A6B(专家卸载到内存),也支持 Qwen3.8-27B,一个参数即可切换。在 2× RTX 5070 Ti 上生成约 100 tok/s(Strata 为 78),15k prompt 的 prefill 约 3.4k tok/s(Strata 为 2.7k);质量对照数据中心 NVFP4 参考用 GSM8K、MMLU-Pro 和 agentic coding 任务检验。

    推荐理由:作者给出与 Strata 在相同 NVFP4 权重下的生成和 prefill 速度对比,以及 TP=2 下 BF16 舍入误差的实测数据。

  13. GitHub · 3D 生成新仓库30

    GitHub 开源零售供应链优化项目集:单期与多期配送规划 Python 实现

    GitHub 新仓库 MuXue927/supply-chain-optimization-portfolio 发布两个可复现的 Python 项目,解决工厂向经销商配送的零售供应链优化问题。单期项目含 Gurobi 整数规划模型、列生成算法与两阶段构造式启发式;多期项目采用带 10 个 destroy 和 9 个 repair 算子的 ALNS 搜索,并提供 CPLEX Python API 基准。仓库以 uv 工作区管理,固定 Python 3.10,实验结果按小、中、大三种规模各 5 个实例提交在 results/ 目录。

  14. GitHub · 去对齐工具与仓库48

    route-arena:一个轻量级 LLM 路由器开源项目

    GitHub 开源项目 route-arena 是一个类型化、零运行时依赖的 LLM 路由器,可按 cost/quality/latency 的 Pareto 前沿为每个 prompt 选择最合适的模型,支持 cost_optimal、quality_first、balanced 三种策略并可在 arena 中实时 A/B 对比。默认离线 mock 模式运行、无需付费 API key,可选接入 OpenAI / Anthropic 真实 API;离线评测显示 balanced 策略比 quality_first 便宜约 74%,gpt-4o-mini 与 llama-3-70b 锚定低价端,claude-sonnet 锚定质量端。

  15. GitHub · 灵魂体仓库38

    Betaminos/hassio-addons:面向 Navidrome 自托管音乐工具的 Home Assistant OS 插件仓库

    GitHub 上的 Betaminos/hassio-addons 仓库为 Home Assistant OS 提供 Navidrome 相关自托管音乐插件,面向 ARM64(Raspberry Pi 5)。包含 AudioMuse-AI v3.6.3(音频分析、聚类与智能播放列表,Web UI 端口 8000)和 Maloja 3.2.7(本地 scrobble 统计,端口 42010),并说明通过 Navidrome 插件实现 Instant Mix 及基于 Renovate 的自动更新流程。

  16. GitHub · 灵魂体仓库62

    rdrr 开源:把网页内容清理成 Markdown 供 AI Agent 读取

    nam20662 在 GitHub 发布 rdrr,可将网页去除导航、广告等杂讯后转成保留代码块、表格、链接和对话结构的 Markdown,供 AI Agent 阅读。支持 CLI、TypeScript 库和 MCP server,本地运行无需 headless 浏览器或 API key;实测 rdrr 0.7.0 下 React 文档从 66,256 token 压缩到 3,785(17.5x),支持 Hacker News、YouTube、GitHub issues、Stack Overflow、Reddit、X 等来源,托管服务每 IP 每月 1,000 次免费请求,需 Node.js 22.12+,MIT 许可。

  17. GitHub · 去对齐工具与仓库53

    KrishP147 开源个人 Claude Code 技能、子代理与开发配置合集

    作者 Krish Punjabi 在 GitHub 开源其个人 Claude Code 技能、子代理与开发配置合集(MIT 许可),提供安装脚本将技能复制到 ~/.claude/skills/、代理复制到 ~/.claude/agents/。仓库包含 repo-scrub、grilling、pair、meta-orchestrator、spend-gate 等十余个技能,以及 planner、manager、implementer、verifier 四个子代理,按 Solo、Pair、Orchestrated 三种层级组织工作;所有产出文档统一写入仓库内 skilleddocs/ 目录以便版本化追溯,部分技能改编自 Matt Pocock 的 MIT 许可作品。

  18. GitHub · 去对齐工具与仓库47

    Exios66/local-mailroom-sandbox:LLM-Mailroom 流水线本地离线实验沙盒

    GitHub 上的 local-mailroom-sandbox 是一个本地优先的 LLM-Mailroom 流水线实验沙盒,可在 Ollama、vLLM、llama.cpp 或 LM Studio 上离线运行 classify → extract → report → archive 全流程,需要 API 时可切换 OpenRouter。默认模型为 Ollama 的 qwen3:8b(回退 qwen3:7b),流水线为 13 节点 LangGraph 状态机,评分用 vendored 的 llm-dojo-scoring,追踪用 Langfuse,存储为本地 SQLite。

  19. GitHub · 去对齐工具与仓库37

    Kusanagi-AI:面向研究人员的免费开源本地 AI 工具包

    开源项目 Kusanagi-AI 为物理与材料科学研究人员提供免费、可完全离线运行的本地 AI 工具包,基于 Ollama 做本地大语言模型推理,可在普通笔记本上同时运行最多三个模型。其旗舰应用 Orochimaru 是面向学术场景的 RAG 助手,支持对 PDF 文献提问、生成摘要与同行评审,默认嵌入模型为 all-minilm,也可配置 mxbai-embed-large。

  20. GitHub · 去对齐工具与仓库65

    mergegate 开源:面向多 AI 编码智能体的本地代码审查中枢

    开发者 Damian Kolasiński 开源了 mergegate,一个 MIT 协议、自托管的本地代码审查中枢,供并行运行多个 AI 编码智能体的开发者统一审查。Claude Code、OpenAI Codex、opencode 和 Cursor 等智能体通过 mg CLI 提交分支,而非手动开 PR;开发者在本地 UI 中按重要性排序审查文件,反馈以结构化事件返回给对应智能体,批准后一键 squash-merge。整个系统只需一个 Rust 二进制,无需账号、托管服务或 LLM API key,GitHub PR 或本地 git 仍是底层记录;支持通过 Tailscale 跨机器连接 worker,仅支持 macOS 和 Linux。

    推荐理由:作者开源了自托管的本地代码审查工具,针对多 AI 编码智能体并行时的审查瓶颈,给出了与 GitHub PR 流程的具体差异对比。

  21. GitHub · 3D 生成新仓库31

    CloudOps Sentinel Copilot:基于 Self-RAG 的云运维事件响应助手开源项目

    GitHub 开源项目 CloudOps Sentinel 是一个面向云运维的 Self-RAG 事件响应助手,用 LangGraph 编排检索、相关性评分、答案支撑(IsSUP)与有用性(IsUSE)检查,证据不足时重写查询并通过 Tavily 搜索网络。系统使用 OpenAI gpt-5-mini 与 text-embedding-3-large(默认嵌入维度 3072)在 Pinecone 中检索私有 runbook,SQLite 保存检查点与审计记录,并配套 Next.js 命令中心。项目仅展示系统设计,未声称已生产部署。

  22. GitHub · 3D 生成新仓库58

    llama-runtime v0.4.1 发布:面向 llama.cpp 的 Python 推理与嵌入客户端库

    Damel91 发布 llama-runtime v0.4.1,一个面向 llama.cpp / llama-server HTTP 服务的 Python 库(发行名 runtime-llama),需 Python 3.11+,唯一运行时依赖为 requests。它为文本生成、流式输出、结构化对话、推理内容分离、工具调用与 MCP 数据契约、嵌入任务前缀与批量调度提供统一客户端 API,支持副本发现、并发准入与背压控制,采用 Apache-2.0 许可证。

    推荐理由:为 llama.cpp 推理服务提供统一的 Python 客户端层,把流式输出、工具调用与嵌入批处理封装成可复用接口。

  23. GitHub · 去对齐工具与仓库29

    palmiralab/palmira-lab:面向小企业的 AI 自动化工作室网站开源项目

    palmiralab 在 GitHub 开源 palmira-lab 项目:一个面向小企业的 AI 自动化工作室网站,访客在聊天中描述需求,AI 助手通过 2–4 个追问生成商业提案或引导至免费 AI 审计。技术栈为 Next.js 16、React 19、NestJS 12、Prisma 7 与 PostgreSQL 17,LLM 使用 GigaChat 并通过统一接口支持 DeepSeek 适配器,含 Docker 部署、Telegram 与邮件通知,共 262 个测试。

  24. Hugging Face Blog71

    Black Forest Labs 发布 FLUX.3 Image Klein,首日支持 Diffusers

    Black Forest Labs 发布 FLUX.3 Image Klein,开放蒸馏版(16 步、无 CFG)和 base 版(50 步、CFG)两个权重,首日起即可在 Diffusers 中运行。单模型支持文生图、多参考图生图和 bounding box 布局控制,蒸馏版在 H100 上约 2 秒生成 1024×1024 图像,提供 fp8r 和 nvfp4 量化权重及 DreamBooth LoRA 训练脚本。

    推荐理由:官方教程给出两个开放权重的显存占用和 H100 实测生成耗时,还拆解了架构细节,方便评估部署成本。

10月15日周四
  1. Reddit · r/LocalLLaMA51

    Mistral 发布时间序列基础模型 Timestral 并开放权重

    Mistral 发布时间序列基础模型 Timestral,提供 5M、28M、123M 和 209M 四个参数版本,用于零样本预测,权重已在 Hugging Face 开放。209M 版采用带时间注意力和变量注意力的 patch-based transformer,共 24 层,支持单变量与多变量预测、过去型与已知未来协变量,可输入最多 32,768 个历史时间步,单次前向最多预测 1,024 步,输出 21 个分位数的概率预测;源代码已在 GitHub 开放以复现基准结果。

  2. Hugging Face · 新模型:abliterated26

    Huihui-Qwen3.8-27B-abliterated 发布 RBLN 编译版,适配 16× RBLN-CA25 NPU

    iAcloud 发布 huihui-ai/Huihui-Qwen3.8-27B-abliterated 的 RBLN 预编译版本,使用 optimum-rbln 0.11.2 针对 16 块 Rebellions RBLN-CA25 NPU 编译,支持 262,144 上下文长度和 batch-1 解码,编译耗时 990.9 秒,产物约 55.8 GiB。该版本为编译验证版而非推理基准,运行时加载、生成与长上下文精度尚未测试,需 RBLN NPU 和 RBLN SDK,采用 Apache-2.0 许可。

  3. Hugging Face Blog73

    Apertus 1.5 发布:8B 与 70B 开放权重模型新增多模态与思考模式

    Project Apertus 发布 Apertus 1.5,在 8B 和 70B 两代模型基础上以继续预训练方式加入图像与音频理解、可选思考模式,上下文窗口扩至 262,144 tokens(4 倍),权重于 2026 年 7 月 24 日以 Apache 2.0 许可上传 Hugging Face。8B 与 70B 分别新增 4T 和 2T tokens 训练数据,多模态通过 Emu3.5 图像 tokenizer 和 WavTokenizer 以 early-fusion 方式并入词表,架构不变;后训练含 SFT、RLVR、DPO 与 SDPO,并公开中间检查点、数据混合与技术报告(arXiv:2610.15542)。

    推荐理由:官方发布说明完整公开了四阶段预训练、五阶段后训练流程与中间检查点,读者可复现各阶段对模型行为的影响。

  4. GitHub · 3D 生成新仓库21

    tryAGI 发布 MiniMax 的 .NET SDK

    tryAGI 在 GitHub 开源了基于 AutoSDK 从 MiniMax OpenAPI 定义生成的现代 .NET SDK,支持 Hailuo 视频生成(如 MiniMax-Hailuo-2.3)、image-01 文生图与图生图、speech-2.6-turbo 语音合成及 music-2.6 音乐生成,并可将这些端点封装为 MEAI AIFunction 工具挂载到任意 IChatClient。SDK 面向当前 .NET 实践,支持 nullability、trimming 与 NativeAOT,随上游 API 变更自动更新,是 AutoSDK 维护的 200 多个 .NET SDK 之一。

  5. GitHub · 去对齐工具与仓库42

    HFusionHub:Java + Python 混合架构的多租户 AI Agent 开源平台

    开源项目 HFusionHub 提供可私有部署的多租户 AI Agent 平台,采用 Java(Spring Boot 3.5.16)管写入、Python(FastAPI)管智能的双语言分层架构,支持 RAG 问答带引用溯源、ReAct 多步任务与插件沙箱。RAG 管线含意图分类、向量+BM25+RRF 融合检索与证据门控,配 220 用例冻结套件做 CI 门禁;测试覆盖 Java 718、Python 2101、前端 117 单测加 73 E2E,支持飞书/钉钉/企业微信接入。

  6. GitHub · 灵魂体仓库43

    vacantfury/llm_utils:统一 LLM 提供商与推理路由的开源工具库

    GitHub 开源库 llm_utils 为 OpenAI、Anthropic(Claude)、Google(Gemini)、DeepSeek、xAI、OpenRouter、AWS Bedrock、本地 HuggingFace 模型及 SLURM 集群 vLLM 提供统一调用接口,切换模型只需改一个枚举值。batch_chat 按预估成本自动路由,预估 ≥ $1 的任务走原生 batch API(5 折价格),更小的任务并发实时调用;遵循 semver,可按 git tag 固定版本安装。

  7. GitHub · 去对齐工具与仓库53

    Podman AI Lab:在本地环境运行 LLM 的 Podman Desktop 开源扩展

    Podman AI Lab 是 Podman Desktop 的开源扩展,用于在本地运行 LLM,提供精选开源模型下载、容器化推理服务、Playground 实验环境和含聊天机器人、代码生成、文本摘要等用例的 Recipes Catalog。支持 GGUF、PyTorch、TensorFlow 格式,要求 Podman Desktop 1.8.0+ 与 Podman 4.9.0+,每个模型约需 4GiB 内存和 4 CPU,建议 Podman 机器至少 12GB 内存,同时运行模型不超过 3 个。

  8. GitHub · 3D 生成新仓库22

    n8n-ai-content-engine:基于 n8n 的多智能体内容生成工作流

    GitHub 新仓库 n8n-ai-content-engine 提供一个多智能体 n8n 工作流,通过 OpenAI gpt-5-mini 将表单请求转为经校验和人工审核的内容。流程含编排、生成、医疗与品牌双验证器打分、最多 3 轮自动精修循环及人工审批,面向生育与生殖健康内容,状态为 MVP。基于 Ollama 与 Qwen2.5-Coder-7B 的本地版本正在单独开发中。