跳到正文
10月21日周三
  1. GitHub · 灵魂体仓库68

    PromptHub v0.6.0 发布:本地管理 Prompt 与 Skill 并一键分发到 15+ AI 编程工具

    legeling 的 PromptHub v0.6.0 正式发布,提供 Windows、macOS、Linux 安装包和独立 CLI,数据默认存本地。内置 Skill 商店含 20+ 精选技能,可一键安装到 Claude Code、Cursor、Codex、Windsurf、Cline 等 15+ 平台,支持 Prompt 版本历史、多模型并行测试、WebDAV/S3 同步和 Docker 自部署 Web 备份,采用 AGPL-3.0 许可证。

  2. GitHub · 灵魂体仓库26

    Deen-Bridge/dnb-ai:基于 Gemini 的伊斯兰教育 AI 助手服务

    Deen Bridge(Stellar 网络上的伊斯兰教育平台)开源了 dnb-ai,一个封装 Google Gemini 的 FastAPI 服务,提供带伊斯兰知识系统提示词、内容安全过滤和会话历史记录的聊天 API。服务支持钱包 USDC 天课估算、经训引用的多语言问答、圣训研究智能体(isnad 链分析与十部主要圣训集交叉核验)及按需转交学者审核的置信度机制。该服务仅提供信息计算,不签署或提交 Stellar 交易。

  3. GitHub · 灵魂体仓库59

    search-agent-harness 开源:面向人才搜索的自适应 Search Agent 框架

    12wa2 在 GitHub 开源 search-agent-harness,一个人才搜索场景的自适应 Search Agent,按需求难度路由为 3 阶段直连、5 阶段轻量 Agent 或最多 8 阶段的反思循环,由状态机管理迭代、路径、LLM 调用、Token 和墙钟五类预算,支持零 API Key 演示与 Elasticsearch 8。评测显示反思循环将真实 LLM A/B 的池召回从 0.735 提到 0.937,但交付 Recall@5 的 bootstrap 区间跨过 0,且模型调用与 Token 消耗约为单趟基线的 3 倍、p50 延迟约 2.8 倍;检索通过 SearchTool 协议解耦,含 484 项测试,MIT 协议。

    推荐理由:项目自带离线消融和真实 LLM A/B 数据,甚至给出反思循环成本为单趟 3 倍、交付提升不稳定的负面结果,工程边界交代得比较诚实。

  4. GitHub · 灵魂体仓库28

    AI Finance Copilot:面向马来西亚中小企业的多租户 AI 财务助手

    GitHub 开源项目 AI Finance Copilot 让马来西亚中小企业用自然语言查询财务数据,并获取带引用的 LHDN 电子发票规则解答。它结合 text-to-SQL 智能体、基于 pgvector 的 RAG 管道(348 个官方指南文本块、Gemini 1,536 维嵌入)和 PDF 发票结构化提取(10 张合成发票 100% 字段准确率),使用 Groq 上的 gpt-oss-120b 模型,并通过 PostgreSQL RLS 和只读角色实现数据隔离。项目基于 FastAPI、LangChain、Supabase 和 Streamlit 构建,已提供 Live Demo。

  5. GitHub · 灵魂体仓库37

    OpenCode V2 插件 oc-omniroute-plugin 发布:连接 OmniRoute 网关并整理模型列表

    @devvara/oc-omniroute-plugin 是一个连接 OpenCode 与 OmniRoute 网关的开源插件。它会过滤非对话模型、将 claude-opus-5-low/medium/high 等档位折叠为单一模型并在原生变体选择器中切换推理等级,同时清理"Free"标签并默认隐藏不可用的上游连接。插件还通过 /v1/search 和 /v1/web/fetch 提供 REST 网页搜索与抓取工具,无需额外 MCP 服务器,且推理、搜索和元数据共用一个 API key。

  6. GitHub · 灵魂体仓库66

    overbrainer 开源:命令行把大模型蒸馏成小模型并用 Axolotl 微调

    GitHub 开源工具 overbrainer v0.9.0 支持从命令行把大的父模型蒸馏成更小的开放权重子模型:向父模型生成问题并收集带推理的回答,用 Axolotl 在本地、SSH 机器或 Runpod 上做 LoRA 微调,再导出量化 GGUF 和 Ollama Modelfile。overbrainer compare 在评测集上对比子模型与父模型的胜率、延迟和每千次请求成本,并提供六视图终端 UI、Prometheus 指标和可安装到 Claude Code 的 agent skill。项目处于早期开发阶段,1.0 前小版本可能有破坏性变更。

    推荐理由:从生成数据集到用 Axolotl 微调再到导出 GGUF 全流程一条命令走完,还用胜负率和成本对比衡量孩子与父模型的差距。

  7. GitHub · 灵魂体仓库23

    Qualcomm efficient-transformers:面向 Qualcomm Cloud AI 的 LLM 高效推理库更新动态

    Qualcomm 开源的 efficient-transformers 库将预训练 LLM 重写为可在 Qualcomm Cloud AI(AI100、AI200 等)上高效推理的优化形式,提供图变换、低精度执行、ONNX 导出、Patcher 与示例应用等能力。最新动态包括 07/2026 新增 Kimi-K2.5 视觉语言模型支持和 QEFFAutoModelForCausalLM.export() 的 dynamo ONNX 导出,06/2026 新增 Gemma4、Qwen3.6、Qwen3 VL、GLM-4.5 MoE 支持等。

  8. GitHub · 灵魂体仓库43

    Neosyn-Logic cg-agent-kit:把 C⏚ FPGA 工具链交给 AI Agent 的 MCP 服务器

    Neosyn-Logic 在 GitHub 发布 cg-agent-kit,一个把 C⏚ FPGA 工具链交给 AI 智能体的 MCP 服务器:模型编写硬件,服务器用真实编译器完成编译、仿真与综合检查并回传结构化诊断。它包含 cg_context.md 知识包和 MCP 工具两部分,需 Python 3.10+ 和 Java 17+,兼容 Claude Desktop、Claude Code、Cursor、Cline 等任何 stdio-MCP 宿主,通过 pip install neosyn-fpga-mcp 安装。

  9. GitHub · 灵魂体仓库31

    Reviewer-AI:基于大语言模型的 Git 暂存变更命令行审查工具

    Reviewer-AI 是一个用大语言模型审查 Git 暂存变更的命令行工具,在 git commit 前让模型通过 glob、grep、read_file 等只读工具收集上下文,输出含文件路径、行号和严重级别的结构化发现。每条发现会经独立的并发验证环节过滤误报,审查记录存储在本地 SQLite 中,并提供 Web 界面浏览历史、讨论发现和执行增量审查。工具支持 OpenAI 与 Anthropic 两种 API 协议,需 Go 1.25+ 安装,目前处于早期开发阶段,核心工作流已稳定。

  10. Reddit · r/LocalLLaMA44

    ThousandML 开源 Training Factory:基于 QLoRA 微调 4-bit 量化模型

    ThousandML 发布开源微调平台 Training Factory,用 QLoRA 对 4-bit 量化模型做微调以降低 GPU 成本。其采用的 CQ(Coded Quantization)是无校准量化,效果与主流量化相当,已提供 Qwen3.8-27B-CQ-4bit、Llama-3.1-8B-Instruct-CQ-4bit、Llama-3.3-70B-Instruct-CQ-4bit 等底座,并支持用 vLLM 加载 LoRA adapter 部署。

  11. AIHOT · 精选63

    DeepSeek 开源 DeepInfer 推理框架,披露单集群 155T tokens/日与约 80% 推理毛利

    DeepSeek 在 PyTorch Conf 期间开源 DeepInfer,即支撑 V4.1 Flash 的生产推理栈。该框架基于 vLLM 定制,支持 NVIDIA SM100 与华为昇腾 950,并配套发布 deepseek-recipe。

    推荐理由:DeepSeek 放出生产级推理栈本身罕见,单集群吞吐与推理毛利数字可作推理成本侧的参照。

  12. Reddit · r/LocalLLaMA18

    2x5090 + 128GB 内存下用 vLLM 部署 Qwen3.8 Flash Next 的最佳配置讨论

    一位 Reddit r/LocalLLaMA 用户在 2x5090 + 128GB 内存的本地环境运行 Qwen3.8-27B 做智能体编程,称 vLLM 是唯一不破坏 KV cache 且能高效利用的框架,目前使用 Minachist 的 Qwen3.8-27B-INT6-Mixed-AutoRound 量化版本。他考虑改用 Flash Next,但未找到针对 2x5090 + vLLM 的平衡配置方案,向社区征求部署经验。

  13. GitHub · 3D 生成新仓库44

    text-to-ui-html 发布候选版本 1.0.0-rc.3

    GitHub 新仓库 ahai66666/text-to-ui-html 发布 1.0.0-rc.3 候选版本,用于按需求生成动态 HTML、规范化已确认 Demo 样式及精确修改页面。技能支持交接协议 schemaVersion 1、共享数据 1.0.1,内置三层路由与 49 个标准组件,使用需 Node.js 22+ 和 pnpm。完整视觉、外部模型及异步业务模块生命周期验收未通过,正式版需另行完成。

  14. GitHub · 3D 生成新仓库20

    CAMXORA 白标 AI 音乐生成平台仓库 somvannda/camroxa 说明

    somvannda/camroxa 仓库托管 CAMXORA 白标 AI 音乐生成平台,现役产品 musicapi/ 包含 Fastify 5 + TypeScript 核心 API(端口 4003)、Next.js 16 用户工作区(4001)和 Next.js 16 管理控制台(4002),按 credit 计费并基于 Suno 账号池运行。部署要求 Node 20+ 与 PostgreSQL(本地库名 sunoapi),仓库另保留 Python/Electron 等旧版代码仅供参考。

  15. GitHub · 3D 生成新仓库35

    Tiri6/ItalianNextGen:AI 智能体驱动的意大利年轻球员新闻站开源

    GitHub 上开源的 ItalianNextGen 项目用智能体流水线自动采集意大利青年球员新闻:scout 智能体通过 Google News RSS 抓取 watchlist 球员动态,validator 智能体去重过滤后由人工审核发布。撰写智能体可生成 IT+EN 双语文章(`npm run write`,每次最多 40 篇,基于 ANTHROPIC_API_KEY,约每篇半美分),支持从 Football Manager 导入球员数据、追踪 U15–U21 各级国青及海外球员,最终由 Astro 构建静态站点部署到 GitHub Pages。

  16. GitHub · 3D 生成新仓库19

    MGFlow 开源项目网站发布:单步视觉生成分布式训练统一框架

    shihaoyang0423 发布 MGFlow 项目网站,用于论文 "Unifying Distributional Training for One-Step Visual Generation",提供交互式 demo、模型权重下载与样本浏览。站点为无构建依赖的静态页面,内置原生 interactive ImageBench 排行榜(2026-10-21 快照:76 个 All models / 37 个 Local),支持查看指标、切换视图和导出 SVG,通过 GitHub Pages 部署。

  17. GitHub · 3D 生成新仓库49

    OpenBook 开源:用任意 AI 为孩子写一本可定制的教科书

    GitHub 上的 OpenBook 开源项目让家长用任意 AI 为孩子生成教科书:按大学教材规划、逐节撰写并做准确性审查,输出带章节编号、例题、习题集和答案手册的 PDF,还支持有声书和阅读障碍友好排版。可用 Claude Code、Codex 等智能体模式、免费聊天机器人复制粘贴模式或本地模型(Ollama、LM Studio)运行,所有章节均为 Markdown 文件,无需订阅,数据不出本机,采用 MIT 许可证。

  18. GitHub · 3D 生成新仓库9

    MLSI 晶体结构识别引擎开源:基于 DGCNN 的 OVITO modifier

    MLSI(Machine Learning Structure Identifier)是一个基于 PyTorch 实现 DGCNN 的晶体结构识别引擎,以 OVITO Python modifier 形式提供。仓库含两类预训练模型:一类分类 BCC、FCC、HCP 等简单晶体结构及其熔体,另一类可区分 25 种 SiO2 相(含 alpha-quartz、coesite、stishovite 等及非晶相和熔体)。项目处于开发中,测试环境为 OVITO Pro 3.10.1 与 PyTorch 1.13.1,并提供脚本供用户训练自己的模型。

  19. Reddit · r/LocalLLaMA70

    开发者为 llama.cpp 实现快速 LoRA kernel,Strix Halo 上 PP 从 300 提升到 1400 t/s

    /u/woct0rdho 为 llama.cpp 编写了 LoRA 推理 kernel,代码见 https://github.com/woct0rdho/llama.cpp 。在 Strix Halo 上,加载 35 MB 的 LoRA(如把 Qwen3.8-Flash-Next 转成 uncensored 版的 chenrm/qwen3.8-flash-next-abliterated-lora)原本使 PP 从约 1500 降到 300 t/s,通用 kernel 提升到 1000 t/s,fused kernel 进一步到 1400 t/s。LoRA scale 可调节去审查与能力损失之间的平衡,且无需重新下载整个模型。

    推荐理由:作者给出了 LoRA 推理在 Strix Halo 上从 300 到 1400 t/s 的实测数据,并开放了可复用的 kernel 代码。

  20. Reddit · r/LocalLLaMA68

    Kapitsa 0.2 发布 KFlash 投机解码,并实测对比 Apple Silicon 多款推理引擎

    Kapitsa 开发者发布 0.2 版,引入新投机解码方法 KFlash,并在 MacBook Pro M4 Pro 48GB 与 M1 Pro 16GB 上对比多款引擎的解码速度。Qwen3.8 27B 4-bit 下 Kapitsa 0.2 KFlash 达 63 tok/s,Inco Splash 1.4.0 DFlash2 为 53 tok/s;Qwen3.6 35B-A3B 上两者分别为 161 和 135 tok/s。KFlash 在同一遍检查中用 best-first 树检查草稿候选,而非单链遇错即停。作者提供 kapitsa bench 供用户自测并提交结果,Splash 需 M3 或更新芯片,Kapitsa 支持 M1 至 M6。

    推荐理由:作者给出两代 Mac 上多引擎的实测数据,并解释了 KFlash 与 DFlash2 在投机解码检查方式上的差异,便于读者对照自己的机型。

  21. GitHub · 去对齐工具与仓库18

    devops-ai-stack-docs:DevOps AI Agent Stack 文档导入 Confluence 指南

    nvlannasik/devops-ai-stack-docs 仓库提供 7 个 Markdown 页面(1 个父页加 6 个子页),涵盖架构、调查流程、修复与安全护栏、部署配置、运维和 Slack 用户指南,用于导入 Confluence Cloud。文档含 3 张用 archify v3.2.0 生成的图表,提供 PNG、SVG 和可交互 HTML 三种格式,修改图表需编辑 candidate.json 后用 archify finalize 重新渲染。

  22. GitHub · 去对齐工具与仓库47

    OpenExpert:完全本地运行的开源 AI 运营仪表盘

    OpenExpert 是一个 MIT 协议开源的 AI 运营仪表盘,完全在本地运行,数据存于单个 SQLite 文件,无需云端、账号或数据库服务器。它提供严格数据隔离的 Experts、可调用工具的聊天、需人工审批的 AI 操作及完整审计回溯,支持 Ollama(默认)、Google Gemini、Claude 或任意 OpenAI 兼容端点,并可集成 Google Drive、本地文件夹和 Notion。

  23. GitHub · 去对齐工具与仓库62

    matrixarkai 开源 Rust 编写的分布式时间感知服务引擎 TemporalStore

    matrixarkai 在 GitHub 发布 Apache-2.0 协议的 TemporalStore,一个 Rust 编写的分布式时间感知服务引擎,用单一时间索引统一上下文管理、长序列、聚合特征、频次控制与控制状态五类读路径,不依赖向量数据库。它提供 Redis 兼容的 RESP 接口,单节点一条 Docker 命令即可本地运行,可经 MatrixRaft 共识扩展到共享存储集群;Python 上下文工具与 MCP 服务器在 matrixark 仓库,基准与文档见 temporalstore.ai/benchmarks.html。

    推荐理由:原文给出架构、部署命令和基准文档入口,读者可据此评估用一个时间感知引擎替代向量库加特征库加计数层的组合方案。

  24. GitHub · 去对齐工具与仓库39

    OOP(Organization Orchestration Protocol):让 AI 工作不依赖单一模型或厂商的组织编排协议

    GitHub 上的 OOP(Organization Orchestration Protocol)是一套厂商中立的开源操作协议,通过把目标、职责、决策和工作转为可版本化、机器可读的信息,让长期项目不依赖单一 AI 的聊天记忆,兼容的 AI 可接续工作。它将 CI/CD 机制扩展到组织协调,用于检查变更依赖、同步授权更新并验证一致性,适用于公司、非营利组织、独立专业人士和自主项目。

  25. GitHub · 去对齐工具与仓库43

    snake-ai:神经网络学玩贪吃蛇的开源实验项目

    GitHub 开源项目 snake-ai 让神经网络学习玩贪吃蛇,提供遗传算法(numpy)和 Deep Q-learning(PyTorch)两种训练算法,支持 5 种视觉输入和 10 种奖励特征组合。项目内置浏览器 dashboard 可实时启动、观察、逐步检查和对比训练 run,每个 run 保存完整配方便于复现,附九节课程(每配方用 3 个 seed 训练)。可选 LLM 分析功能默认使用 anthropic/claude-haiku-5.5 模型,通过 TokenRouter 或 OpenRouter 调用。

  26. GitHub · 去对齐工具与仓库63

    thinking-framework-skills 发布:63 个证据分级、可被智能体执行的思维方法技能库

    product-on-purpose 发布 thinking-framework-skills v0.18.6,一个包含 63 个思维框架的技能库,覆盖 12 个认知操作族,外加 4 个元技能工具和 9 个配方,每个技能输出风险登记表、选项矩阵等具体产物而非文字建议。每个方法按 S/M/P/V/A/C/X 七档证据等级标注,其中 11 个技能达到 S 或 S-M 档,SWOT、Five Whys、ACH 等 7 个知名但证据薄弱的方法被列为 contested lens 并以警示优先方式提供;库中明确标注几乎所有研究基于人类被试、尚未在 AI 智能体上验证。

    推荐理由:这个技能库把每个思维方法都标了 S 到 X 七档证据等级,并明确区分人类研究证据与 AI 智能体上的迁移效果,方便按证据强度选方法。

  27. GitHub · 去对齐工具与仓库48

    utkuozdemir/nvidia_gpu_exporter:基于 nvidia-smi 的 Prometheus GPU 指标导出器

    nvidia_gpu_exporter 是一个利用 nvidia-smi 采集 GPU 指标的 Prometheus 导出器,支持 Linux、Windows 和 macOS,可运行在裸机、Docker 或 Kubernetes 上,无需 C bindings,还可远程执行 nvidia-smi。Linux 上可选实验性 NVML 后端,直接读驱动库并增加 per-MIG-instance 指标、XID 错误计数、总能耗计数和 PCIe 吞吐;demo 模式默认模拟两块 H200。项目附带两个官方 Grafana 面板(ID 14574 和 25547),发布产物用 cosign 无密钥签名。

  28. GitHub · 去对齐工具与仓库67

    pham-canh/space-harness:面向 OpenCode 的模型无关多 lane 编排套件

    pham-canh 发布 opencode-harness-kit,一套面向 OpenCode 的 harness 套件,通过 profile 把模型相关配置编译进 opencode.jsonc,源码中不含任何模型名,切换模型只需改数据。默认 fleet-safe profile 用 10 个 lane 分配 10 个免费模型处理不同任务,附 2026-10-21 实测的各 lane 中位延迟表;隐私分 zero-retention、retained、may-train 三级,retention.yml 人工维护。套件含 guard、prune、router、telemetry 四个插件模块,verify 命令校验安装完整性,doctor 检测免费模型下架导致的漂移。

    同一新闻,精选展示《opencode-harness-kit 发布:为 OpenCode 构建模型无关的十车道编码 harness》

  29. GitHub · 去对齐工具与仓库62

    aulos:本地运行的开源 AI 编程 Agent 完整开源

    Steve-pixel-cpu 开源了本地运行的 AI 编程 Agent aulos,用自然语言下任务后自动读文件、改代码、跑命令直到完成,提供终端和 Tauri 2 桌面端。基于 MiniCC 扩展(行级对比 92% 重写/新增),38k 行 Python 内核、1070+ 测试用例,内置三级权限体系、MicroCompact/Session Memory/Full Compact 三层压缩、MCP 接入、多 Agent 并行、6 类评测任务与跨会话记忆,兼容任何 Anthropic/OpenAI 接口的模型服务。项目地址 https://github.com/Steve-pixel-cpu/aulos。

    推荐理由:开源的本地编程 Agent 完整给出三层压缩、权限分级和评测框架的实现细节,可作自建 Agent 的架构参考。

  30. GitHub · 去对齐工具与仓库50

    Xin API:兼容 OpenAI、Claude、DeepSeek、Gemini 的开源 LLM 网关

    开源项目 Xin API 是一个高性能 LLM 网关,兼容 OpenAI、Anthropic Claude、DeepSeek、Gemini 等主流大模型,提供统一 API 接入、渠道路由、计费结算与可观测能力。支持优先级加权轮询分发、基于 Redis 的分布式熔断、模型名映射、USD/CNY 计价结算及 60 秒窗口的渠道指标聚合。技术栈为 Go 1.25 + React 19 + PostgreSQL 16 + Redis 7,提供 Docker Compose 一键部署,采用 MIT 协议开源。

  31. GitHub · 去对齐工具与仓库58

    SRouter 开源:本地 AI 网关聚合约 60 家供应商与 1200+ 模型

    baiibayu 在 GitHub 发布开源工具 SRouter,一个本地运行的 AI 网关与智能路由器,把 Claude Code、Cursor、Windsurf、Cline 等编码工具统一接到一个 OpenAI 兼容端点(http://localhost:20268/v1),聚合约 60 家供应商和 1200+ 模型。核心机制包括订阅、付费与免密钥免费三层自动回退(上游 429/5xx 时冷却并切换下一模型)、可节省 20–40% token 的提示词压缩管线、每日两次经 Ed25519 签名同步的模型目录、AES-256-GCM 本地加密密钥库,以及原生支持 Anthropic Messages、Gemini、Ollama 和 Codex /v1/responses 协议。

    推荐理由:原文给出了三层回退、token 压缩比例和本地加密等具体机制,可据此评估这个本地网关是否值得接入自己的编码工具链。

  32. GitHub · 去对齐工具与仓库48

    OpenSAE 开源 SAEBase:可复现稀疏自编码器(SAE)研究工具包

    OpenSAE 发布开源工具包 SAEBase,用于可复现的稀疏自编码器(SAE)研究,支持加载模型与 SAE、捕获与复用激活缓存、特征干预与消融,并独立报告 L0、重构 MSE、FVU 等指标而不合成单一分数。配套 Research Lab 提供 48 个站点 × 500 条冻结提示的测量、300 张统计卡片及 SAR、RSS、Input Localization 分析,支持 Python 3.11–3.12,可通过 Docker 在 Hugging Face 浏览。

  33. GitHub · 去对齐工具与仓库48

    tymtym4ty470/mambo-chess:曼波棋社四棋一桌本地网页棋室

    开源项目曼波棋社(Mambo Chess Club)把五子棋、围棋、中国象棋、国际象棋装进同一个浏览器界面,内置五档难度的本地战术引擎,无需注册、无需联网即可对弈。可选接入 DeepSeek、通义千问、Kimi、Ollama 等 OpenAI 兼容 API,模型着法须经本地规则引擎校验才落盘;源代码采用 MIT 许可证,素材不在覆盖范围内。

  34. GitHub · 去对齐工具与仓库53

    KOIYAL 开源 local-transcriber 本地音视频转录工具

    KOIYAL 在 GitHub 发布 local-transcriber,支持 Windows 和 macOS 本地转录音视频文件并生成带时间戳文本与本地 LLM 摘要,全程不联网。转录用 faster-whisper,摘要优先用 Apple Intelligence,其他环境回退到 llama-cpp-python 加载 GGUF 模型;支持 TXT、SRT、VTT、JSON 导出,采用 GNU AGPL-3.0 许可证。

  35. GitHub · 灵魂体仓库37

    Zen:面向所有 LLM 的免费 AI 编程 Agent VSCode 扩展发布

    开源仓库 KhanhRomVN/Zen 推出 VSCode 扩展 Zen,将编辑器变成可读写文件、运行终端命令和执行 Git 操作的 AI 编程 Agent,免费且无需订阅。它支持两层连接:通过 API key 接入 OpenAI、DeepSeek、Anthropic Claude、Google Gemini、Qwen、Ollama 等,或用 Chromium 自动化登录 ChatGPT、Gemini、Claude.ai、Qwen、GitHub Copilot 等免费网页版,无需 API key。扩展提供 3 级权限系统、修改前自动 checkpoint 并支持一键回滚、多账号管理与用量跟踪,并集成 LSP 诊断自动修复错误。