跳到正文
10月26日周一
  1. Reddit · r/LocalLLaMA73

    RTX 3080 20GB 解锁 reBAR 与 P2P,实测 prompt 处理速度提升 70% 以上

    /u/nathannguyennng 解锁了 RTX 3080 20GB 的 reBAR 与 P2P,/u/No-Refrigerator-1672 在双卡张量并行下用 vllm 0.32.0 实测验证。8k 到 261900 token 长度的 prompt 预填充速度较原厂提升 71%-115%,其中 P2P 相对仅 gpu_unlock 另有最多约 70% 提升;开启 MTP 后 decode 速度基本在噪声范围内无明显变化。作者提示 3080 用户在长 prompt 场景(含 agentic coding)可关注该解锁,且需双卡均有完整 PCIe 连接才能获得同等收益。

    推荐理由:作者实测了 reBAR 与 P2P 解锁在双 RTX 308 20GB 张量并行下的 TTFT 与 ITL 数据,可看清该解锁对长上下文预填充的实际收益边界。

  2. GitHub · 3D 生成新仓库37

    II Studio v0.1.0 RC 发布:用你自己的 AI 连接从需求生成可交互界面与工作流

    开发者 Mahesh V V 发布 II Studio v0.1.0 候选版,一个 local-first 界面与流程图生成工具,用户通过自己的 AI CLI 连接(antigravity、codex、claude 或 gemini)描述需求即可生成仪表盘、表单和流程,并保留本地版本历史。项目采用 Apache-2.0 协议,支持 macOS(Apple Silicon 与 Intel)和 Windows 11 x64,项目数据保存在浏览器 IndexedDB,无遥测、无云同步,并提供实验性的可编辑 Figma 导出。

  3. GitHub · 3D 生成新仓库25

    DLSS 5 Swapper Enhanced:skyi7943-cmd 发布 RTX 40/50 系列深度重构的独立开源分支

    skyi7943-cmd 基于 MIT 许可的 DLSS 5 Swapper v2.2.9 发布独立开源社区分支 DLSS 5 Swapper Enhanced,支持 RTX 40 系笔记本、40 系桌面卡与 50 系原生卡三档调优。该分支提供 40 系动态多帧生成解锁(笔记本省约 45% 神经渲染显存、单通道再省约 450 MB)、50 系 Blackwell sm_120 原生直通,兼容 Streamline 2.2~2.14+ 与 DirectX 12/Vulkan,100% 离线运行并永久免费开源,游戏内 Home 菜单已实现零崩溃简体中文化。

  4. GitHub · 3D 生成新仓库58

    vivekg7 开源 talekit:让 AI Agent 用 MCP 生成 2D 故事动画视频

    vivekg7 在 GitHub 发布 talekit,一个面向 AI Agent 的故事视频生成工具,Agent 通过 MCP 服务器设计角色与场景、写逐镜头时间线、根据渲染预览自查,最终输出带语音气泡和配音的 2D 动画 mp4。方案是让 Agent 写它熟悉的语言(SVG 片段加 JSON),引擎负责绑定、行走、镜头、天气、声音、编码等手工难以做对的环节,每次写入都返回图片便于修正;依赖 Node 20+ 和 ffmpeg,语音需要 Apple Silicon Mac 上的 MLX,另附 Python kit 和多个 MCP 工具与 CLI 命令,项目地址 https://github.com/vivekg7/talekit。

    推荐理由:面向 Agent 的故事视频生成工具,作者讲了让 Agent 写 SVG 和 JSON、每次写入返回预览图来自查的思路,方案可迁移到其他可视化任务。

  5. GitHub · 3D 生成新仓库15

    video-seo-engine 开源仓库:YouTube 视频自动生成 SEO 优化的 WordPress 文章

    video-seo-engine 是一个自动化视频 SEO 流水线,可将 YouTube 视频经 VTT 字幕和 AI(Claude/Gemini)生成含 VideoObject/FAQ schema 的 WordPress 文章。它支持 Channel Monitor 与 Portal Scanner 两种模式,提供 Free(5 部影片/月)、STARTER(49 兹罗提/30 部)、PRO(149 兹罗提/110 部)和 AGENCY(499 兹罗提/250 部)套餐。实测 schema 合规得分 8/10(对标 TVP Info 3/10),技术栈基于 Python 3.10+、FastAPI 和 PostgreSQL 16。

  6. GitHub · 3D 生成新仓库24

    VectOrEdit v0.3.14:基于向量的语义知识编辑器与实时 Linter 新仓库发布

    GitHub 新仓库 VectOrEdit 发布 v0.3.14,这是一款独立的桌面编辑器,面向知识管理、结构化文档撰写和实时语义校验,内置 Rust 实现的 HNSW 向量索引引擎与本地 transformer 嵌入。本地模式下嵌入模型 multilingual-e5-small 通过 WebAssembly SIMD 与 ONNX Runtime 完全在 CPU 上离线运行,无遥测,并可切换 Google Gemini、OpenAI、Anthropic Claude 多个 AI 提供商,集成 Monaco 编辑器提供语义 Linter 与自动补全。

  7. GitHub · 3D 生成新仓库12

    开源项目:基于 Hugging Face 深度学习模型的多模态文本生成图像方案

    GitHub 开源项目 A-Multimodal-Approach-to-Text-to-Image-Generation-Using-Deep-Learning-Models 探索基于 Hugging Face 文生图模型的多模态生成。项目用 Python 和 React.js 构建交互界面,实验了 100+ 提示词变体,评估 500+ 张生成图像,从提示词遵循度、语义相关性和视觉质量三方面对比不同模型的输出。

  8. GitHub · 3D 生成新仓库25

    ContentGen:本地优先 AI 内容工作室规范(YukiUmetsu/ai-content-generation)

    YukiUmetsu 的 ai-content-generation 仓库发布 ContentGen 规范:一个本地优先、研究驱动的内容生产工作室,目标平台为 Apple Silicon M4、24 GB 统一内存,后端 Rust/Axum/SQLite、前端 React/TypeScript。新增可选的 YouTube 细分监控功能,使用 YouTube Data API v3,密钥存入 macOS Keychain,默认关闭且限制 10 个细分、24 小时内 20 次 API 搜索、缓存 30 天过期。域名/后端规范尚未实现,前端基础可在 apps/web 运行。

  9. GitHub · 3D 生成新仓库47

    IlyaEmelin/batch-generation-service:Qwen2.5-1.5B-Instruct 批量生成服务项目报告

    基于本地 vLLM 部署的 Qwen2.5-1.5B-Instruct 构建批量商品卡片生成服务,对 300 个商品生成五键结构卡片,三次重试将格式有效率从约 0.40 提升到 0.903,retry_rate 为 0.497。参数实验显示 repetition_penalty 1.05 在 dev 上更好但全量跑降至 0.820,最终弃用。API 对比中 OpenRouter 上的 openai/gpt-oss-20b(reasoning_effort=low,max_tokens=500)在 30 个商品上全部有效,按 20 ₽/60 ₽ 每百万 token 计费约 34.677 ₽/1000 张卡片。

  10. GitHub · 3D 生成新仓库17

    FileZen 开源:集 PDF 工具、文档转换与 AI PDF 问答于一体的一站式文档效率平台

    FileZen 是一个开源的一站式文档效率平台,基于 React + Vite 前端和 FastAPI 后端,提供 PDF 工具、文件格式转换、图片压缩、简历构建、报告生成、二维码生成及文件管理功能。其 AI PDF 问答功能通过 Google Gemini API 实现,默认模型为 gemini-3.8-flash,用户需自备 GEMINI_API_KEY。项目尚未指定开源许可证,作者计划补充更多转换格式与自动化测试。

  11. GitHub · 3D 生成新仓库25

    Varbase 发布 AI 基础模块仓库 varbase_ai_base

    Drupal 发行版 Varbase 在 GitHub 上开源了 varbase_ai_base 仓库,这是用于安装核心 AI 模块并应用默认 Varbase AI 配置的基础 recipe。用户需先通过 composer require drupal/varbase_ai_base:~1 安装,再用 Drupal recipe 脚本或 Drush 命令执行。应用前必须先配置 AI provider 和默认聊天模型,否则会因缺少默认 chat 模型而中止。

  12. GitHub · 去对齐工具与仓库43

    vianhanif/9router-api:去掉 Dashboard UI 的独立 LLM API 服务器

    9router-api 是一个独立 LLM API 服务器,将 9router 代码库作为库使用,剥离 Dashboard UI(Monaco editor、Recharts),去除 React SSR 开销后内存占用从约 300-500MB 降到约 100-150MB。它提供与 9Router 相同的 LLM 代理端点,包括 OpenAI 兼容的 /v1/chat/completions 及基于 SSE 的控制台日志流,需 Node.js 20+ 并依赖 9router 主应用,可用 PM2 管理。

  13. GitHub · 去对齐工具与仓库42

    Cwentor/DataAgent:企业级 Data Agent 开源项目,LLM 产出受控 DSL 确定性生成 SQL

    GitHub 开源项目 Cwentor/DataAgent 构建企业级 Data Agent,链路为自然语言→受控 DSL→确定性 SQL→DuckDB,LLM 只产出契约内 JSON、绝不生成裸 SQL,以实现零幻觉、零注入。系统含意图五分类路由、LangGraph 六节点编排、GuardrailAgent 执行前 sqlglot AST 审计、表/列/行级 RLS,并支持 MySQL 8.0(>=8.0.18)双后端与 OpenAI、Anthropic、Gemini 等多供应商接入。

  14. GitHub · 去对齐工具与仓库61

    be-ambitious-harness 发布:planner/worker/verifier 三角色智能体工作流框架

    作者 alexpr 发布 be-ambitious-harness,一个以 Claude Code 技能形式交付的提示工程框架和多智能体工作流,用双目标条、廉价 gate 检查和独立 verifier(不看 worker 推理过程,建议用不同模型)来让 AI 智能体承接更激进的任务而不失控。框架含六个场景 playbook、8 个测试任务和 30 项评分卡的 eval 套件,设计上针对约束饱和(单次生成超过 5-6 条约束可靠性下降)、负面指令反噬和 LLM 评审自偏好偏差三个研究结论。

    推荐理由:作者给出了完整的多智能体工作流设计和两次带记录的 eval 实测,还诚实标注了 harness 自身的缺陷与未跑任务,便于评估可复用性。

  15. GitHub · 去对齐工具与仓库42

    Cromford:开源软件工厂,自动从工单到 PR 再到部署验证全流程无人值守

    开源软件工厂 Cromford(cromford.dev)可无人值守地把产品板工单推进为 PR:经过 triage、plan、build、对抗式 review、preview QA、merge、deploy-verify 和 post-merge QA 八个固定阶段,每阶段有独立 runner、模型与预算。其设计原则是脚本可判定的事不用 LLM,配置即数据,支持 claude→grok→codex-configured openrouter→fireworks 的多供应商降级链与逐调用成本记录,并可基于 Cloudflare、GitHub、Fly 自有账户自托管。

  16. GitHub · 去对齐工具与仓库48

    IncidentZero:开源自治 SRE 智能体项目,用纯 Python 运行时调查并修复生产事故

    GitHub 项目 incidentzero 是一个自治 SRE 智能体,在模拟微服务平台(checkout、payment、inventory、order、Redis 缓存和订单数据库)上调查生产事故,在高风险变更前请求人工批准,并验证恢复后才关闭工单。运行时不用任何 Agent 框架,预算为 14 次 LLM 调用、28 次工具调用和 120 秒;基于 Groq 上的 openai/gpt-oss-20b 的三次实况运行中,两个场景验证修复,一个(SEV-2)在预算内给出证据后升级上报;离线本地启发式模型可在 8-10 次 LLM 调用、0.1 秒内解决全部三个事故。

  17. GitHub · 去对齐工具与仓库64

    Goethe 开源:把 Linux + NVIDIA GPU 机器变成 OpenAI/Anthropic 兼容的自托管 LLM API

    meshapplied 发布开源工具 Goethe,可将带 NVIDIA GPU 的 Linux 机器变成自托管 API,兼容 OpenAI、Anthropic 和 LiteLLM 客户端,数据留在自有硬件上。模型基于 SGLang 运行,支持 continuous batching、prefix caching 和 CUDA graphs,并内置面向 Blackwell、Hopper、Ada 和 Ampere 的 NVFP4 内核,4-bit 模型显存占用约为全精度四分之一;支持按客户端发 key、限速与撤销,模型重启后自动恢复加载,仓库采用 Apache-2.0 许可,链接 https://github.com/meshapplied/goethe。

    推荐理由:原文给出了从安装到共享 API 的完整命令流程,并说明基于 SGLang 加自研 NVFP4 内核的推理方案,便于自建 GPU 推理服务时参考。

  18. GitHub · 去对齐工具与仓库57

    LitteraLit 开源 PDF 技术书翻译工具,保留版式并逐页输出 QA 报告

    GitHub 项目 Direles/LitteraLit 发布了 PDF 技术书翻译工具,通过矢量删改保留原始版式、复用嵌入字体并对目标语言做断行排版。流程包括用 LLM(Gemini、OpenAI、DeepSeek、Claude 或 OpenAI 兼容端点)逐页翻译、检测并重译残留英文、译文过长时请求缩短或将字号最多缩小 60%、生成逐页 QA 报告。在 365 页的 Agile Estimating and Planning 实测中 97.7% 的文本块落在原行内,输出 2.8 MB,含 272 个单元测试,MIT 许可证,需 Windows 和 Python 3.11+。

    推荐理由:项目给出了 365 页技术书翻译的实测数字和逐页 QA 报告机制,保留了原文版式与嵌入字体,方法细节可直接复用。

  19. GitHub · 灵魂体仓库44

    Runtime 开源 GitHub 仓库:面向 AI Agent 的 Firecracker microVM 沙箱 SDK、CLI 与 MCP server

    Runtime 在 GitHub 公开其 AI Agent 沙箱的 SDK、CLI 与 MCP server:每个沙箱是带独立 Linux 内核的 Firecracker microVM,一次调用即可启动。提供 TypeScript 和 Python SDK(npm/PyPI 包名 withruntime),以及 Go、Java、Ruby SDK 和 OpenAI Agents SDK、Pydantic AI、Google ADK、smolagents、LangChain 等集成,并覆盖 Claude Code、Codex、Cursor、Gemini CLI、VS Code、Windsurf 的编码 Agent 配置。新账户可免卡免费试用,项目采用 Apache-2.0 许可证。

  20. GitHub · 灵魂体仓库20

    hslimi/night-thoughts:本地 AI 与 Apple Silicon 技术文章仓库

    GitHub 仓库 hslimi/night-thoughts 收录关于本地 AI、Apple Silicon、Agent 与软件系统的技术文章及配套可复现实验,主阅读站点为 nightthoughts.me。内容涵盖 MLX 上的推理、微调、评估与部署,以及可检视的 Agent 工作流。配套实验放在 experiments/ 目录下,每个实验须自带 README、复现命令与评估说明。

  21. GitHub · 灵魂体仓库23

    jurisdictional-skill:连接 Claude Code 与政府信息的插件

    jurisdictional/jurisdictional-skill 是一个 Claude Code 插件,通过 Jurisdictional MCP 服务器按地址展示从联邦到地方的各级政府机构、议会、人员与公共服务,并标注尚未收录的信息。用户可用 /gather 从政府官网补录缺失内容,每条事实需附来源链接,提交后可即时上线或经人工审核;探索无需账号,研究与贡献需在 jurisdictional.org 登录获取 jur_ 开头的 token。

  22. GitHub · 灵魂体仓库33

    minillm:C++20 实现的 LLM 推理引擎

    minillm 是一个用 C++20 编写的 LLM 推理引擎,目标模型为 HuggingFaceTB/SmolLM2-135M(Llama 架构,safetensors 权重),全程 fp32 计算,强调正确性优先于速度。每个内核都有与 PyTorch 核验的朴素标量参考实现和与之核验的优化版本。项目依赖极少(doctest 与 nlohmann/json 由 CMake 获取),checkpoint 约 270 MB,基准测试输出 prefill/decode 吞吐(tokens/s)与峰值 RSS,CI 在 Linux 和 macOS 上以单条命令运行完整流水线。

  23. GitHub · 灵魂体仓库41

    NightOwl:带可信度评分与引用的 AI 研究助手开源项目

    开源项目 NightOwl 是一个 AI 研究助手,按官方来源、媒体等四级可信度分层检索俄英双语来源,交叉验证事实并给出带引用的答案。其可信度百分比由确定性代码而非 LLM 计算,公式综合来源权重、一致性、新鲜度与多样性。项目基于 C# / .NET 10 和 Gemini(经 OpenAI 兼容端点)、Tavily Search API 构建,提供 Web 应用、REST + SSE API 与 CLI,API 限制每 IP 每分钟 5 个问题。

  24. GitHub · 灵魂体仓库49

    开源项目 deskyard-ecommerce-agent:带 AI 客服智能体的电商入门模板

    GitHub 上的 deskyard-ecommerce-agent 是一个带完整商店功能(商品、购物车、结账、账户)的电商入门项目,每页内置可回答“我的订单在哪”的 AI 客服智能体。智能体从知识库、实时商品目录和登录用户的真实订单构建提示词,无法解决时通过邮件或 Slack 升级通知。语音模式使用浏览器 Web Speech API 识别输入、OpenAI TTS(默认 "nova")合成回复,需配置 OPENAI_API_KEY 并按用量计费。

  25. GitHub · 灵魂体仓库62

    keyless-llm:把免鉴权免费模型聚合成一个本地网关

    saya-ch 在 GitHub 开源 keyless-llm,把 4 个免鉴权来源共 29 个免费模型聚合成一个本地网关,改一个 base_url 就能让 OpenAI / Anthropic / Responses 兼容客户端使用。网关提供 auto 伪模型做跨来源失败转移与评分调度,提供按来源隔离的冷却状态机,实测 8 次连续 auto 请求全部成功。来源清单维护跑在 GitHub Actions 上,agent 只负责搜索候选,是否免鉴权由无鉴权头实测脚本判定,429 记为 limited 收录、401/403 拒绝。

    推荐理由:把免鉴权免费模型聚合成一个本地网关,还把来源清单维护拆成 agent 发现加脚本实测两层,方法可直接迁移。

  26. GitHub · 灵魂体仓库40

    llm-style:本地优先的 LLM 穿搭推荐应用

    开源项目 llm-style 是一个本地优先的个人穿搭应用:通过 Ollama 运行的小模型(dolphin-mistral:7b)担任造型师,先由确定性引擎从 SQLite 衣橱中按天气和场合筛出约 20 个候选,再由 LLM 做最终选择;gemm3:4b 视觉模型可通过照片分类衣物。衣橱数据和推理全部保留在本机,支持多人衣橱、情侣搭配模式,并可作为 PWA 安装到手机。

  27. GitHub · 灵魂体仓库42

    LocalCoder RTX:完全本地运行的 AI 编程智能体,基于 Ollama 开源

    GitHub 仓库 LocalCoder RTX 发布,这是一个完全在开发者本机运行的 AI 编程智能体,结合本地 LLM、工作区感知的工具循环和浏览器/CLI 界面,无需将代码发送到云端。它通过 Ollama 托管模型(推荐 qwen2.5-coder:3b 或 7b,上下文 4096),提供文件读写编辑、shell 命令审批、自动备份和工作区隔离等安全机制。该项目还可用于微调数据集构建、智能体轨迹收集和本地 LLM 评测。

  28. GitHub · 灵魂体仓库19

    dan-petty/devops-cli:一套 GitHub 仓库与 Kubernetes 集群管理命令行工具

    devops-cli 是一个命令行工具,提供 GitHub 仓库克隆、SSH 密钥轮换(默认 90 天)、devcontainer 管理和 Kubernetes 集群操作等子命令。其 k8s 模块支持用 Minikube 引导集群,并可部署含 Ollama、WebUI、Qdrant、Valkey 的 LLM 基础设施栈,还能在 OS keyring 与集群 Secrets 间同步凭证。

  29. GitHub · 灵魂体仓库47

    AccessCast:基于 Gemma 4 on AMD 的多版本无障碍视频生成项目

    AccessCast 是为 AMD Developer Hackathon ACT III 打造的无障碍视频项目,用 Gemma 4 31B 为盲人、听障、阅读困难及印地语、意大利语、西班牙语、法语、葡萄牙语用户生成八种版本。系统处理 28 个视频、3,825 次请求共 3.6 million tokens,114 条 easy-read 字幕全部保留否定词,8 例攻击中到达观众 0 例,模型成本约 $0.0053 每分钟。

  30. GitHub · 灵魂体仓库20

    Rubens Gomes 开源 ai-utils-lib:面向 Microsoft Foundry AI 应用的 Python 工具库

    Rubens Gomes 在 GitHub 开源了 Python 工具库 ai-utils-lib,供其 AI agentic 开发项目复用,聚焦 Microsoft Foundry AI 客户端应用。该库支持 YAML 配置加载到 Pydantic 模型、Azure App Configuration、Key Vault 密钥读取、Entra ID 自动续期 bearer token 及 Foundry 项目与 OpenAI 客户端创建,需 Python 3.14+,可通过 pip install ai-utils-lib 安装,采用 MIT 许可证,项目仍在开发中、API 可能变更。

  31. GitHub · 灵魂体仓库60

    understudy-lm 发布仅用目标模型文本训练的推测解码草稿模型,针对 Qwen3.5-4B 投影加速 1.43x

    understudy-lm 项目发布了仅从目标 LLM 的文本输出训练的推测解码草稿模型,无需 logits、隐藏状态或更小的同族模型,草稿一次猜测 4 个 token,由目标模型一步验证,输出不变。发布的草稿针对 Qwen3.5-4B 训练,实测每步接受 1.58 个 token,投影加速 1.43x;在 llama.cpp 下因需逐 token 起草并恢复状态反而更慢(27 到 36 tok/s 对 69 tok/s),需支持 lookahead heads 的运行时才能兑现。

    推荐理由:只靠目标模型的文本训练推测解码草稿模型,不用 logits 和隐藏状态,并给出接受的实测与局限说明。

10月25日周日
  1. GitHub · 3D 生成新仓库62

    MaiBot 照片生成插件 maitu-photo-studio 开源

    tsuiraku9 发布 maitu-photo-studio 插件,为 MaiBot 提供可配置的照片生成、参考图库与异步投递能力,图片由使用者自行配置的 OpenAI 兼容服务生成,插件不提供模型或额度。支持人物写真与无人物环境照两类工具,参考图分人物、服装、场景三类管理并支持 VLM 自动打标、待审核与自动补库;任务通过 SQLite 后台队列异步执行,可用 task_id 查询。运行要求 MaiBot >=1.3.6、Python >=3.12,通过 /maitu 管理命令和 WebUI 配置。

    推荐理由:README 完整说明了参考图库、异步任务和提示词配置的构造方式,想给 MaiBot 加照片能力的部署者可以直接对照实施。

  2. GitHub · 3D 生成新仓库14

    Nextended:一套包含 19 个库的 .NET 工具套件开源仓库

    fgilde 在 GitHub 开源 Nextended,一套包含 19 个 .NET 库的工具套件,前身为 nExt,现已支持 .NET 8、9 和 10。套件涵盖扩展方法、自定义类型(Money、Date、BaseId)、缓存、EF Core 扩展、ASP.NET Core 响应过滤、Roslyn 源生成等。还提供多个 .NET Aspire 托管集成,包括 Supabase、n8n、Grafana、LocalAI 及带 MCP 端点的 WebDataStudio 数据库工具。

  3. GitHub · 3D 生成新仓库34

    Goal:开源发布自动化 CLI 工具发布 v2.2.3 版本

    Goal 是一个发布自动化 CLI,可自动运行测试、生成 conventional commits、更新 changelog、升级版本号并发布软件包,支持 Python、Node.js、Rust、Go、Java 等 9 种语言环境,可通过 goal 交互运行或 goal --all 在 CI 中无人值守执行。v2.2.3 引入自治发布完成与 goal.yaml 冻结保护,v2.2.2 新增 goal all 命令,可一条命令清理文件夹下所有有未提交更改的 git 仓库。

  4. GitHub · 3D 生成新仓库22

    Fomi AI 内容生成工作区开源项目(AwaisAmin/ai-content-generation)

    一个基于 Next.js 16 的 Fomi 图像与视频生成工作区项目,包含按 mockup 实现的响应式 Workspace 和重新设计的 Studio 两部分。Studio 将生成过程做成版本控制:每个结果都是有父版本和可见 diff 的版本,支持 Vary、Refine、Remix 三种分支方式、并排或滑块对比,以及 J/K、V/R/X、C 等键盘快捷键。Workspace 支持最多 3 个生成并行、复用历史提示词、无限滚动 feed,并适配明暗主题与移动端,项目部署在 Vercel 上。