跳到正文
10月25日周日
  1. GitHub · 灵魂体仓库49

    loosechange:免费 OpenRouter LLM 检索工具,一条命令接入 Hermes / VibeForge

    开源(MIT)项目 loosechange 通过 Telegram 机器人和 CLI 筛选 OpenRouter 免费模型:每几小时抓取 :free 模型列表、按 benchmark 排序,并用 2–3 个问题匹配任务后给出推荐。目前 OpenRouter 459 个模型中有 19 个免费模型,其中 17 个为文本模型、11 个带基准数据。CLI 可用 uvx 从 git 运行,一条命令把所选模型写入 Hermes、DeepSeek Harness 配置(dry-run 默认、带备份),VibeForge 则输出手动接入说明。

  2. GitHub · 灵魂体仓库36

    just-core:家庭应用共享核心库,统一管理 GGUF 模型与 llama-server 启动

    just-core 是一个全家桶应用的内部共享库(不发布到 npm),检测硬件、推荐并下载 GGUF 模型,自动拉起 OpenAI 兼容的 llama-server(预编译包内置 CUDA 运行时)。它以纯 JavaScript 运行在 Node 24 上,包含 @delebash/core 服务端套件、Vue 共享 UI 与应用模板,并于 2026-10-18 从 just-llm-runner 更名。模型启动配置按四级规则解析:估算仅作准入、引擎默认 fit、用户显式设置精确生效、实测调优以超过 5% 平局的严格优势获胜。

  3. GitHub · 灵魂体仓库68

    ClaimCheck 发布本地优先的 LLM 假名化网关

    saasclawai-org 在 GitHub 发布 ClaimCheck,一个本地优先的 LLM 假名化网关,单个自包含二进制提供两种模式:MCP server 供 Cline、Cursor 等客户端调用 read_sanitized 等工具,LLM proxy 对 OpenAI 兼容请求在线路层脱敏、响应时还原。占位符如 [FEIN_1]、[SSN_2] 稳定可逆,映射 vault 只存本机;内置 regex 识别器覆盖 SSN、信用卡、API 密钥、PEM 私钥等,可选本地 BERT ONNX NER 层捕捉自由文本人名组织名。作者明确说明局限:不覆盖 PDF/DOCX 等二进制格式和非英文文本,vault 未加密,MIT 许可下无任何担保。

    推荐理由:原文给出了假名化工具的两种工作模式、可识别的 PII 类型清单和明确不覆盖的范围,便于评估是否适合本地脱敏工作流。

  4. GitHub · 灵魂体仓库23

    Ronitron007/product-eval-harness:基于 Mastra 的消费级产品评测工具

    GitHub 上的 product-eval-harness 是一个消费级产品评测工具,由 LLM 智能体生成评测所需的知识(标准、产品属性、研究记录、评测包与分数),并用 ruleset 在接受输出前校验每项结果。项目基于 Mastra TypeScript 框架,目前仅是 Mastra 脚手架,尚无任何 harness 阶段实现;开发需 Node.js 22.13+,仓库含 mastra agent skill,整体采用 Apache-2.0 许可证。

  5. GitHub · 灵魂体仓库61

    Opencode2api 开源:把 OpenCode Zen 免费模型转成 OpenAI/Anthropic 兼容端点的网关

    Nystic-Shadow 开源了 Opencode2api,一个零依赖的 Node.js API 网关,把上游 OpenCode Zen 免费模型转换成 OpenAI 和 Anthropic 兼容端点,供 Cursor、Cline、Roo Code 等客户端调用。核心实现包括注入反编译的 CLI 工具 schema 绕过反爬校验、按位取反算法生成会话 token、Cloudflare WARP SOCKS5 隧道自动换出口 IP(约 1.2 秒完成密钥轮换)、模型级联故障转移、思考流(thinking_delta)与多模态视觉支持。后端仅用 Node.js 核心模块,内存低于 30MB,附 15 项测试全部通过的验证套件,MIT 协议发布,支持 Docker Compose 一键部署。

    推荐理由:README 详细披露了绕过 OpenCode Zen 反爬校验的具体实现,读者可以对照源码和测试向量自行复现这套网关方案。

  6. Reddit · r/LocalLLaMA29

    两台改装 Dell T5810 工作站(Xeon E5-2699 v4 与 2698 v4)+ 32GB RDIMM,€250-€300 值不值得用来搭载 RTX 3090?

    一位用户在 r/LocalLLaMA 询问,€250-€300 购入两台改装 Dell Precision T5810(分别配 Xeon E5-2699 v4 22 核与 E5-2698 v4 20 核)加 32GB DDR4-2666 RDIMM 和 NVMe 转接卡,用于搭载其 Gigabyte RTX 3090 24GB 跑 llama.cpp 与 Strata 推理。计划先本地运行 Qwen 3.8 27B,后续扩至 128GB-256GB 内存以卸载约 120GB 的 Qwen 3.8 Flash Next MoE,目标 20+ tok/s;第二台兼作孩子的 Linux 学习机与 Proxmox 节点。

  7. Reddit · r/LocalLLaMA54

    ANEMLL Forge 0.2.1 支持 M6 32GB 在 Apple Neural Engine 上运行 Qwen3.8-27B 达 192K 上下文

    ANEMLL Forge 0.2.1 发布,Qwen3.8-27B 在 M6 32GB 的 Neural Engine 上最高可跑 192K 上下文。新增 INT8 K/V cache(为 FP16 一半)并用共享输出 head 的更小 drafter 节省 0.86 GB ANE 内存;decode 依内容为 JSON 35–62 tok/s、code 18–32、prose 10–17,prefill 短上下文 260 tok/s、192K 时 62;作者称 96K 是 32GB 下的甜点位(123 tok/s prefill、约 27 tok/s decode、约 21.4 GB 内存),完整 192K 首次编译约需 2 小时,用 --ctx 只编译所需条目时 16K 从下载到运行约 10 分钟。

  8. Reddit · r/LocalLLaMA69

    TensorSharp 首日支持 MiniMax-M3.1-Flash,8× A40 实测 64K prefill 达 2,567 tok/s

    TensorSharp 开发者在 MiniMax-M3.1-Flash 开放权重发布当天加入支持,支持 GGUF 推理、MiniMax Sparse Attention 专用 CUDA kernel、图文输入、tool calling、多 GPU 拆分与张量并行、DSpark 投机解码和 MoE 专家 CPU offload。在 8× NVIDIA A40、双方使用相同 Unsloth UD-Q4_K_XL GGUF 的对比中,64K executor prefill 达 2,567 tok/s,对比被测 llama.cpp 分支的 262 tok/s 提升约 9.8 倍,server 首字时间从 293.4 秒降至 40.0 秒;64K decode 提升 1.49 倍,短对话 decode 基本持平。

    推荐理由:开发者给出两引擎在8× A40上的prefill与decode实测,并解释长上下文差距来自稀疏注意力的实现差异,可复现。

  9. GitHub · 3D 生成新仓库35

    linkedin-cv-tailor:用 JobSpy 抓取 LinkedIn 职位并用 Gemini 定制简历的开源工具

    开源项目 linkedin-cv-tailor 用 JobSpy 抓取 LinkedIn 职位,经 Gemini 过滤并针对岗位定制 CV,通过 Typst 编译生成 PDF,并支持 Telegram 通知与 Flask Web 面板。需配置 GEMINI_API_KEY 才能启用 AI 过滤与定制,Python 版本固定为 3.12,可用 cron 每日自动运行,每次处理间隔 20 秒 rate limit。

  10. GitHub · 3D 生成新仓库20

    YenkasaAI:面向非洲的开源 Flutter AI 控制平面应用

    YenkasaAI 是一个面向非洲市场的 Flutter 控制平面应用,涵盖聊天、知识摄取、分析、内容审核、会话管理与 AI 运维,隶属于更大的 Yenkasa 生态。开发默认指向 127.0.0.1:8008,生产构建需通过 YENKASA_ENV=production 显式指定 API URL,Android 发布版还需真实签名凭据。项目愿景是为创作者、企业、学生、开发者和在线社区提供可访问的非洲中心化 AI 工具。

  11. GitHub · 3D 生成新仓库25

    原生 macOS 绘图应用 Artsy 上架 GitHub:支持 Metal 渲染、压感手写板与 AI 图像生成

    macOS 原生绘图应用 Artsy 开源上架 GitHub,基于 Metal 实现 GPU 加速笔触渲染,支持 Wacom、Xencelabs 等压感手写板及自动笔/橡皮切换。内置 Hard/Soft Round、Watercolor、Acrylic 等笔刷与图层、选区工具,AI 生成接 OpenAI Images 和 Google Gemini/Imagen,并集成 Unsplash 图库。应用要求 macOS 14.0 (Sonoma) 及以上,可通过 Releases 下载 DMG 或从源码构建。

  12. GitHub · 3D 生成新仓库38

    Magnetar:面向可移植本地 AI 执行的 Rust 运行时发布 v0.1 基线

    新开源仓库 Magnetar 发布 v0.1 本地运行时基线,这是一个用 Rust 编写的可移植本地 AI 执行运行时,包含 magnetar-runtime 和 magnetar-cli 两个 crate。其外部 CUDA Provider 已在真实硬件上通过端到端验证,并支持加载生产级 Qwen 模型工件,实测通过公开下载的 Qwen2.5-0.5B-Instruct checkpoint 在 Reference CPU 与真实 CUDA 硬件上运行。项目另提供 WGPU、ROCm、Metal、NPU、TPU 等外部 Provider 基线,部分仅实现设备发现且尚未在对应硬件上验证,官方说明其还不是通用生产模型运行时。

  13. GitHub · 3D 生成新仓库47

    abhishek944/pi-image-gen:Pi 图像生成扩展仓库

    GitHub 新仓库 abhishek944/pi-image-gen 为 Pi 智能体提供图像生成与编辑(image_generate)、可选 sprite 生成(sprite_generate)和独立的已有图像搜索(image_search)扩展。它支持多家生成服务商,包括 OpenAI gpt-image-2、Google Gemini 的 nano-banana 系列、阿里 qwen-image、火山引擎 Seedream、Meta muse-image、Microsoft MAI-Image 等,可通过 OPENAI_API_KEY 等密钥或 Pi 的 ChatGPT Plus/Pro 订阅登录调用。该包可通过 npm 或 GitHub 安装,也可作为 Node 22 的 ESM 库导入使用。

  14. GitHub · 3D 生成新仓库39

    RAG 评估流水线开源工具:分离诊断检索与生成失败

    GitHub 上一个面向 RAG 系统的开源评估工具,可判定回答失败源于检索器未找到证据、语言模型生成错误答案,还是两者同时失败。工具提供本地 Streamlit 仪表盘、PDF 摄取与分块、sentence-transformer 嵌入 + ChromaDB、BM25 及 RRF 混合检索、三种评估模式与 JSON/CSV 导出;默认分块 200 token、25 token 重叠。候选问题须经人工审核验证后才计入评分,无 Gemini API key 时可运行确定性离线流程。

  15. prompts.chat · 每日 prompt12

    prompts.chat SEO 优化:修复全站首页 canonical、新增逐页 metadata、真实 404/308 与完整 sitemap(#1290)

    prompts.chat 完成一项 SEO 优化提交:修复全站首页 canonical 标签,并为首页、提示词库、发现页、分类、标签、skills、workflows、开发者工具、API 文档等页面新增逐页 metadata。同时提供真实的 404 和 308 状态码,并添加完整的 sitemap,改进阿塞拜疆语等语言的页面标题与描述配置。

  16. GitHub · 灵魂体仓库30

    UniStudy AI:基于 Ollama 本地 llama3.2:3b 的离线大学文档学习助手

    UniStudy AI 是一个离线、隐私优先的大学学习助手,通过 Ollama 运行本地 llama3.2:3b 模型,支持对讲义、教材和幻灯片进行文档问答、结构化摘要、选择题测验生成和答案批改,不依赖付费第三方 API。系统不使用 LangChain 或 CrewAI 等包装框架,全部用标准 Python 实现,采用 300 词分块、50 词重叠的词频检索(RAG),并在 UI 中展示 Agent 的工具调用轨迹和引用段落。项目支持 .pdf、.txt、.md 文件,用 Streamlit 构建,带 pytest 测试,扫描版 PDF 需外部 OCR 且词频检索对同义改写查询效果较弱。

  17. GitHub · 灵魂体仓库37

    cv-tailor(Jobhuntz):为工程师打造不编造经历的 AI 求职平台

    工程师 Soma Shekar Keesari 独立开发并运营面向工程师的 AI 求职平台 Jobhuntz(代码库名为 cv-tailor),可根据职位定制 CV 和求职信且不编造内容,已上线 jobhuntz.app。平台以"AI 写作、代码校验"为原则,通过 Claude Sonnet 事实验证、关键词匹配打分等机制,将无法溯源到用户 master CV 的句子比例从 28% 降至 6%。技术栈为 Next.js 16、React 19、Supabase 与 Anthropic Claude API,默认用 Claude、可切换 OpenRouter,配有约 400 个单元测试。

  18. GitHub · 灵魂体仓库36

    RAICA v1.0.0.348:基于多 LLM 编排的开源 Agentic AI 服务器

    GitHub 开源项目 RAICA(RAG AI Context Agency)v1.0.0.348 发布,这是一个基于 Agentic-RAG-System 分支的多 LLM 编排 AI 服务器。新版本加入 Deep Research Mode(多轮检索、来源可信度评分与声明核验)、可开关的数据图表功能(从 World Bank、FBI Crime Data Explorer 等权威来源取数)、POST-LLM Workflow Engine 和 2 个文件(YAML + Python)即可创建工具的插件系统。内置 10+ 生产级 agent、OpenAI 兼容 API、基于 FAISS 的文档智能与 Qwen2.5vl 视觉处理,邮件管理可将上下文压缩 84%。

  19. GitHub · 灵魂体仓库18

    the-biergarten-app:基于 .NET 与 React 的精酿啤酒厂目录发现平台

    GitHub 上的 the-biergarten-app 是一个全栈精酿啤酒厂目录与发现平台,后端采用 .NET 10(垂直切片架构 + MediatR)与 SQL Server 2022,前端为 React 19(React Router 8 + Vite 7)。认证使用 JWT 与 Argon2id 密码哈希,并提供基于 C++20 与 llama.cpp、结合 Wikipedia 的离线种子数据生成流水线,开发环境通过 Docker Compose 集成 Mailpit 与 SeaweedFS。

  20. GitHub · 灵魂体仓库34

    ai-skill-gap:面向非科班转行者的 AI 岗位技能差距分析系统

    GitHub 开源项目 ai-skill-gap 面向非科班转行求职者,采集清洗后 4582 条 JD(78 家公司),抽取技能实体并与简历做语义匹配,输出匹配度打分、差距报告与学习优先级。技术上采用 SiameseUIE 零样本与微调 BERT-NER(F1 0.636 exact)抽取,BGE 语义匹配 Recall@5 达 0.975,知识库含 161 项技能与 106 项学习资源,简历解析结合 DeepSeek LLM。项目通过 201 个 pytest 用例,已免费部署上线 Streamlit Community Cloud,支持 Markdown/Word 报告导出与多岗位对比。

  21. GitHub · 灵魂体仓库19

    开源项目 Azohbi4/detection-of-defects-on-sites-LLM-assistant:工地混凝土缺陷检测 + LLM 检查报告助手

    GitHub 开源项目将工地照片中的混凝土缺陷(裂缝、剥落、露筋、腐蚀、泛碱)自动检测与 LLM 报告生成结合。系统采用 ResNet18/50、EfficientNet-B0 多标签分类,在 256×256 图块上推理并融合为缺陷区域,基于 CODEBRIM 与 SDNET2018 数据集训练,按 70/15/15 分组划分。检测 JSON 结合 Qdrant 检索的检查指南交给 Claude 生成经 Pydantic 校验的报告,服务器端重算严重度,要求人工复核,LLM 不可用时回退到确定性报告。

  22. GitHub · 灵魂体仓库33

    Nexus Terminal AI v2.0:终端里的智能 AI 助手

    Nexus Terminal AI v2.0 是一款在终端运行的智能 AI 助手,由 BrutalTools 开发,采用 MIT 许可证开源。它内置 8 种 GLM-4 系列模型可选(含 GLM-4 Flash、Air、Long、Plus、4V 等),提供方向键交互式模型选择器和 15+ 命令,支持对话保存与 JSON/Markdown 导出、会话统计和配置持久化。

  23. GitHub · 灵魂体仓库63

    pi-mcp-adapter 发布:用一个约 200 token 的代理工具替代常驻 MCP 服务器

    nicobailon 发布 pi-mcp-adapter,让 Pi 通过一个约 200 token 的 mcp 代理工具按需使用 MCP 服务器,避免工具定义占用上下文窗口。与 Pi 0.99 内置 MCP 对比:内置在每个会话启动所有已启用服务器(100 个小服务器约 7.0 GB 内存),适配器只在首次调用时启动、闲置 10 分钟后停止;实测 95 个工具 12 条日常请求中语义搜索 11 次将正确工具排第一(词搜索仅 5 次)。还支持 MCP prompts、elicitation、Tasks 后台任务、OAuth 存入系统钥匙串、用 /mcp-adapter setup 导入 Cursor、Claude Code、Codex、VS Code 配置。

    推荐理由:给出了与 Pi 内置 MCP 的逐项实测对比,包括常驻服务器数量和内存占用,读者可以据此判断值不值得换。

  24. GitHub · 灵魂体仓库33

    SilvioBaratto/optimizer:基于 skfolio 的组合优化 uv 工作区,含 LLM 智能体基金桥

    GitHub 上的 SilvioBaratto/optimizer 是一个由四个 Python 包组成的 uv 工作区,核心是纯 Python、基于 skfolio/scikit-learn 的组合优化库 portopt-core,无需 Docker 和数据库即可安装运行。工作区还包含定时拉取行情数据的 PostgreSQL 摄取守护进程、共享 DB 层,以及 portopt-fund 基金桥——由 LLM(默认 Ollama Cloud 上的 DeepSeek,可通过 LLM_PROVIDER 切换十个提供商)决策、优化器计算、模拟交易需经人工审批门控。项目要求 Python ≥ 3.12。

  25. Reddit · r/LocalLLaMA52

    Struna:四个小模型在浏览器本地跑出节奏跑酷游戏,代码 MIT 开源

    /u/MrFelliks 开源了浏览器节奏跑酷游戏 Struna,用四个小神经网络在浏览器标签页内本地听歌生成关卡,无需上传音频。四个模型共约 22 MB,经 onnxruntime-web(WASM、各占一个 web worker)运行:BeatNet(约 1.6 MB)做节拍与强拍追踪并作为关卡网格,Spotify 的 Basic Pitch(约 0.2 MB)做音符转录,Spleeter 人声分离网络(约 20 MB)分离人声,SwiftF0(约 0.1 MB)做 16 ms 精度的音高追踪;首次加载后缓存,设备跑不动时回退到常规 DSP。

  26. Reddit · r/LocalLLaMA58

    llama.cpp 分支优化旧款 NVIDIA GPU:Kepler 上跑到 60 tps 并提供源码与 PR

    Reddit 用户 /u/TheSpicyBoi123 发布改进 llama.cpp 对 Kepler 等 Ampere 之前 NVIDIA GPU 支持的高性能分支,目标是让旧 CUDA 硬件继续可用。在 4x Tesla K40c 上以 Q8_0 量化运行 MTP Qwen3.6-35B-A3B,从原先无法启动提升到 35 tps,修复主线上 cc35-50 的 cuBLAS 计算类型选择问题;启用 CUDA graphs 后达约 55 tps,Windows NCCL 集成带来约 5–10% 端到端提升,吞吐超 60 tps,P.P. 速度在 70-100 tps 之间波动。作者声明这是其个人系统的初步结果,并征集 Kepler、Maxwell、Pascal、Volta 等旧卡用户对比测试。

    推荐理由:作者用 4 张 Tesla K40c 实测给出量化前后与启用 CUDA graphs 的速度对比,老卡复用方案可自行复现验证。

  27. Reddit · r/LocalLLaMA41

    开源离线本地语音助手 Poldi 发布:面向低配硬件的完全本地 AI 伴侣

    开发者 Marcel 发布个人离线本地 AI 助手 Poldi,以语音为交互界面,支持唤醒词免提客户端与浏览器客户端,采用 GPLv3 开源。技术栈为 Whisper.cpp 做 STT、llama.cpp 做 LLM 推理、Piper 做 TTS,支持英德双语、记忆注入、联网与 Wikipedia 搜索等功能,可在 16GB VRAM 的 Nvidia 5060 Ti 上运行,8GB VRAM 甚至 CPU 也可用。

  28. GitHub · 3D 生成新仓库49

    ArchitectFlow 0.1.0 发布:把软件系统设计变成可验证、可版本化的结构化数据

    开源实验项目 ArchitectFlow 0.1.0 将软件系统设计(架构、数据、API、UI)保存为可版本化的结构化数据,用 94 条确定性规则验证,并从确切保存的修订版本生成带 [CONFIRMED]/[ASSUMPTION] 等标签的实现提示词。项目完全离线运行于示例模式,支持真实 LLM 提供商但仅测试过本地 mock 服务器。AI 提案以变更集形式呈现,经 diff 与验证结果展示后由用户确认才应用。

  29. GitHub · 3D 生成新仓库13

    SaniaE/gans-data-augmentation:用 GAN 和 VAE 生成加油站卫星图像合成数据

    该 GitHub 仓库用 GAN 和 VAE 生成加油站卫星图像合成数据,以缓解数据稀缺问题。项目实现了 Simple GAN、DCGAN、WGAN-GP 和 VAE 四种模型,实验发现 Simple GAN 和 DCGAN 训练不稳定、易出现梯度消失和结构模糊;改用 WGAN-GP 后收敛更稳定,再结合 DiffAugment 可在 256×256 分辨率下生成清晰高保真的样本。模型支持 GPU 训练、checkpoint 保存与训练过程可视化。

  30. GitHub · 3D 生成新仓库35

    enterprise-rag-platform:基于本地 Llama 3.2 的企业级 RAG 问答平台开源

    一个面向生产环境的企业级 RAG(检索增强生成)问答平台,用 Sentence Transformers 生成语义嵌入,结合 FAISS 与 BM25 通过 RRF 混合检索,调用本地 Ollama 运行的 llama3.2:3b 模型生成有据可依的答案,并通过 FastAPI 提供服务,无需付费 LLM API key。早期在 6 个问题上评测,Recall@1 达 83.33%,Recall@3 与 Recall@5 均为 100%。

  31. GitHub · 3D 生成新仓库20

    CourseForge 开源:上传教学大纲一键生成结构化课程

    CourseForge 是一个开源项目,用户上传一次大学教学大纲,即可按学年学期组织科目并生成含 Markdown 课程、模块测验和进度跟踪的结构化课程,支持通过自有 AI 提供商或外部 AI 生成的 JSON 导入两条生成路径。项目基于 Next.js 15、TypeScript、Tailwind CSS 4、PostgreSQL(Drizzle ORM)和 Auth.js v5,里程碑 1–7 已完成并验证,包括 PDF 上传提取、服务端权威评分测验(Anthropic API 真实调用)与跨用户数据隔离;课程管理、搜索和分享功能尚未实现。

  32. GitHub · 3D 生成新仓库14

    Mrak0be5/tigress-thread-gallery:双版本 AI 生成图库仓库发布

    GitHub 新仓库 tigress-thread-gallery 提供同一图库的两个版本:外部 GitHub Pages 版仅含图库、不含密钥和 MiniMax 指南,本地版则显示 Wan 密钥、MiniMax 指南及完整 manifest.json(外部版用 manifest-public.json)。仓库通过 publish-add.py 脚本添加图片,支持 sheet、scene、identity、bunny、video、story 分类,story 分类经 story.html 阅读器单独展示,标注 18+ only、noindex。

  33. GitHub · 3D 生成新仓库24

    rag-document-qa:基于 RAG 的研究论文问答项目

    GitHub 上的 rag-document-qa 项目实现了一个研究论文问答应用,用 RAG 流水线结合检索与语言模型生成答案。检索层提供 Dense、BM25 及 Reciprocal Rank Fusion 融合的混合检索,并实验了 cross-encoder 重排;在 15 个问题的评测集上,混合检索 Success@3 为 86.67%、Success@5 为 93.33%,优于单一方法。项目嵌入采用 sentence-transformers/all-MiniLM-L6-v2,界面用 Streamlit,本地推理用 Ollama,并计划接入 Groq API 部署。

  34. GitHub · 3D 生成新仓库35

    EasyComfyUI:免代码在免费 GPU 上运行 ComfyUI 的 Colab/Kaggle 笔记本

    EasyComfyUI 发布 V5 版本,新增 Kaggle 笔记本(T4 ×2 免费 GPU)与更可靠的下载逻辑,原有 Google Colab 版同步保留。该笔记本无需编程经验即可运行 ComfyUI,支持 Stable Diffusion 与 FLUX 图像生成;推荐 FLUX.2 [klein] 9B,可在免费 T4 约 15GB VRAM 内运行(官方规格约 29GB)。生成图片自动保存至 Google Drive,还支持从 Civitai 和 Hugging Face 下载模型。

  35. GitHub · 3D 生成新仓库26

    DocuMind 开源:基于 Ollama 的本地 RAG 文档问答助手 Local-RAG-Assistant

    GitHub 新仓库 Local-RAG-Assistant(DocuMind)开源,用户可上传 PDF 并用自然语言提问,通过 ChromaDB 向量检索与本地 Ollama 模型生成基于文档内容的答案。项目前端用 React、后端用 FastAPI,配合 PyMuPDF 和 Sentence Transformers 实现文本提取与嵌入,默认模型为 dolphin-mistral,全程无需云端 LLM API,并返回来源文件名与 chunk 索引。

  36. GitHub · 3D 生成新仓库34

    ThinkingBells 发布 ComfyUI Venice API v3 自定义节点,支持端到端加密文本生成

    ThinkingBells 在 GitHub 上开源 comfyui_venice_api_v3,这是一个基于 ComfyUI v3 节点 schema、调用 Venice.ai API 的 LLM Venice chat V.3 文本生成自定义节点。它支持通过 Venice TEE 实现端到端加密,采用 ECDH secp256k1 + HKDF-SHA256 + AES-256-GCM 并按 chunk 派生临时密钥,e2ee-* 模型自动启用,也可用 use_e2ee 强制开启。节点还支持 reasoning_effort 与 strip_thinking、视觉输入、每 15 分钟刷新的模型列表缓存,错误以文本输出而不中断 workflow。

  37. GitHub · 3D 生成新仓库27

    AI-Coding-and-Data-Analysis-Assistant:融合 RAG 编程助手与语音数据分析的开源项目

    GitHub 新开源项目 AI-Coding-and-Data-Analysis-Assistant 将 RAG 编程助手与语音数据分析整合为一个 FastAPI 应用。用户可上传 CSV 或 SQLite 数据集,用英语或阿拉伯语通过 Faster-Whisper 语音提问,系统基于 schema 生成并校验 SQL 后返回结果与解释;编程助手则通过 ChromaDB 检索示例并生成、解释 Python 代码,支持用户反馈学习。