跳到正文
只看工程#工程/部署
今天10月26日周一183 条
  2. Reddit · r/LocalLLaMA61

    作者推出计入 KV cache 的 LLM 显存计算器

    /u/abarth23 发布了一个免费、无广告、客户端本地运行的网页版 LLM 显存计算器，主打把 KV cache 纳入估算。该工具支持 FP16、8-bit、4-bit/EXL2/GGUF 权重计算，按目标上下文长度与缓存精度（FP16 或 FP8/Q4 cache）动态估算 KV cache，加上约 1-1.5 GB 的 CUDA 运行时与系统开销，并推荐如单张 4090 24GB、双 3090 或卸载到系统内存的方案。作者称在线计算器普遍只按参数量乘量化精度，32k-128k 上下文的 KV cache 额外占 6-14 GB 显存。

    推荐理由：针对常见显存计算器只算权重忽略 KV cache 的痛点，按上下文长度和缓存精度补全估算并给出 GPU 配置建议。

  3. GitHub · 3D 生成新仓库23

    OneWare Studio：面向电子开发的下一代开源 IDE

    OneWare Studio 是基于 .NET 10.0 与 Avalonia 的开源电子开发 IDE，支持 VHDL、Verilog、C++ 等语言，采用 Apache License 2.0 许可。它提供厂商无关的 FPGA 开发、GHDL/IVerilog 仿真集成、多线程高速 VCD Viewer 与内置 GIT 支持，并可扩展自定义插件。配套的 One AI 扩展可让用户无需 AI 专业知识即可在云端训练模型并部署到微控制器等资源受限设备。

  4. GitHub · 3D 生成新仓库22

    Afsheen96/fomi-studio：FOMI 前端开发考核的 Image Generator 提交作品

    Afsheen Kiran 为 FOMI 前端开发考核提交的 fomi-studio 仓库，用 Next.js 15、React 19 构建了响应式的 Image Generator 原型，mock 后端走 Route Handlers 并部署在 Vercel。作品分两部分：Part A 按设计稿还原 mockup；Part B 是自创的 Fomi Flow 重设计，把每次生成作为项目内的版本（v1、v2…）管理，支持版本分支记录、对比滑块、"What changed" 提示词差异分析和星标备注。

  5. GitHub · 3D 生成新仓库39

    Clouisle：新一代多智能体协作平台与工作流引擎在 GitHub 开源

    多智能体协作平台与工作流引擎 Clouisle 上线 GitHub 仓库，支持编排生产级 AI agent 团队。平台提供 19 种节点类型的可视化工作流、混合检索（Qdrant 向量 + BM25）与 reranking 知识库，以及多租户、RBAC、SSO 和 TOTP 2FA 等企业级安全能力，注册 23 个 LLM provider，并在 Bubblewrap 用户与挂载命名空间中隔离沙箱执行。

  6. GitHub · 3D 生成新仓库24

    GridForecast 开源：英国风电日前预测与量化误差分析平台

    新开源项目 GridForecast 面向英国批发电力采购与日前交易场景，提供风电日前预测和量化误差分析，基于 FastAPI、SQLite、React 18 与 Google Gemini AI 构建。平台使用 Elexon BMRS 真实数据，覆盖 2026 年 1 月全月风电数据，SQLite 数据库含 1,489 条实际值与 19,272 条预测，内置 MAE、RMSE、wMAPE、Bias 等指标，并集成 Gemini 2.5 Flash 交易建议功能。

  7. GitHub · 3D 生成新仓库13

    X-DREAMER：聚合 9 家 AI 服务商、40+ 模型的 AI 生成平台开源上线

    X-DREAMER（原 XMAN AI Studio）开源上线，是一个聚合 9 家 AI 服务商和 40+ 模型的 AI 生成平台，支持文生图、文生视频、图生视频和图像编辑，采用统一信用计费，并配有管理后台和社区画廊。平台基于 Next.js 16.2、TypeScript 5 和 React 19 构建，接入 BytePlus、OpenAI、Stability AI、Replicate、Runway ML、Kling AI 等服务商，使用 MySQL（与 XMAN Studio 共享数据库）和 NextAuth v5 认证。支持单次最多 4 张批量生成、15 种风格预设、失败自动退款，通过 webhook 与父项目 XMAN Studio 打通信用充值。

  8. GitHub · 3D 生成新仓库10

    tryAGI 发布 Presenton .NET SDK

    tryAGI 基于Presenton 的 OpenAPI 定义、用 AutoSDK 生成了 Presenton 的 .NET SDK，支持自动再生成以跟上上游 API 变化。SDK 采用现代 .NET 实践，包括可空性、trimming、NativeAOT 感知和源生成序列化，文档通过 AutoSDK 管道在 README、MkDocs 站点与集成测试间保持同步。该 SDK 是 AutoSDK 维护的 200 多个 .NET SDK 之一，项目获 JetBrains 开源支持计划资助。

  9. GitHub · 3D 生成新仓库25

    InsightForge AI 开源：基于 Google Gemini 与 LangGraph 的自然语言数据分析应用

    开源项目 InsightForge AI 上架 GitHub，是一个 AI 辅助数据分析应用，用户上传 CSV/Excel 后可用自然语言提问，自动完成数据剖析、SQL 分析与可视化。它用 Google Gemini 解读问题并生成 SQL，LangGraph 负责工作流编排，DuckDB 与 Pandas 执行运算，Plotly 绘制交互图表，并支持基于规则的 PDF 报告生成，无需额外 LLM 调用。

  10. GitHub · 3D 生成新仓库51

    local-vidstudio 开源：用本地生成服务串联制作短视频的编排工具

    GitHub 用户 tamoco-mocomoco 发布 local-vidstudio，一个把本地图片生成、音乐生成和 VOICEVOX 语音合成服务串联起来制作短视频的编排工具，作品用单个 JSON 描述，素材生成、台词合成到 MP4 导出全部在一台机器上完成。仓库提供服务启停与内存管理（stack）、素材补齐（resolve.py）、JSON 校验（validate.py）、无头 Chrome 加 ffmpeg 的逐帧渲染导出，并内置 MCP 服务器可让 Claude Code 直接完成从写 JSON 到导出视频的流程；README 给出各服务的内存占用参考，称 24GB 内存的机器按顺序调度可放下。

  11. GitHub · 3D 生成新仓库26

    ishan-3103/ros2-docs-rag-assistant：基于 ROS 2 文档的 RAG 问答助手开源

    开源项目 ishan-3103/ros2-docs-rag-assistant 发布，不依赖 LangChain，从零构建针对 ROS 2 文档的检索增强聊天机器人，采用结构感知分块、BGE 嵌入向量、FAISS 和 Groq LLM。路线图包括 BM25 + RRF 混合检索、cross-encoder 重排、Hit Rate@k 与 MRR 评测，以及 FastAPI + Docker + HF Spaces 部署。

  13. Reddit · r/LocalLLaMA58

    多智能体对冲基金项目弃用向量数据库改用 SQLite BM25，并用 Rust 写出 3.6ns 风控哨兵

    开源多智能体对冲基金实验作者根据社区反馈重构架构，分享三类失败模式的修复经验：用带极性契约的 Factor Ontology Schema 预判指标方向后，投资委员会的极性幻觉降到 0%；反射记忆从 Embedding API 加向量数据库（200-450ms 往返）换成 SQLite FTS5 BM25（0.35ms），关键词检索在交易复盘场景更可靠；实时风控哨兵用 Rust 的 SoA 内存布局重写，单仓位止损评估 3.63ns，Python 到 Rust 的管道 IPC 往返 2.88μs。代码与基准已在 GitHub（lumina-ai-hedge-fund）开源。

    推荐理由：作者实测对比了向量数据库与 SQLite BM25 的检索延迟，并给出 Rust 哨兵的纳秒级基准数据，做法可直接迁移到多智能体系统。

  14. GitHub · 灵魂体仓库43

    role-fit-radar：用 Claude 每日扫描目标公司职位并匹配你的简历

    GitHub 开源项目 role-fit-radar 每日扫描目标公司的招聘页面，用 Claude 对每个新职位与个人背景做匹配度评估，结果写入 Google Sheets 并发送邮件摘要。项目支持 Greenhouse、Ashby、Eightfold、Workday、eFinancialCareers 等多来源抓取，配置存于 config.py，凭据通过 GitHub Secrets 管理。另有 --file 模式可对单个 JD 文件（支持 PDF、DOCX、XLSX、TXT）离线评估，以及 reassess_failed 脚本重跑失败行。

  16. GitHub · 灵魂体仓库50

    fanyifan090409-dev/mobile-llm-engine：基于 Qwen3 的手机本地大模型推理引擎开源

    GitHub 开源 mobile-llm-engine，一款 iOS 优先的本地大模型推理引擎，内置基于 Qwen3 继续训练的 0.6B 中文助手模型（Q5_K_M 量化、551MB），专注日历等工具调用任务，数据不出设备。实测 40 题工具调用中 tool_call 发射率和 schema 校验通过率均为 100%，但日期参数正确率 0/15，幻觉问题修复中。目前仅支持 Apple Silicon Mac，运行内存约 1GB，可开放试用。

  17. GitHub · 灵魂体仓库59

    Tekto 开源：让编码智能体在浏览器里写 CAD 应用的 AI-first 平台

    modellstadt 在 GitHub 开源 Tekto，一个 AI-first 的在线 CAD 实验平台，MIT 协议。用户向编码智能体描述设计想法即可在浏览器得到可交互的 3D/2D 应用，Sketch API 把单个函数变成带滑块的完整应用。平台为智能体协作做了专门设计：✎ Markup 把视口上的标记解析到触及的对象、世界坐标和源码行；npm run snap 用 headless Chrome 截图让智能体在声称完成前自查，页面报错时以退出码 1 失败；CLAUDE.md 是智能体手册，公共 API 仅一个入口 src/index.ts。

    推荐理由：这个 CAD 库为 AI 智能体设计了一套可验证的工作流，Markup 截图和 snap 自检机制是值得借鉴的人机协作方法。

  18. GitHub · 灵魂体仓库33

    PsyHOT：基于 AIHOT 框架的心理学日报开源项目

    GitHub 开源项目 PsyHOT 基于 AIHOT 框架改造，每天从 95 个公开信源筛选心理学与精神医学研究，经模型预筛和两次独立评分后生成中文日报，每天 08:00 更新，另出周报和月报。项目采用 Docker 部署，需 OpenAI 兼容模型 API Key（DeepSeek、千问、智谱均可），信源涵盖 The Lancet Psychiatry、Nature Mental Health 等期刊及监管机构官网，内容分学界和业界两条线，不构成诊疗建议。

  19. GitHub · 灵魂体仓库18

    r3ndyipb/anvieo-llm：ANVIEO LMS 与 AI Academy 企业级学习平台仓库

    GitHub 仓库 r3ndyipb/anvieo-llm 开源了 ANVIEO Academy 企业级软件工程学习平台，集成 In-Browser Cloud IDE、Socratic AI Copilot、Reviewer Studio 与 14+ 跨学科学习路径。平台提供 5 类别 39 模块的课程大纲、30 天 Single Course 与 Plus 订阅两种付费方案、Google SSO 登录，并连接 850+ 招聘合作伙伴。仓库基于 Next.js 15 构建，内置 5 个 Agentic AI 技能，覆盖 DevOps、UI/UX、系统分析、PostgreSQL 数据库与技术文档维护。

  20. GitHub · 灵魂体仓库76

    BigMoeOnEdge 开源：从闪存流式加载超大 MoE 模型到手机和笔记本

    BigMoeOnEdge 是一个开源引擎，通过从闪存流式读取专家权重，让超过设备内存的 MoE 模型在本地运行，基于 llama.cpp 公共 API，支持 Android、iOS、macOS、Windows 和 Linux，并内置 OpenAI 兼容服务器。--auto 规划器会测量机器的内存、存储速度和各计算单元后自动设置缓存与常驻权重；实测包括 12 GB 手机上跑 91 GB 的 DeepSeek V4 Flash 284B（0.94 tok/s）、Qwen3.6-35B-A3B 达 4.8-5.0 tok/s，16 GB Apple silicon 笔记本上 Qwen3.6-35B-A3B 达 18-24 tok/s。

    推荐理由：仓库给出了各设备的实测解码速度表和与全内存加载输出一致性的测试说明，便于判断流式加载 MoE 的实际可用程度。

  21. GitHub · 灵魂体仓库63

    Nudge 发布面向 AI Agent 的类型化可回放编程语言

    NekomyaDev 开源了 Nudge，一门面向 AI Agent 的类型化编程语言，提供原生字节码 VM 和独立编译器，可编译到 Python 和 TypeScript。语言层内置 LLM schema 一等类型、10 种编译期检查的显式效果、预算硬约束、par race 并发原语和确定性 NTF v1 trace 回放，可在 CI 中以 $0 做回归测试，还支持单二进制打包（约 2.09MB）、WASM 离线回放、MCP 集成、Computer Use 与 PII 脱敏，采用 Apache-2.0 许可证。

    推荐理由：把 schema 校验、效果声明、预算上限和 $0 trace 回放做进语言层，对受够胶水代码的 Agent 开发者是一套可试的新思路。

  22. GitHub · 灵魂体仓库43

    Counsel：开源自托管法律工作区 counsel-workspace 发布 0.1 公开预览

    Counsel 发布 0.1 公开预览，这是一个免费、可自托管的法律工作区，支持合同审查、法律检索、起草、工作流和客户协作。项目采用 Apache 2.0 协议开源，无按席位收费、无遥测，默认 AI_PROVIDER=evidence 不调用模型，也可配置 Ollama、OpenAI 兼容端点或 OpenAI。其证据模式使用确定性条款锚点和 BM25 风格段落排序，并导出含 SHA-256 校验的可迁移 matter 归档；项目方声明未经独立审计、不宣称与 Legora 等价。

  23. GitHub · 灵魂体仓库53

    TokenBar 开源：把 Claude Code、Codex、Gemini CLI 等 17 个编码 Agent 的 token 花费钉在 macOS 菜单栏

    TokenBar 是一款开源的 macOS 菜单栏应用，默认读取本地日志，聚合 Claude Code、Codex、Gemini CLI、Cursor 等 17 个编码 Agent 的 token 用量和报告或估算成本，可按项目、Agent、模型、会话下钻，数据只存本机 SQLite，无遥测。提供 tbar CLI 十七条查询命令，附带 tokenbar-report 技能，用死神、猎人、JOJO 三种动漫人格视角生成 Wrapped 式年度回顾报告，强制视角重合度低于 30%。Cursor 账号同步默认关闭需显式开启，支持自定义 JSONL 或 SQLite 数据源，采用 Apache License 2.0。

  24. Reddit · r/LocalLLaMA15

    PolyStrata 如何使用不同的微调模型

    一位 Reddit r/LocalLLaMA 用户询问如何在 PolyStrata 中加载不同的微调模型。直接用 --gguf-dir 时必须声明基座模型架构，且显示的是原始模型名（CyberTiel 的 tiel 架构被显示为 TielCoder）；手动改 JSON 和 config 文件虽部分有效，但换用 ./setup.sh 之外的启动脚本会出问题，用户希望找到更干净的自动生成正确名称与配置的方法。

  26. Reddit · r/LocalLLaMA18

    256GB DDR4 四通道主机能流畅跑哪些大模型？LocalLLaMA 网友晒 3360 美元配置求推理速度预估

    一位 r/LocalLLaMA 网友晒出总价 3360 美元的主机配置：Threadripper 3960X、三块 GPU 共 44GB VRAM（2x 16GB 4060 Ti + 1x 12GB 4070）和 256GB DDR4 四通道 3200MHz 内存，此前运行 QWEN 3.8 27B 256K Context 效果满意。他询问该配置跑 Deepseek 4.1 和 GLM 的 token 速度，并表示优先跑大模型而非速度。

  27. GitHub · 3D 生成新仓库33

    Pixel-Flow-Pro v0.3.22 发布：运行在 Chrome/Edge 的本地 AI 生图画布

    Pixel Flow 是一个运行在 Chrome/Edge 中的本地 AI 创意任务画布，当前版本为 v0.3.22，支持普通生图、容器批量、图片放大和 AI 结构化调用。新增轻量图片放大任务卡，可选 2×/4×/8×，自动分块生成并拼合 PNG。任务以 TaskRun 记录状态，支持排队、取消、失败重试与结果恢复，并可通过 Pixel Flow MCP 供 Codex 读取和管理画布。

  28. GitHub · 3D 生成新仓库49

    graphics-studio 开源：基于 Claude 的团队视频图文生成 Web 应用

    GitHub 新仓库 graphics-studio 是一个围绕 skill packs 构建的团队 Web 应用，成员粘贴脚本并选择视觉风格后，由 Claude 生成 storyboard 和每帧规格，支持用自然语言或 JSON 修改帧、运行布局检查（锚点重叠、出框、调色板外颜色等），并导出 1920×1080 的静态分层 HTML 加 PNG 的 zip 供图层工具使用。项目用 FastAPI + SQLite/Postgres 存储，支持版本记录与撤销，默认模型为 claude-opus-5-5，可通过 pip/uvicorn 或 Docker 部署，需配置 ANTHROPIC_API_KEY。

  29. GitHub · 3D 生成新仓库18

    Xjet Jewelry Builder Pipeline 3 开源戒指设计流水线仓库

    GitHub 新仓库 Xjet3d/XjetJewelryBuilderPipeline3 提供一条精简的戒指设计流程：四张图片生成、缩放选择后可再精炼，并支持静态图加 Minimax 相机控制影片定制，定价按固定 1 cm³ 的 Fashion 预览档执行，无 Visual Hull 与测量功能，Hitem3D/STL 网格仅开发者可用。该仓库与商用 Pipeline 2 完全独立，不共享任何代码、数据、配置或部署。默认 Mock 模式免费模拟，切到 Live 模式经 fal.ai 计费，每次图像批次约 $0.60、每个开发者网格约 $2.10。

  30. GitHub · 3D 生成新仓库24

    Media Production OS：AI 自动化媒体制作管理系统开源仓库发布

    GitHub 上新开源的 Media Production OS 是一套 AI 驱动的媒体制作与运营管理系统，整合广告脚本生成、广告费率计算、人员运营管理、广告主入驻流程与制作工作流管理。系统基于 HTML5、CSS3、JavaScript、Tailwind CSS 构建，集成 Google Gemini API，并通过 n8n 实现工作流自动化，包含安全门控登录页面和多个功能仪表盘。

  32. GitHub · 3D 生成新仓库51

    ask-my-docs 开源：不用 RAG 框架手写的带引用问答命令行工具

    GitHub 开源了 ask-my-docs，一个对手写笔记提问的命令行 RAG 工具，分块、嵌入、相似度、存储、检索和提示词组装全部手写，不依赖 LangChain 或 LlamaIndex。答案附文件与段落级引用，笔记中没有答案时明确拒绝作答；最终设置下 8 个可答问题全部答对并正确引用，2 个不可答问题全部正确拒绝。嵌入用本地 all-MiniLM-L6-v2（384 维）加 Chroma 存储，块大小经实测从 500 改为 350，仓库提供逐阶段脚本、--show-prompt 旗标和 79,581 字符的示例数据集。

  33. GitHub · 3D 生成新仓库23

    cpp-transformer-core：从零构建的 C++ 代码 decoder-only transformer 训练管线

    GitHub 新仓库 cpp-transformer-core 提供一套从零实现的 decoder-only transformer 训练管线，专注 C++ 源代码，包含自定义 BPE tokenizer、语料收集与清洗脚本、微调与本地推理脚本，训练配置版本化于 configs/training.json。该项目并非通用语言模型，原始数据集与 checkpoint 不纳入版本控制，依赖可通过 pip install -r requirements.txt 安装。

  35. Reddit · r/LocalLLaMA47

    boro64 发布 Ternary Nemotron 30B-A3B GGUF：12 GB GPU 跑 368K 上下文

    Reddit r/LocalLLaMA 用户 boro64 发布 Ternary Nemotron 30B-A3B 的 GGUF 量化模型，这是一款 1.58-bit 三值 30B-A3B MoE 模型，可在 12 GB GPU 上运行 368K 上下文。实测解码速度 172 tok/s、prefill 超 7000 tok/s，同一文件兼容原版 llama.cpp（b11555+、b11796 验证）和 PrismML fork / Bonsai（b10793 验证）。作者称这是继 maple-preview 后第二个支持原版 llama.cpp 的三值 MoE 模型，并征集 CPU-only 和约 10 GB 小显存的测试数据。

  36. Reddit · r/SillyTavernAI32

    SillyTavern 卡片编辑器 Focusink 发布：专注无干扰的卡片制作

    Reddit 用户为 SillyTavern 社区发布了卡片制作/编辑工具 Focusink beta 版，主打无干扰写作体验。它支持在 authors notes 和 greetings 上实时预览 CSS/Markdown，仅 3 个标签页，可在 definitions、greetings 与 lorebook 间无缝切换，草稿每 5 分钟自动保存。V1.04 新增深色模式、字号滑块，并修复了调整宽度时的滚动 bug；该工具非营利、适配平板和 PC 等横屏设备。

  37. Reddit · r/SillyTavernAI50

    SillyTavern 扩展 Hover Edit：悬停定位、热键直达编辑

    SillyTavern 扩展 Hover Edit 让用户悬停在消息的任意位置并按下热键（默认 Alt + E），光标即定位到鼠标附近直接进入编辑。它支持自定义热键、保持编辑内容在屏幕可见、识别 *斜体*、**粗体**、引用、标签和 {{macros}} 等 Markdown 元素，可用于用户消息、角色消息和 swipes。安装可通过 SillyTavern 的 Extensions → Install extension 粘贴 URL 完成；在复杂 regex 替换或重复短语等场景下光标可能偏离数词，且不适配纯触屏设备。

  38. Reddit · r/LocalLLaMA28

    model-cache-cleaner：可安全清理本地 AI 工具缓存存储的 Claude skill

    开发者 /u/pikadhu 发布了 Claude skill「model-cache-cleaner」，用于查找并安全清理本地 AI 工具占用的存储空间。macOS 常将 .cache 隐藏为系统文件导致空间难排查，该 skill 为每个本地 AI 工具内置自定义指令来清理无用存储，项目在 Reddit r/LocalLLaMA 发布并开放 issue 和 PR 反馈。

  39. GitHub · 3D 生成新仓库13

    Task-1-2 Short-Form AI Tool Generation Pipeline 本地安装与部署指南

    Task-1-2-Short-Form-AI-Tool-Generation-Pipeline 是一个基于 FastAPI 的短视频素材提取流水线，需要 Python 3.10/3.11+、Git 和 FFmpeg，并使用 Playwright 启动 Chromium 完成网页资产提取。指南涵盖虚拟环境创建、依赖安装、.env 环境变量配置、python app.py 或 uvicorn 启动，以及可选的 run.py CLI 命令和 Docker 部署（映射 8000 端口）。项目默认不配置 AI API，仅当代码显式调用时才需 API 密钥。

  40. GitHub · 3D 生成新仓库12

    API Evangelist 发布 Vectorize API 独立档案

    API Evangelist 在 GitHub 上维护了一份 Vectorize API 的独立第三方档案。Vectorize 是一个 RAG 平台，其 API 支持创建和管理 RAG pipelines、检索、连接器管理、文件上传及深度研究。档案还提供独立的 Kin Score 与 Agent Readiness 评分，信息全部来自公开渠道，接受纠错、重新评分和下架请求。