GitHub · 灵魂体仓库AI 评分4343
开源项目 booth-image-to-model 可将一张展会展位照片或渲染图转换为以米为单位的可编辑参数化 3D 模型(JSON spec)、.blend 文件、干净客户渲染图和 GLB。它以 Agent 技能(支持 Claude Code、Codex、Cursor)或本地 Web studio 两种方式使用,Web studio 可配置任意 OpenAI 兼容模型读图。项目基于 Python 3.10+ 和 Blender 4.0+,尺寸为单图估算、非施工级,采用 Apache-2.0 许可证。
GitHub · 灵魂体仓库AI 评分3636
MelonTools 是一个管理 Codex 账号池的开源工具,可在本地 vault 中管理账号、刷新用量,并通过绑定 127.0.0.1:18317 的本地 OpenAI 兼容网关路由请求。它还支持以 API key 接入 OpenRouter 和 OpenCode 模型、在 Codex composer 中显示账号与用量信息,并提供 macOS 和 Windows 版本,采用 MIT License 开源。
AIHOT · 精选AI 评分3434AWS 推出 TorchNeuron,一个面向 Trainium 芯片的开源原生 PyTorch 后端。该项目于 10 月 20 日在 PyTorch Conference North America 开启公测,采用 Apache 2.0 协议开源。
Reddit · r/LocalLLaMAAI 评分1515Reddit 用户询问在 RDNA2 GPU 上运行本地 LLM 时,除 llama.cpp 外是否有性能更好的替代方案或分支。多数 AMD GPU 相关项目依赖仅 RDNA3 及以上才支持的 WMMA,图像视频生成有时可用 triton 绕过,但 RDNA2 上功能能否使用全凭情况;strata 虽有 RDNA2 路径并成功运行其试用的 coder 模型,但仅适用于一个特定大模型。用户希望找到 Windows 下可用的方案。
Reddit · r/LocalLLaMAAI 评分2020Reddit r/LocalLLaMA 用户分享 Strata 运行 QFN UD-Q4_K_XL 量化模型的多 GPU 实测:单 GPU 约 70 t/s、内存占用约 80 GB,用 --gpus all 加到 3 块 GPU 后速度升至约 100 t/s,但内存未下降。后续发现可在 strata json 中设置 --resident-budget-gib 参数(如 50)将部分专家卸载到磁盘以降低内存。
Reddit · r/LocalLLaMAAI 评分4646受 IBM Granite Switch 启发,开发者发布 rubick——一个指向 LLaMA 端点的代理网关,用同一模型通过 aLoRA 同时暴露常规 LLM、systemone(jev-like)与 embeddings 端点。它复用 KV cache、无需模型切换,支持即插即用 aLoRA,训练配方可在用户硬件上约 1 小时完成。项目为 POC,Apache2 开源,含 benchmark、用例与 Docker 配置。
Reddit · r/LocalLLaMAAI 评分5656/u/whiteh4cker 基于 u/lxe 的 dsx 推理引擎制作并上传了 DeepSeek-V4.1-Flash-1017-dsx-2.6bit 量化权重,面向编程与智能体任务。该 2.6127 bpw 版本对比 FP4 teacher(KL 0.253、Top-1 78.7%、Perplexity 9.78)与 2.03 bpw 版本,取得 KL 0.1972、Top-1 82.59%、Perplexity 9.3626。在 2x RTX 3090、192 GB DDR5 的硬件上,262,144 上下文加 Engram 表(203 GB,SATA SSD)下生成速度 26 t/s、prompt 处理 170 t/s;187.6 GB 权重从 HDD 加载需 90-110 分钟,引擎尚不支持图像。
GitHub · 3D 生成新仓库AI 评分4343GitHub 新仓库 dothackerman/productive-failure 提供一个基于 Manu Kapur「Productive Failure」方法的 agent skill,通过生成、巩固、迁移三阶段引导学习。用户可克隆仓库后将 skill 放入 .agents/skills/ 等目录安装,无需构建步骤或依赖;仅支持显式调用,自动调用已禁用。作者说明 scenarios 只评估导师行为、不证明教学效果,仓库无自动化测试或 CI,且尚未选择许可证。
GitHub · 3D 生成新仓库AI 评分4242
开发者 Thomas Skovlund Hansen 发布开源项目 mcp-score(MIT 协议,状态为 alpha),通过 MCP 让 Claude Code、Claude Desktop、LM Studio 等客户端用自然语言生成 MusicXML 乐谱,并在 MuseScore Studio 4.4.2 及以上版本中实时读取与编辑乐谱、导出 PDF、PNG、MIDI、audio 或 MusicXML。对 Dorico 4 及以上的支持为实验性。项目需 Python 3.14 或更高版本,可通过 pip install mcp-score-server 安装。
GitHub · 3D 生成新仓库AI 评分5454
华为联合上海交大、华中科大发布 SUPRA-Tex,从单张图像生成保留文字、图案与材质边界细节的可重新打光 GLB 资产,含 base color、metallic、roughness 纹理,仓库已开源图像到 3D 与网格纹理化的推理代码。模型在 Hugging Face 开放,包括 2.1B 的 3D Completion 和 33.6M 可训练参数的 Material Adapter,论文见 arXiv:2610.22352;全流程已在 RTX 3090 24GB 测试,建议 48GB 以上 GPU,训练代码未发布。
Reddit · r/SillyTavernAIAI 评分5353
Neconyan 是一个基于 SillyTavern(及 SillyBunny)的 AIRP 前端分支,已在 GitHub 开源:https://github.com/platberlitz/Neconyan。帖子由 /u/personusername1 代已注销账号的原作者 Purachina 发布。
GitHub · 去对齐工具与仓库AI 评分1818GitHub 上的 TheNimaDev/ai-engineering-learning 仓库记录作者通过动手项目学习 AI 工程的过程,内容涵盖 LLM、RAG、AI 智能体及实际实现。
GitHub · 去对齐工具与仓库精选AI 评分7171
tashfeenahmed 发布 FreeLLMAPI,将 34 家提供商的 635 个免费模型端点聚合为单一 OpenAI 兼容 /v1 API,宣称合计约每月 74 亿 token 免费推理容量。路由器按速度、能力、可靠性评分选模型,429/5xx 时自动冷却并切换下一家,按 key 跟踪 RPM/RPD/TPM/TPD 以不超各免费档上限;密钥 AES-256-GCM 加密存于本地 SQLite,目录每日两次从 freellmapi.co 拉取签名更新,免费版滞后 30 天,Premium 实时目录 $19/年。
推荐理由:原文给出了聚合 34 家免费档位的具体规模和路由、限流跟踪机制,读者可以据此评估自建免费推理池的可行性。
GitHub · 去对齐工具与仓库AI 评分4040开源平台 apowerb 用于在生产环境构建、运行和治理 AI 智能体,支持多智能体编排(顺序、并行、循环、子智能体)、RAG、Text-to-SQL、MCP 服务器接入,以及 Gmail/Outlook 触发和定时运行。核心采用 Apache-2.0 协议,计费、MFA、智能体评估等企业模块由 thaink² 单独销售;可经 Docker Compose 或 Helm 自托管,基于 FastAPI、Google ADK 和 LiteLLM,兼容 Anthropic、OpenAI、Mistral、Gemini 等模型。
GitHub · 去对齐工具与仓库AI 评分3434
iilmchat 开源的 IIChatTools AI Workflow Builder 是一个无代码 AI 流水线构建工具,用户在画布上拖拽 22 种类型节点(LLM、Agent、图像/视频/音频生成、Web Search、DOCX 生成等)并运行工作流。基于 BullMQ + Redis 后台执行,支持 SSE 实时流式进度、pgvector 向量记忆、MCP 工具接入(默认 MCP_ENABLED=false),LLM 供应商涵盖 Anthropic、OpenAI、DeepSeek 等。技术栈为 NestJS 12、React 19、PostgreSQL 17 + pgvector,主 chunk 经代码分割从 774 kB 降至 141 kB。
GitHub · 去对齐工具与仓库精选AI 评分6363kuchris 在 GitHub 发布 openinterview,面向 Apple Silicon Mac 的本地低延迟语音识别与 AI 面试练习工具。支持 MLX Whisper、NVIDIA Parakeet 或 Apple SpeechAnalyzer 在设备上转写通话双方,最终延迟约 1–2 秒,音频不出本机;可识别技术与行为面试问题并忽略寒暄,通过 OpenCode(如 DeepSeek)或任意 OpenAI 兼容服务生成可口头表达的简短答案,并按导入的 CV 和目标岗位定制。支持英语、日语、简繁中文和粤语,会话可本地保存回放,需 macOS 14.2+。
推荐理由:开源的 macOS 面试练习工具,本地转写双方通话并按 CV 生成口头答案,隐私设计和延迟数据写得具体。
GitHub · 去对齐工具与仓库AI 评分3434GitHub 上的 agent-eval-lab 项目实现了一个基于 ReAct 循环、可调用工具的 LLM 智能体,并配套评测框架,可测量成功率、工具选择准确率、步数与无效 JSON 率。
GitHub · 去对齐工具与仓库AI 评分1818开源项目 cold-chain-logistics-ai-assistant 用 LLM、RAG 与结构化遥测数据构建冷链物流助手,可查询车队状况并检索事故处理 SOP。项目采用 LangGraph 编排智能体,通过 Ollama 运行 Qwen 2.5 7B 本地模型,用 BAAI/bge-m3 生成嵌入向量并存入 Pinecone,结合 SQL Server 只读访问与 Streamlit 界面。云端部署与端到端验证尚未完成,暂未达到生产可用。
GitHub · 去对齐工具与仓库AI 评分2222GitHub 开源库 prompt-composer 是一个面向 LLM 应用的轻量级分段提示词组合库,支持按命名 section 独立增删改提示词,并可用全局或 section 级变量填充 {variable} 占位符。它支持 XML、YAML、JSON、Markdown、TOML、TOON、HCL、BAML 八种模板格式解析,可强制以 XML 标签或 Markdown 标题输出,仅依赖 pyyaml、jinja2 和 pydantic,通过 pip install prompt-composer 安装。
GitHub · 去对齐工具与仓库AI 评分4747Model Arena 的 Python 后端服务基于 FastAPI + LangChain,通过 Claude 与 OpenAI 模型在同一任务上对比准确率、TTFT/总延迟和单任务成本,结果存入 Supabase。模型 API 密钥仅存于该服务,仅 Supabase edge function 凭 x-service-token 可调用。evals.py 在 40 条工单测试集上评分,指标含准确率、payment_failed recall 及逐标签 recall/precision。
GitHub · 去对齐工具与仓库精选AI 评分5858
al2m4n 发布 TheYgent,一个自托管、无代码的 AI Agent 编排平台,通过可视化画布组合 LLM 步骤、工具、MCP 服务器、RAG、路由和人工审批节点。内置本地推理支持 llama.cpp、Apple Silicon 上的 MLX 和 NVIDIA GPU 上的 vLLM(实验性),也可接入任意 OpenAI 兼容 API;默认无遥测、可完全离线运行,发布版本不可变可回滚,并提供 Claude Code AI 网关与面向编码 Agent 的 MCP 服务器。许可证为 Sustainable Use License,自用免费,商业化转售或托管服务需授权。项目地址:https://github.com/al2m4n/TheYgent
推荐理由:原文完整列出了可视化编排、内置本地推理和隐私架构等能力,还给出部署方式与许可证条款,便于评估是否自托管。
GitHub · 灵魂体仓库精选AI 评分5959
tbphp 发布 GPT-Load 2.0,一个自托管 AI 网关,将多渠道、多凭据的 API key 与订阅账号统一在单一入口后管理,支持流量调度、故障隔离、请求日志和用量统计,客户端保留 OpenAI、Anthropic、Gemini 原生协议。2.0 为完全重写,无法原地迁移 1.x 数据,需用独立数据库和 DATA_DIR 部署;默认 Docker Compose 部署并支持 SQLite、MySQL 或 PostgreSQL,内置 Codex、Claude、Antigravity、Grok 等订阅渠道的 OAuth 接入。
推荐理由:原文给出多渠道凭据调度、故障隔离和部署细节,读者可据此评估这个自托管 AI 网关是否适合自己的多上游接入场景。
GitHub · 灵魂体仓库AI 评分1717GitHub 上的 llm-systems-learning-journey 仓库记录了从零构建 LLM 系统的学习路径,包含线性层、激活函数、softmax、LayerNorm、RMSNorm、反向传播等基础模块,以及从零实现的 Transformer、小型语言模型和推理引擎,每个模块配有实现代码和与 PyTorch 的对比测试。
GitHub · 灵魂体仓库精选AI 评分6161GitHub 项目 kvscope 发布,包含一个 KV cache 感知的 LLM 推理网关和它的数字孪生调度模拟器,网关订阅 vLLM 的 KV 事件、维护全局前缀索引并按策略路由请求,孪生用网关记录的真实流量做影子评估、保真度检查和容量规划,再通过控制接口热切换策略。实测在 RTX 5070 上双 Qwen3-0.6B 实例中,从 round_robin 切到 prefix_affinity 后前缀命中从 78.0% 升至 87.6%,TTFT p90 从 15.6 ms 降到 9.9 ms;作者同时指出模拟器可比较策略与命中率,但绝对延迟低估 2 到 4 倍,不能用于预测真实延迟。
推荐理由:作者给出模拟器与真实集群在命中率和策略排序上的对照数据,也如实标注绝对延迟低估 2 到 4 倍的边界。
GitHub · 灵魂体仓库AI 评分4242slipstream 是一个部署在 AWS EKS 上的自托管 LLM 推理平台,用 vLLM 在 Karpenter 调度的 g5 GPU 节点上服务 AWQ 量化的开源模型。它通过无人值守的两层参数扫描(引擎参数 × 客户端并发)找出每个配置在 SLO 下的持续并发上限,just stack-up / stack-down 可一键搭建和销毁整套环境,目标是在单 GPU、按需计费的预算下提升每美元 token 吞吐。
GitHub · 灵魂体仓库AI 评分1212Thunders BigData System 是一个开源(MIT License)的企业级分布式平台,整合数据工程、实时流处理、数据湖仓、MLOps 与生成式 AI 编排。它原生支持 LLM、RAG 流水线和自主 AI 智能体,提供 RBAC 治理与多模态处理能力,支持 Python、Java、Rust 等多语言,可通过 Docker 和 Kubernetes 部署。
GitHub · 灵魂体仓库AI 评分1414dang2112/debugger-workflow-backend 是一个托管在 GitHub 上的调试工作流后端仓库,目录包含 agents、api、orchestrator、tools 等模块,以及 app.py、debugger.py、models.py 和 requirements.txt 等文件。
GitHub · 灵魂体仓库AI 评分1818displacedderch 在 GitHub 开源一个 LLM 与提示词工程仓库,汇集系统提示词、few-shot 模板、CoT 等多步推理链、评测脚本和实验流程。项目覆盖提示词设计、Chain-of-Thought、Tree-of-Thoughts、ReAct 等技术,并在 GPT-4o、Claude 3.5 Sonnet、Gemini Pro 及开源 Llama 3 等模型上做跨模型测试,适合编码、摘要、抽取、角色扮演等任务的模板参考。
GitHub · 灵魂体仓库AI 评分3434GitHub 用户 rahulranjan94 开源了 rag-engineering-lab 仓库,用于 RAG 工程实验。仓库包含 0-DataIngestParsing 数据摄取解析目录、rag_learnings 代码目录、README、requirements.txt、pyproject.toml 等文件,基于 Python 构建。
GitHub · 灵魂体仓库AI 评分2525"2019wakeup/city-contest-rag" 是面向第十二届中国研究生智慧城市大赛企业揭榜赛道的沥青材料智能推荐系统,输入养护场景后输出 Top-5 候选方案、8 维雷达图对比及可溯源推荐报告。量化依据全部确定性计算,LLM 只负责文案与解释,检索默认 LanceDB(bge-m3,1024 维),支持 SQLite(FTS5) 和纯 BM25 降级;金标准 20 条 recall@5 双后端均 20/20。
GitHub · 灵魂体仓库AI 评分4949GitHub 开源项目 Personal-AI 是一个自主智能体,基于免费的 Gemini 2.5 Flash 与 Groq Llama 3.3,管理 Gmail、Google Calendar、Notion、GitHub、Trello 和 Slack 六项服务。它支持每天 9 点 6 个子智能体并行生成晨报、按 P1/P2/P3 给邮件分级并自动起草回复、检测日历冲突,以及生成 LinkedIn 帖子和从已合并 PR 生成 changelog。技术栈为 React 19 + Vite 6 前端和 Node.js 20+ + Express 5 后端,已部署在 Vercel 与 Render 上。
GitHub · 灵魂体仓库AI 评分2929
开源工具 TokenLens for Azure 进入 1.0.0rc1 候选阶段,可自动发现 Microsoft Foundry 部署,收集用量、吞吐、限流与遥测数据,生成涵盖成本、工作负载和 PTU 适配性的自包含报告。费率来自 Azure Retail Prices API 与官方 Foundry 定价页,无确切费率时不猜测价格。工具不外发提示词或响应内容,正式 1.0.0 版仍待 RC 验证与最终审查。
Reddit · r/LocalLLaMAAI 评分2121llama.cpp 自 v0.7.0 起,llama server 容器内默认端口从 8080 改为 9931(ggml)。未显式设置端口的用户升级后将遇到破坏性变更,硬编码 8080 端口的测试工具也可能受影响。
GitHub · 3D 生成新仓库AI 评分2020开发者 Bhanushree G 在 GitHub 开源 AI-Powered Data Analyst Agent,一个完全本地运行的数据分析智能体,基于 Python 和 Streamlit 构建,不依赖 OpenAI、LangChain 等任何外部 LLM 或付费 API。用户上传 CSV 或 Excel 数据集后,系统自动完成数据理解、清洗、探索性分析和 Plotly 可视化,并用纯 Python 关键词匹配和 pandas 计算回答英文自然语言问题,分析步骤透明可解释。项目附带 25 项自动化测试全部通过,数据不离开本地机器。
GitHub · 3D 生成新仓库AI 评分2828GitHub 新仓库 ShaderForge 是一款本地 Shadertoy 兼容的 GLSL IDE,基于 Monaco 编辑器提供实时 WebGL 预览。它支持用自然语言描述着色器,由 Claude 通过 SSE 流式生成 GLSL 直接写入编辑器,还提供 Shadertoy URL 导入、本地模板库和 .glsl 导出。项目采用 React 18 + TypeScript + Vite 前端与 Express 后端代理 Claude API,需配置 ANTHROPIC_API_KEY,并附带 Railway / Render 部署配置。
GitHub · 3D 生成新仓库AI 评分2222开源项目 instaXoom 将用户自拍转化为热门风格肖像(如 90s 复古年鉴、赛博朋克、拍立得),并以 4:5 Instagram 竖版格式导出。平台采用 Google OAuth 认证、1 图 = 1 credit($0.50/credit)的积分系统,每日更新统一美学风格的提示词与 style LoRAs。推理支持本地 ComfyUI 运行 FLUX.1 [schnell]/[dev] + PuLID 人脸相似性,以及云端 Azure AI Foundry(gpt-image-2.5-flare),基于 Next.js 15 + FastAPI 架构,MIT 协议开源。
GitHub · 3D 生成新仓库AI 评分1515Genuine Stuffs 是一个 AI 原生建筑平台,将非洲建筑行业价值链整合为单一智能系统。其 AI Studio 用基于建筑领域知识训练的 LLM 在数秒内生成结构化、带成本的工程量清单(BoQ),后端经 OpenRouter 以 Claude-3.5-Sonnet 为主、Gemini-2.0-Flash 和 GPT-4o 为备选的多模型管线驱动,并用 Google Imagen-3 生成可视化概念图,每轮消耗 2 credits。平台还含接入 Paystack 的采购市场、专业人士门户与供应商生态,技术栈为 React 18、TypeScript 和 Supabase,并支持导出 PDF 和 .DXF 文件。
GitHub · 3D 生成新仓库AI 评分1515toppema 在 GitHub 上发布名为 rag-app 的 RAG 应用仓库。项目包含 app.py、document_processor.py、llm_chain.py、vector_store.py 等核心文件,并配有 test_rag.py 测试脚本,基于 Streamlit 构建,依赖清单通过 requirements.txt 管理。
GitHub · 3D 生成新仓库AI 评分2424ArcavenAE 开源了 beadle,一个意图对齐的 issue 分诊与仪表盘系统,可对每个 issue/PR 评分(advances/neutral/drifts),并以置顶 GitHub issue 形式维护实时分诊仪表盘,填补现有分诊机器人不按项目意图与维护者实际行为加权的空白。当前以 Phase-0 Claude Code 技能为主,二进制提供 macOS(arm64)与 Linux(amd64、arm64)预构建版本,尚无稳定版,所有发布均为 prerelease,支持 Homebrew、mise 或直接下载。
GitHub · 3D 生成新仓库AI 评分1313开发者 tingxi01 在 GitHub 开源个人项目 enterprise-ai-assistant,目标是构建基于 RAG 的企业文档助手,实现文档上传、嵌入向量语义搜索、带引用来源的检索问答。项目采用 Python/FastAPI 后端、Next.js 前端、PostgreSQL 与 pgvector 数据库,目前处于初期规划阶段,尚未提供完整部署方案。
最多提供 50 页,更早的内容请使用搜索或主题页。