新闻、仓库与研究，按时间排列。
melnikaite 在 GitHub 发布自托管离线优先语音助手 voice-assistant，全部运行在本地硬件，无需云端 API key，多数任务可断网使用。默认栈为 LocalAI（llama.cpp）跑 Qwen3-VL-8B-Instruct 32k 上下文、whisper.cpp 流式 ASR、Coqui XTTS-v2 流式 TTS（6 秒样本克隆家庭成员声音），并带 WeSpeaker 说话人识别、语义记忆、个人条目库和 AppleScript/视觉回路的桌面自动化；破坏性操作由提示层、静态分类器和点击过滤三层只读闸门拦截。代码 MIT 协议，XTTS-v2 权重为 Coqui CPML 非商用许可。
推荐理由：项目文档给出了完整的技术栈选型、离线边界和桌面自动化的三层只读防护设计，想自建本地语音助手可以参考其架构取舍。
lablup 在 GitHub 上线 llm-benchmark-inventory 仓库，以韩语整理韩文与英文 LLM 基准、推理性能工具、公开性能对比和 GPU·引擎资源监测资料，英文界面后续单独提供。清单收录韩语基准 57 个（商用可用 28 个）与英文基准 31 个（商用可用 21 个），每个条目附任务示例、许可证、修改/再分发条件、lm-evaluation-harness 是否内建，以及分数出处和确认日期；基准卡还列出同源同配置下得分最高的 3 个模型与 3 个开放权重模型。许可证于 2026-09-26 核对，仓库提醒后续可能变化，使用前需复查原文。
miminashi 在 GitHub 发布 llm-server-ops，这是一套基于 Claude Code Skills 的 LLM 推理服务器运维工具集，管理 7 台 GPU 服务器上的 llama-server 及相关资源，涵盖 gpu-server、llama-server、discord-notify 三个技能。默认启动 Qwen3.6-35B-A3B-GGUF:UD-Q4_K_XL 模型，上下文长度 131072；aws-gpu01/02 以 RPC 分散配置运行 13 GPU / 200GB。支持 OpenAI 兼容 API、ttyd 监控（7681/7682 端口）及可注册为全局 Claude Code 插件。
一个为土耳其 Darıca 市政服务开发的 RAG（检索增强生成）AI 助手项目，用于解答市民关于市政服务、婚姻与设施收费、行政流程等问题。模型为经 QLoRA 微调的 3B LLM，结合向量检索市政文档，并通过 Python 函数工具支持动态价格与实时查询。界面采用 Streamlit，许可证为 Apache-2.0。
MelonTools 是一个管理 Codex 账号池的开源工具，可在本地 vault 中管理账号、刷新用量，并通过绑定 127.0.0.1:18317 的本地 OpenAI 兼容网关路由请求。它还支持以 API key 接入 OpenRouter 和 OpenCode 模型、在 Codex composer 中显示账号与用量信息，并提供 macOS 和 Windows 版本，采用 MIT License 开源。
ReadyArt 发布 Swish 26B A4B 模型，基于 Dark Scarlett 和 Wicked Tutu 两套数据集训练，前者以深度角色回应著称，后者被作者称为其制作过的最露骨的数据集。作者称两者结合使模型整体保留尺度但质量不错，并计划视时间和资金情况推出 27B 和 31B 版本。
受 IBM Granite Switch 启发，开发者发布 rubick——一个指向 LLaMA 端点的代理网关，用同一模型通过 aLoRA 同时暴露常规 LLM、systemone（jev-like）与 embeddings 端点。它复用 KV cache、无需模型切换，支持即插即用 aLoRA，训练配方可在用户硬件上约 1 小时完成。项目为 POC，Apache2 开源，含 benchmark、用例与 Docker 配置。
/u/whiteh4cker 基于 u/lxe 的 dsx 推理引擎制作并上传了 DeepSeek-V4.1-Flash-1017-dsx-2.6bit 量化权重，面向编程与智能体任务。该 2.6127 bpw 版本对比 FP4 teacher（KL 0.253、Top-1 78.7%、Perplexity 9.78）与 2.03 bpw 版本，取得 KL 0.1972、Top-1 82.59%、Perplexity 9.3626。在 2x RTX 3090、192 GB DDR5 的硬件上，262,144 上下文加 Engram 表（203 GB，SATA SSD）下生成速度 26 t/s、prompt 处理 170 t/s；187.6 GB 权重从 HDD 加载需 90-110 分钟，引擎尚不支持图像。
开发者 JakeJamesNSFW 接手维护近六个月后，发布了免费、源码可获取的 AI 角色扮演应用 Formamorph。它主打自定义、RPG 元素与动态提示词：用户设计整个世界及其规则，上下文逐回合变化且不依赖 LLM 自行追踪。应用内置 llama.cpp 引擎可完全离线运行，也支持自定义 endpoint，并提供内置发布平台，可导入 SillyTavern 的角色与 Lorebooks。
GitHub 新增仓库 suryamanoj4/Controlled-Generation-Study，聚焦受控生成相关研究。仓库包含 Obsidian Vault 的 AI Research 笔记、sas-e1 文件及 Report_Analysis_1 等分析报告，并收录低资源故事生成研究文档 low_resource_story_generation_research.md。
开发者 Thomas Skovlund Hansen 发布开源项目 mcp-score（MIT 协议，状态为 alpha），通过 MCP 让 Claude Code、Claude Desktop、LM Studio 等客户端用自然语言生成 MusicXML 乐谱，并在 MuseScore Studio 4.4.2 及以上版本中实时读取与编辑乐谱、导出 PDF、PNG、MIDI、audio 或 MusicXML。对 Dorico 4 及以上的支持为实验性。项目需 Python 3.14 或更高版本，可通过 pip install mcp-score-server 安装。
一个名为 Claude-Full-Version-Unlocked 的 GitHub 仓库宣称提供 Anthropic PBC 开发的 Claude Windows 版“2026 最新稳定完整版”免费下载，称包含数据分析、图像分析、内容生成全部功能，并可通过 Control + Alt + Spacebar 快捷键随时调用 Claude 3.5 Sonnet 和 Haiku。页面列出推荐配置为 Windows 11、8 GB 内存、1 GB 存储，并声称可节省 30% 时间、提速 25%。此类页面为典型捆绑下载推广内容，Claude 实际并无官方 Windows 完整免费版，用户应从 Anthropic 官方渠道获取产品。
Neconyan 是一个基于 SillyTavern（及 SillyBunny）的 AIRP 前端分支，已在 GitHub 开源：https://github.com/platberlitz/Neconyan。帖子由 /u/personusername1 代已注销账号的原作者 Purachina 发布。
GitHub 上的 TheNimaDev/ai-engineering-learning 仓库记录作者通过动手项目学习 AI 工程的过程，内容涵盖 LLM、RAG、AI 智能体及实际实现。
tashfeenahmed 发布 FreeLLMAPI，将 34 家提供商的 635 个免费模型端点聚合为单一 OpenAI 兼容 /v1 API，宣称合计约每月 74 亿 token 免费推理容量。路由器按速度、能力、可靠性评分选模型，429/5xx 时自动冷却并切换下一家，按 key 跟踪 RPM/RPD/TPM/TPD 以不超各免费档上限；密钥 AES-256-GCM 加密存于本地 SQLite，目录每日两次从 freellmapi.co 拉取签名更新，免费版滞后 30 天，Premium 实时目录 $19/年。
推荐理由：原文给出了聚合 34 家免费档位的具体规模和路由、限流跟踪机制，读者可以据此评估自建免费推理池的可行性。
开源平台 apowerb 用于在生产环境构建、运行和治理 AI 智能体，支持多智能体编排（顺序、并行、循环、子智能体）、RAG、Text-to-SQL、MCP 服务器接入，以及 Gmail/Outlook 触发和定时运行。核心采用 Apache-2.0 协议，计费、MFA、智能体评估等企业模块由 thaink² 单独销售；可经 Docker Compose 或 Helm 自托管，基于 FastAPI、Google ADK 和 LiteLLM，兼容 Anthropic、OpenAI、Mistral、Gemini 等模型。
kuchris 在 GitHub 发布 openinterview，面向 Apple Silicon Mac 的本地低延迟语音识别与 AI 面试练习工具。支持 MLX Whisper、NVIDIA Parakeet 或 Apple SpeechAnalyzer 在设备上转写通话双方，最终延迟约 1–2 秒，音频不出本机；可识别技术与行为面试问题并忽略寒暄，通过 OpenCode（如 DeepSeek）或任意 OpenAI 兼容服务生成可口头表达的简短答案，并按导入的 CV 和目标岗位定制。支持英语、日语、简繁中文和粤语，会话可本地保存回放，需 macOS 14.2+。
推荐理由：开源的 macOS 面试练习工具，本地转写双方通话并按 CV 生成口头答案，隐私设计和延迟数据写得具体。
孟买 GeBBS Healthcare Solutions 的生成式 AI 工程师 Atharva 展示其 GitHub 主页：基于 AWS Bedrock 上的 Claude Sonnet/Haiku 构建 LLM 编码流水线，每日处理 12K–15K 份放射影像报告，准确率 83–84%，并用 Qdrant 检索、LiteLLM 网关与规则引擎（4K+ 报告/天、96% 准确率）混合架构将临床文本转为可计费编码数据。
GitHub 上的 agent-eval-lab 项目实现了一个基于 ReAct 循环、可调用工具的 LLM 智能体，并配套评测框架，可测量成功率、工具选择准确率、步数与无效 JSON 率。
GitHub 开源库 prompt-composer 是一个面向 LLM 应用的轻量级分段提示词组合库，支持按命名 section 独立增删改提示词，并可用全局或 section 级变量填充 {variable} 占位符。它支持 XML、YAML、JSON、Markdown、TOML、TOON、HCL、BAML 八种模板格式解析，可强制以 XML 标签或 Markdown 标题输出，仅依赖 pyyaml、jinja2 和 pydantic，通过 pip install prompt-composer 安装。
Model Arena 的 Python 后端服务基于 FastAPI + LangChain，通过 Claude 与 OpenAI 模型在同一任务上对比准确率、TTFT/总延迟和单任务成本，结果存入 Supabase。模型 API 密钥仅存于该服务，仅 Supabase edge function 凭 x-service-token 可调用。evals.py 在 40 条工单测试集上评分，指标含准确率、payment_failed recall 及逐标签 recall/precision。
al2m4n 发布 TheYgent，一个自托管、无代码的 AI Agent 编排平台，通过可视化画布组合 LLM 步骤、工具、MCP 服务器、RAG、路由和人工审批节点。内置本地推理支持 llama.cpp、Apple Silicon 上的 MLX 和 NVIDIA GPU 上的 vLLM（实验性），也可接入任意 OpenAI 兼容 API；默认无遥测、可完全离线运行，发布版本不可变可回滚，并提供 Claude Code AI 网关与面向编码 Agent 的 MCP 服务器。许可证为 Sustainable Use License，自用免费，商业化转售或托管服务需授权。项目地址：https://github.com/al2m4n/TheYgent
推荐理由：原文完整列出了可视化编排、内置本地推理和隐私架构等能力，还给出部署方式与许可证条款，便于评估是否自托管。
tbphp 发布 GPT-Load 2.0，一个自托管 AI 网关，将多渠道、多凭据的 API key 与订阅账号统一在单一入口后管理，支持流量调度、故障隔离、请求日志和用量统计，客户端保留 OpenAI、Anthropic、Gemini 原生协议。2.0 为完全重写，无法原地迁移 1.x 数据，需用独立数据库和 DATA_DIR 部署；默认 Docker Compose 部署并支持 SQLite、MySQL 或 PostgreSQL，内置 Codex、Claude、Antigravity、Grok 等订阅渠道的 OAuth 接入。
推荐理由：原文给出多渠道凭据调度、故障隔离和部署细节，读者可据此评估这个自托管 AI 网关是否适合自己的多上游接入场景。
GitHub 上的 llm-systems-learning-journey 仓库记录了从零构建 LLM 系统的学习路径，包含线性层、激活函数、softmax、LayerNorm、RMSNorm、反向传播等基础模块，以及从零实现的 Transformer、小型语言模型和推理引擎，每个模块配有实现代码和与 PyTorch 的对比测试。
slipstream 是一个部署在 AWS EKS 上的自托管 LLM 推理平台，用 vLLM 在 Karpenter 调度的 g5 GPU 节点上服务 AWQ 量化的开源模型。它通过无人值守的两层参数扫描（引擎参数 × 客户端并发）找出每个配置在 SLO 下的持续并发上限，just stack-up / stack-down 可一键搭建和销毁整套环境，目标是在单 GPU、按需计费的预算下提升每美元 token 吞吐。
Thunders BigData System 是一个开源（MIT License）的企业级分布式平台，整合数据工程、实时流处理、数据湖仓、MLOps 与生成式 AI 编排。它原生支持 LLM、RAG 流水线和自主 AI 智能体，提供 RBAC 治理与多模态处理能力，支持 Python、Java、Rust 等多语言，可通过 Docker 和 Kubernetes 部署。
displacedderch 在 GitHub 开源一个 LLM 与提示词工程仓库，汇集系统提示词、few-shot 模板、CoT 等多步推理链、评测脚本和实验流程。项目覆盖提示词设计、Chain-of-Thought、Tree-of-Thoughts、ReAct 等技术，并在 GPT-4o、Claude 3.5 Sonnet、Gemini Pro 及开源 Llama 3 等模型上做跨模型测试，适合编码、摘要、抽取、角色扮演等任务的模板参考。
GitHub 用户 rahulranjan94 开源了 rag-engineering-lab 仓库，用于 RAG 工程实验。仓库包含 0-DataIngestParsing 数据摄取解析目录、rag_learnings 代码目录、README、requirements.txt、pyproject.toml 等文件，基于 Python 构建。
"2019wakeup/city-contest-rag" 是面向第十二届中国研究生智慧城市大赛企业揭榜赛道的沥青材料智能推荐系统，输入养护场景后输出 Top-5 候选方案、8 维雷达图对比及可溯源推荐报告。量化依据全部确定性计算，LLM 只负责文案与解释，检索默认 LanceDB（bge-m3，1024 维），支持 SQLite(FTS5) 和纯 BM25 降级；金标准 20 条 recall@5 双后端均 20/20。
GitHub 开源项目 Personal-AI 是一个自主智能体，基于免费的 Gemini 2.5 Flash 与 Groq Llama 3.3，管理 Gmail、Google Calendar、Notion、GitHub、Trello 和 Slack 六项服务。它支持每天 9 点 6 个子智能体并行生成晨报、按 P1/P2/P3 给邮件分级并自动起草回复、检测日历冲突，以及生成 LinkedIn 帖子和从已合并 PR 生成 changelog。技术栈为 React 19 + Vite 6 前端和 Node.js 20+ + Express 5 后端，已部署在 Vercel 与 Render 上。
开源工具 TokenLens for Azure 进入 1.0.0rc1 候选阶段，可自动发现 Microsoft Foundry 部署，收集用量、吞吐、限流与遥测数据，生成涵盖成本、工作负载和 PTU 适配性的自包含报告。费率来自 Azure Retail Prices API 与官方 Foundry 定价页，无确切费率时不猜测价格。工具不外发提示词或响应内容，正式 1.0.0 版仍待 RC 验证与最终审查。
开源排行榜 whatmodel.sh 作者基于 1,629 条公开基准结果，匹配出 180 个模型在 103 项基准上的 611 组对比，发现实验室自报分数平均比独立测试者高 6.4%。数据集采用 CC BY-SA 4.0、代码采用 MIT 协议开放，交互图表见 https://whatmodel.sh/claims，代码见 https://github.com/jakemanger/whatmodel。
开发者 Bhanushree G 在 GitHub 开源 AI-Powered Data Analyst Agent，一个完全本地运行的数据分析智能体，基于 Python 和 Streamlit 构建，不依赖 OpenAI、LangChain 等任何外部 LLM 或付费 API。用户上传 CSV 或 Excel 数据集后，系统自动完成数据理解、清洗、探索性分析和 Plotly 可视化，并用纯 Python 关键词匹配和 pandas 计算回答英文自然语言问题，分析步骤透明可解释。项目附带 25 项自动化测试全部通过，数据不离开本地机器。
GitHub 新仓库 ShaderForge 是一款本地 Shadertoy 兼容的 GLSL IDE，基于 Monaco 编辑器提供实时 WebGL 预览。它支持用自然语言描述着色器，由 Claude 通过 SSE 流式生成 GLSL 直接写入编辑器，还提供 Shadertoy URL 导入、本地模板库和 .glsl 导出。项目采用 React 18 + TypeScript + Vite 前端与 Express 后端代理 Claude API，需配置 ANTHROPIC_API_KEY，并附带 Railway / Render 部署配置。
开源项目 instaXoom 将用户自拍转化为热门风格肖像（如 90s 复古年鉴、赛博朋克、拍立得），并以 4:5 Instagram 竖版格式导出。平台采用 Google OAuth 认证、1 图 = 1 credit（$0.50/credit）的积分系统，每日更新统一美学风格的提示词与 style LoRAs。推理支持本地 ComfyUI 运行 FLUX.1 [schnell]/[dev] + PuLID 人脸相似性，以及云端 Azure AI Foundry（gpt-image-2.5-flare），基于 Next.js 15 + FastAPI 架构，MIT 协议开源。
Genuine Stuffs 是一个 AI 原生建筑平台，将非洲建筑行业价值链整合为单一智能系统。其 AI Studio 用基于建筑领域知识训练的 LLM 在数秒内生成结构化、带成本的工程量清单（BoQ），后端经 OpenRouter 以 Claude-3.5-Sonnet 为主、Gemini-2.0-Flash 和 GPT-4o 为备选的多模型管线驱动，并用 Google Imagen-3 生成可视化概念图，每轮消耗 2 credits。平台还含接入 Paystack 的采购市场、专业人士门户与供应商生态，技术栈为 React 18、TypeScript 和 Supabase，并支持导出 PDF 和 .DXF 文件。
ArcavenAE 开源了 beadle，一个意图对齐的 issue 分诊与仪表盘系统，可对每个 issue/PR 评分（advances/neutral/drifts），并以置顶 GitHub issue 形式维护实时分诊仪表盘，填补现有分诊机器人不按项目意图与维护者实际行为加权的空白。当前以 Phase-0 Claude Code 技能为主，二进制提供 macOS（arm64）与 Linux（amd64、arm64）预构建版本，尚无稳定版，所有发布均为 prerelease，支持 Homebrew、mise 或直接下载。
开发者 tingxi01 在 GitHub 开源个人项目 enterprise-ai-assistant，目标是构建基于 RAG 的企业文档助手，实现文档上传、嵌入向量语义搜索、带引用来源的检索问答。项目采用 Python/FastAPI 后端、Next.js 前端、PostgreSQL 与 pgvector 数据库，目前处于初期规划阶段，尚未提供完整部署方案。
该开源项目在 Kaggle 双 Tesla T4 GPU 上运行 Z-Image-Turbo GGUF Q6_K 模型，采用 GPU0 提示词编码与双卡独立推理工作器架构，并提供密码保护的 Vue Studio 和两个 Cloudflare HTTPS 网站。项目附带经 SHA256 验证的 170 张水印图集（48 张质量图 + 122 张 benchmark 图），代码采用 MIT 许可，上游模型为 Apache-2.0，作者强调仅为演示而非生产部署。
开发者 webdevshanto 在 GitHub 开源了 Ai-Image-Generation 仓库。项目采用 TypeScript 编写，包含 prisma、postman、src 等目录，并配有 .env.example、package.json、eslint.config.mjs 等配置文件。仓库目前处于初始阶段，README 尚未提供具体功能说明。