Vitae 官网开源:基于 RAG 与本地 LLM 的 AI 医疗助手
GitHub 上开源了 Vitae 的官方网站,Vitae 是一款基于手册知识库的 AI 医疗助手,采用 RAG、本地 LLM、向量数据库与语义检索,支持离线知识库、语音交互、AI 化身及医生、教授、助理三种 AI 人格。网站部署在 GitHub Pages,提供医生问诊、教授辅导和患者模拟三种界面,应用与后端另行维护。
新闻、仓库与研究,按时间排列。
GitHub 上开源了 Vitae 的官方网站,Vitae 是一款基于手册知识库的 AI 医疗助手,采用 RAG、本地 LLM、向量数据库与语义检索,支持离线知识库、语音交互、AI 化身及医生、教授、助理三种 AI 人格。网站部署在 GitHub Pages,提供医生问诊、教授辅导和患者模拟三种界面,应用与后端另行维护。
lacs-project 开源了 SysKnife,一个 Linux 系统管理 MCP 服务器,核心设计是模型只输出带风险等级的类型化动作,特权守护进程自行构建命令行,AI 从不经手 shell 字符串。执行需用户在终端输入 sysknife approve <transaction-id> 换取一次性回执,所有动作记录在 Ed25519 签名的可验证审计链上,原子主机 rpm-ostree 变更失败自动回滚;守护进程含 192 个类型化动作,Ubuntu 22.04/24.04/26.04 实测均为 79/79 用例通过,支持 Claude Code、Cursor、Codex CLI,也提供独立 CLI。
GitHub 项目 relayline 发布 ccx 工具(v0.4,2026 年 10 月),让 Claude Code 与 Codex 互为主从智能体,支持共享记忆、按难度分工、验收检查和成本记账,仅依赖 Python 标准库,命令为 ccx。Gemini CLI 和 DeepSeek(经 Claude Code、Codex 或 DeepSeek Harness)及 Kimi、GLM、Qwen、OpenRouter 可作子智能体接入。
推荐理由:把省钱的实测数据连同不利结果一起公开,读者可以据此判断多智能体委派在什么条件下才真的划算。
ashwinsingh2007 在 GitHub 开源了受钢铁侠 JARVIS 启发的 Mac 语音助手 J.A.R.V.I.S,MIT 协议。说 wake up 后全程免手操作,大脑可选 Claude Code、Anthropic API、Gemini 或 Ollama 本地模型;长任务交给后台 worker FRIDAY(默认跑 Opus),期间可继续对话并查询进度。语音识别与默认 Kokoro 语音都在本机运行,能操作已登录的 Chrome、Claude Code 会话和 Mac 应用,支持长期记忆、晨报、定时例程和 Telegram 遥控;发送、删除、付款等操作前会复述任务并等待确认。
推荐理由:作者完整公开了架构、安全边界和模型选择方案,想给 Mac 装一个语音 Agent 的人可以直接照着装起来试。
一位 LocalLLaMA 用户在 r/LocalLLaMA 询问 KV cache 量化的实际影响:其通过 strata 运行 qwen flash next 3.8 iq3xxs,KV cache 用 q8、262k 上下文,想扩到 300-400k 但显存不够,担心 q4 cache 质量下降。评论区多推荐 8k4v 方案,发帖人表示将尝试,否则维持 q8。
韩国独立开发者 /u/RespondImpressive172 发布 Thea(thealibrary.org),一个本地模型可经 MCP 查询的免费知识库,含约 107 万条地点条目(以韩国为主)、人物、作品和组织,数据 CC BY 4.0,每条标注来源与作者类型。
Reddit r/LocalLLaMA 用户提醒量化模型制作者和用户尽快备份自己的量化模型文件,并建议有条件的人制作 torrent 分享备份。帖子未说明具体风险原因,也未提及具体模型或版本。
GitHub 上的 Stephan5/podcasts 仓库已归档并将被删除,目前仅保留是为了让订阅旧 raw.githubusercontent.com feed 地址的播客应用通过各 feed.xml 转向新的 feed URL。原工具以 podcastinator 名义继续维护。
Food-Verse-AI 是一个 Streamlit 毕业项目模板,涵盖食物识别与营养估算、新鲜度提示、厨房卫生检查、食谱辅助和膳食规划五大模块,含总览仪表盘。它使用 Google Gen AI SDK 调用 gemini-2.5-flash 做图像分析,文本生成可选 Gemini 或 Groq 的 Llama 模型,无 API key 时可切换 Demo 模式。项目支持部署到 Streamlit Community Cloud,但作者强调营养与安全结果仅为估算,不能替代注册营养师或食品安全认证。
GitHub 开源项目 RAG-JAVA-OLLAMA 提供了一个本地检索增强生成(RAG)API,基于 Java 21、Spring Boot 和 Ollama 构建。项目支持文档索引、语义搜索以及带来源引用的 AI 问答功能。
GitHub 仓库 Gumekn/qingyan-editable-pptx-skill 发布 Codex Skill「轻研(qingyan-ppt-design)」,通过对话将论文与研究材料生成约 8 页规模的学术 PPT。它学习真实模板的图文组织、字体、配色与版式,经四个阶段分步确认后交付整页 PNG 视觉稿和可编辑 PPTX,文本、表格与形状均可继续修改,通过 $qingyan-ppt-design 调用。
开源项目 AI Image Studio 提供自托管、GPU 加速的图像生成 Web 应用,集成文生图、图像编辑、多图融合、Real-ESRGAN 超分(2x/3x/4x)与 outpainting,后端为 FastAPI,前端为 Vue 3 + TypeScript。运行时可选 7 个生成模型(如 Qwen-Image-2.1、ERNIE-Image Turbo (INT8)、FLUX.2 [klein] 4B、SANA-Sprint 1.6B),面向单张消费级 GPU(如 RTX 3080 20 GB),配备单工作线程任务队列、SSE 实时进度、生成历史与作品画廊,模型本地加载、无外部 API。
GitHub 上架开源项目 KingMath-Ai,这是一个面向高等数学教育的 Web 应用,由前沿 AI 模型驱动,可给出分步解题过程。应用配有高速友好的用户界面,同时适配桌面端和移动端学习场景。
Vk-Media IncuBrix Video B-Roll Engine 是一个确定性视频生成平台,可将剧本、话题和配音转化为带同步 B-roll、内嵌字幕和帧级精确剪辑点的 1080p MP4 视频。它采用 Edge-TTS 神经配音、基于 TF-IDF 余弦相似度的语义素材匹配(支持 Pixabay、Pexels),并提供 16:9、9:16 和 1:1 多比例渲染。项目通过 FastAPI 后端与分屏 Web Studio 操作,支持 Docker 部署,输出前经 FFprobe 质量门校验。
开源项目 Nexus AI Studio 基于 Python 3 和 Streamlit 构建,集成 LLM 对话助手、基于 RAG 的文档问答以及由 Flux 引擎驱动的无水印高清图像生成。项目通过 Google Gemini API 接入模型服务,支持 PDF 与 TXT 解析、TTS 语音播报、JSON 会话持久化,生成图片可经瀑布流画廊直接高清下载。
prompt-json-studio 是一个面向 AI 图像生成的可视化结构化 JSON 提示词生成器与多模型编译器,支持 GPT-4o(DALL-E 3)、Gemini / Imagen 3、FLUX.1 / FLUX.2、Midjourney v6/v7 和 Stable Diffusion XL。项目基于 Angular 21 的 100% Signal 架构并采用 Zoneless 变更检测,通过分层 JSON 消除“概念渗透”,可为各引擎实时编译对应格式提示词,内置模板库与"Magic Expand" AI 助手,后者的 AI 扩展功能可离线运行或接入 Google Gemini、OpenAI、OpenRouter 和本地 Ollama。
GitHub 仓库 jeankassio/ComfyUI-AceStep_SFT 发布了一套 ComfyUI 模块化节点,为 AceStep 1.5 SFT 音乐生成模型提供级联加载(SFT/Base/Turbo 共享 CLIP/VAE)、LoRA、原生 Cover/Remix/Repaint、Whisper 歌词转写等 15 个节点。RTX 3090 实测切换 checkpoint 后结果 bit-identical,源权重传输降低 14.5-14.6%;预计算 conditioning 使编码器调用从 50 次降到 2 次。套件默认使用 jkass_quality 采样器与 APG 引导,附带官方 silence_latent、ScragVAE 对比和语音 timbre 适配等实验功能,MIT 协议开源。
GitHub 新仓库 RSmfOffice/Agent-Skill-for-evidence-gated-AI-video-production 发布视频制作导演 Agent Skill v0.2.0,用于增强 DeepSeek 接入 Codex 环境下的视频生成能力。该 Skill 以质量优先,跨调用维护创作方向、素材连续性、镜头契约、候选证据与审核等生产记忆,采用 intake 到 delivery manifest 的完整工作流,并要求原生分辨率镜头证据和实际全文件技术检查后才能发布。项目提供 init_project.py、preflight.py、approve_gate.py、inspect_media.py 等脚本,需 Python 3.10+ 和 ffmpeg/ffprobe。
ffroliva 发布开源工具 gflow-cli,提供 Python CLI 和 MCP server,通过 Playwright 有头浏览器自动化操作 Google Flow,从终端批量驱动 Veo(t2v、i2v、r2v、extend)和 Imagen(t2i)生成。支持 Character 可复用角色、--tool 创意提示词改写、多场景 movie 清单,输出可路由到 S3、MinIO 或 Google Cloud Storage;项目为 alpha 状态,与 Google 无官方关联,仅 Veo 视频生成消耗账户 Flow 额度,纯 HTTP 传输因 reCAPTCHA 和 401 限制尚不可行。
推荐理由:通过真实浏览器自动化把 Veo 和 Imagen 变成可脚本化的命令行工作流,还给出了账号风险与费用消耗的坦诚说明。
ChatArch 发布 ChatGlance,一个用于生成、配置 Glance 页面并管理 user-service 生命周期的 CLI,上游 Glance 仍是 Go 单二进制 dashboard server。0.5.0 版本支持同一 Python 与 Glance Go 二进制服务多个只读 runtime 实例,密码仅以 bcrypt hash 和独立 64 字节会话密钥写入命名 profile。0.4.0 的多账号跟踪支持每条记录独立绑定 crs_profile + account_id,所有写入命令默认预览,需 --execute 或 --apply 才生效。
作者 /u/Tjalis 发布 SillyTavern 扩展 Mundi v0.2,把群聊变成受 The Sims 启发的生活模拟。新增 Home Mode 提供无工作账单的纯 RP 玩法,含三层楼十个卧室的现成住宅和自建房屋功能。Porto Alto 重制为 5 座城市,地点从 21 个增至 47 个、职业从 25 个增至 41 个,各城市有独立地图与气候。新增巴西葡萄牙语和西班牙语界面,需 SillyTavern 1.19+,约 30k token 上下文,GitHub 地址 https://github.com/tjalis/Mundi。中世纪世界和 RPG 模式推迟到未来更新。
推荐理由:作者本人详解 v0.2 的 Home Mode、地图扩展与安装方式,想给 SillyTavern 加生活模拟玩法的用户可直接上手。
Livesport 在 GitHub 开源 Homer(Apache 2.0),用于把 Claude Code、Codex、LangGraph 和 shell 脚本作为后台任务运行,提供队列、锁策略、LLM 花费上限和运行中人工问答。Agent 通过 agent.yaml 描述并可经 HTTP、cron 或 MCP 触发,支持 LangGraph 检查点恢复、OpenTelemetry 追踪、Kubernetes/ssh/拉取式 runner,以及带日志、成本和问题收件箱的 Web 控制台;Docker Compose 首次启动下载不足 1 GB 镜像。
推荐理由:Livesport 开源了自家 agent 编排工具,用真实 agent.yaml 和 LangGraph 示例讲清队列、锁、预算上限和人工介入的具体做法。
sharRahul 在 GitHub 发布 Raiker,一个安装在自己电脑上的单主人自主 AI Agent,以 Apache 2.0 协议开源,支持 Windows、macOS 和 Linux 桌面端。它整合 Chat、Build、Design 等模块,支持 Ollama、LM Studio、llama.cpp 等本地运行时及 Anthropic、OpenAI、Gemini、OpenRouter 等托管提供商,无云端账号,工作区数据库加密,所有受治理操作默认先询问;另提供 WSL2 和 VPS 部署方式,最低要求 4 GB 内存。
Codex 模型切换器 v2 发布,可在 Codex 桌面版与任意 OpenAI 兼容厂商之间一键切换,双击运行、不碰配置文件。相比 v1 只支持官方 GPT 与 DeepSeek 二选一,v2 改读 providers.json 清单,支持界面内新增、编辑、删除厂商,并增量改写 ~/.codex/config.toml、备份原配置且保留 MCP server 等自定义设置。工具要求 Windows 10/11 与 Python 3.8+;内置 DeepSeek、Kimi、通义千问、智谱 GLM、硅基流动、火山方舟、OpenRouter 等预设。
GitHub 仓库 devzl/topshelf-ai 收录人工精选的开源 AI 工具,按开发工具、Agent Skills 与框架、MCP 与 Agent 基础设施、本地 LLM 运行器、语音与视频生成等类别组织。收录项目包括可将 LLM token 消耗降低 60-90% 的 CLI 代理、支持 646 种语言的自托管语音平台,以及可从磁盘流式运行最高 2.8T 参数 MoE 模型的纯 C 推理引擎。
GitHub 上的 nextrole 项目提供 AI 求职服务:上传简历后由 Claude 对公司官网职位进行匹配评分,代码再校验每条判断,并集中追踪申请进度,已上线 nextrole.cloud。技术栈采用 .NET 10、React 19、MongoDB Atlas 向量搜索与 Claude Haiku 4.5 和 Sonnet 5,eval 集评分 22/24,含 545 项后端测试,许可证为 FSL-1.1-MIT。
Evershade 生态的 LLM 提供商抽象服务 Shrewd 开源,为 OpenAI、Anthropic、Google 和 Ollama 提供统一接口,支持模型路由、自动回退与负载均衡,并按服务追踪 token 用量与估算成本。项目默认端口 8089,支持通过 Ollama 本地运行模型,采用 MIT 许可证。
TransLLM 是一款 100% 直连、零追踪、自带 API Key(BYOK)的浏览器 AI 翻译扩展,支持 DeepSeek、OpenAI、Groq 及任意 OpenAI 兼容端点,还可离线接入本地 Ollama。它提供划词悬浮气泡和整页双语注入两种翻译模式,纯 JavaScript 实现体积小于 200KB,采用 Manifest V3 与 Shadow DOM 隔离,API Key 仅存于 chrome.storage.local。项目以 MIT License 开源,免费使用,只需支付 token 费用。
LukaG712 发布开源项目 Trapper,一个自托管的网页抓取与爬取 API,把网站转为干净的 LLM-ready 数据。支持单页抓取、递归爬取、批量抓取、URL 发现、搜索、浏览器会话交互、多页结构化提取与提示词驱动的研究 agent。技术栈为 Fastify、BullMQ(Redis)、Playwright、Cheerio 与 Turndown,提供 Docker Compose 一键部署、robots.txt 遵循、webhook、API key 鉴权、限流及 Prometheus 指标。仓库地址 https://github.com/LukaG712/Trapper,MIT 许可。
Mikko Parkkola 发布 MCP Gateway,一个单二进制 Rust 网关,把 MCP 服务器和 REST API 聚合在 9-17 个元工具的紧凑表面之后,通过 gateway_search_tools 和 gateway_invoke 按需发现并调用后端工具。每个 MCP 工具定义约耗 150 token,20 个服务器 100 个工具约 15,000 token;实测中元路径完成任务反而多用 1.2-16.1% 输入 token 并多一轮,价值在于目录容量、策略与路由。支持约 8ms 热重载、工具投毒校验、SHA-256 能力固定、多租户身份传播和 A2A 适配,内置 110+ 能力,采用 PolyForm Noncommercial 1.0.0 许可,商用需授权。
推荐理由:README 附带实测基准,说明网关省下的是目录容量而非完成任务时的 token,读者可据此判断是否值得引入。
FeozRu 在 GitHub 开源了 LLMBookTranslator,一款用 Kotlin 和 Compose Multiplatform 开发的 Windows/Linux 桌面应用,通过 LLM 智能体流水线翻译 EPUB/FB2 图书。流程为草稿翻译、文学润色、校对、组装,每阶段落盘可断点续作,内置术语表、翻译笔记库和块级原文对照校对界面,每步自动校验块数对齐、锚点与残留假名等。支持 OpenAI 兼容协议与 Anthropic Messages 协议(含 DeepSeek、GLM、Ollama、OpenRouter 等),提供 17 个 MCP 工具可让外部智能体自主翻译,MIT 许可,发布 MSI/deb/portable 包,项目由作者主导并借助 GLM 与 Claude 大量生成代码。
推荐理由:原文完整公开了多智能体翻译流水线的阶段划分、自动校验规则与文件结构,方法可迁移到自己的 LLM 翻译工作流。
GitHub 开源了 llm-d 工作负载交互模拟器 llm-d-simul,让开发者在部署前对比基础负载均衡与 llm-d 路由的性能。性能估算来自 BLIS,支持 Llama 3.1 8B Instruct、Qwen 2.5 7B Instruct、Qwen3 14B 搭配 NVIDIA A100 80GB/H100/H200 共九种组合,可选 chat、摘要、代码生成、多轮 Agent 四类工作负载。本地运行需 Node.js 22.12+、Python 3.9+,支持 prefill/decode 分池、InfiniBand 400 Gb/s 等网络设置,无需 GPU 或下载模型权重。
niuwoai 发布自托管 AI 编码智能体 WillDeep(willdeep-cli,Apache 2.0),支持 OpenAI 兼容与 Anthropic 线格式端点,模型可留在本地机房。核心特性包括每行改动精确到哪个 Agent 和工具调用的 Diff 归属、子 Agent 任务由 Runtime 执行退出码裁决、五道命令审批闸门加 OS 级围栏、常驻 Daemon 使任务在关终端后继续运行,提供终端 TUI、浏览器和手机三种界面。靶场数据显示 glm-5 在 16 个样本上 Verified Success 100%,但线上派工快照样本很少,累计 11 次子 Agent 运行中 Verified Success 仅 0%(0/2)。
推荐理由:开源的自托管编码 Agent,核心卖点是改动可逐行追责和小模型任务用退出码裁决,适合关注私有化部署的读者参考其审计与闸门设计。
开源项目 LLMstats 通过 GitHub Actions 约每 3 小时自动对 42 个免费额度模型跑基准测试,覆盖 OpenRouter 13 个、Groq 5 个和 Mistral 24 个模型,结果发布到交互式公开仪表盘。架构 fork 自 NIMStats,无需服务器,只需配置三个 API 密钥并开启 GitHub Pages,5 分钟内即可搭建;数据以 SQLite 存储在仓库中,浏览器端经 sql.js 完全客户端查询。
calm-sea-psy 的 llm-playground-wiki 是一个韩语维基百科 QA 产品,解析并精炼维基 dump 建立检索引擎,提供 /search 搜索接口和基于维基依据、以 SSE 流式返回答案的 /ask 聊天机器人。检索采用 BM25(Kiwi) 与 Dense(Qdrant) 混合加 reranker,答案由 Ollama 生成,并依据 reranker 分数在 grounded、partial、refuse 三档间选择回答策略,Python 3.13、uv 和 Docker 部署。
MithrilBytes 发布 overwater,一个扫描代码库找出过大或过贵 LLM 调用点的工具,按公开模型目录给出每月美元计的更便宜候选,如将 claude-opus-5 调用替换为 claude-haiku-4-5 从约 $91/mo 降到 $18/mo。每条发现附带 tripwire 条件并可用 eval 生成 A/B 验证脚本;CI 通过基线只拦截新增发现。扫描器不传输代码、不调用模型 API,目录快照内嵌于二进制,可离线运行,支持 macOS/Linux/Windows,MIT 许可,v2.9.13 可用 go install 安装。
guregodevo 发布 janis,一个用 Go 编写的开源权重模型本地推理模块,定位为 MLX 版 Ollama:Apple Silicon 上跑 MLX 后端,其他平台用纯 Go CPU 后端。janis serve 提供 OpenAI 兼容端点(http://127.0.0.1:8090/v1),支持流式 chat completions、tool calls、运行时切换已加载模型,权重从 huggingface.co/mlx-community 拉取,支持 Qwen3、Qwen3.5、Gemma 系列,另含 whisper、bge、reranker 和约束解码等组件。它也是终端编码 agent Memdoor 的底层模块。
推荐理由:作者用单个 Go 模块把 MLX 推理和 OpenAI 兼容服务封装到一起,说明了本地部署的工程取舍与用法。
arrow1031 维护的 dsh-qq-bot 插件更新到 0.10.x,把协议层拆为 lib/bridge 与 lib/adapters,一套插件接 OneBot 11/12、Satori、Milky、QQ 官方机器人五种协议。要求 DSH ≥ 0.1.7,0.2.1-rc.3 已实测适配;插件带 8 个 Agent 工具、三路权限与访客工具闸,共 628 项测试全部通过,MIT 许可,安装跟随 main 不再锁 tag。
推荐理由:README 把架构、协议适配和全部测试用例写得很细,想给 DSH 接 QQ 机器人可以直接照着部署。
GitHub 上的 agentdynarq/ai-radar 项目通过每日定时 GitHub Action 抓取 arXiv(cs.AI、cs.CL、cs.LG)最新论文和 Hugging Face Hub 最新模型,生成带日期的 markdown 摘要并存档。项目纯用 Python 标准库实现,无需 API key、服务器或依赖,属 Dynarq 的一部分,采用 MIT 许可证。
作者发布 pi-vcc,为 Pi 编程智能体提供不调用LLM的算法式会话压缩,靠提取与格式化生成摘要。与 Pi 默认方案相比,中位体积缩减97.6%,压缩延迟中位1ms,成本为零,输出确定性一致;基于1884个真实会话实测。压缩后的历史可通过 vcc_recall 按关键词或正则搜索回原始会话文件,摘要按最多6个分段加简要转写组织,多次压缩时分段合并并重新封顶。安装方式为 pi install npm:@sting8k/pi-vcc 或从 GitHub 安装,MIT 许可。
推荐理由:作者用1884个真实会话给出压缩率与延迟的量化对比,读者可据此评估这套无LLM的上下文压缩方案是否值得装。