跳到正文
10月26日周一
  1. GitHub · 去对齐工具与仓库59

    GreyWork 开源桌面端 AI 智能体工作台,集成 ACP 外部智能体与本地模型

    jean3690 在 GitHub 开源了 GreyWork,一个面向开发者的桌面优先 AI 智能体工作台,通过 Agent Client Protocol 接入外部编码智能体,并支持 OpenAI 兼容的本地模型流式接入。功能包括三级权限模型(只读/工作区/完全访问)与主机侧拦截、带文件预览和 Git 的授权工作区、基于 Cordis 微内核的插件/MCP/技能市场、cron 定时任务,以及微信、钉钉、飞书、Telegram、QQ、Discord、企业微信七个消息渠道。技术栈为 Electron 加无头 Rust 服务端(axum sidecar)与 Vue 3 渲染层,支持 zh-CN/en-US 双语界面,MIT 协议。项目地址:https://github.com/jean3690/GreyWork

    推荐理由:原文详细列出了权限模型、插件签名机制和双前端架构,开发者可据此评估这个多智能体工作台是否值得本地部署。

  2. GitHub · 去对齐工具与仓库21

    steel-rookie-dx-onboarding:钢铁四工序 3D 新员工入职 DX 原型

    一个面向钢铁厂新员工的入职 DX 原型,在 3D 工厂中串联炼铁、炼钢、轧制、热轧四大工序的实操学习、LLM 导师问答与叙述式考试。项目含 20 变量、17 连接的因果模型与 What-if 计算,Gemini 与本地 Ollama 可选,npm test 510 个测试通过,5 人团队 480 次提交中作者贡献 154 次。

  3. GitHub · 去对齐工具与仓库30

    QRef 0.1 发布:量子代码迁移审查工具上线 GitHub

    GitHub 上的 QRef 0.1 是一个量子代码迁移审查工具,核心流程为本地模型提出移植方案、开发者检查后再执行,用两个固定 Python 3.11.12 环境分别运行参考与目标代码,并检查提交的量子线路、经典解释与采样设置。qref propose、qref run、qref report、qref verify-bundle 已实现,报告以静态页面发布在免费 GitHub Pages,仓库代码采用 Apache-2.0 许可,需披露 MQT QCEC 为检查引擎。

  4. GitHub · 去对齐工具与仓库47

    dc-tw 开源 ai-ops-gateway:企业级 AI 运维与数据处理 Gateway 骨架

    dc-tw 在 GitHub 发布 ai-ops-gateway,一个整合 FastAPI、SSE、LangGraph、Playwright、MCP 与 Redis 8 的企业级 AI 运维 Gateway 骨架,支持可互换的 Ollama / vLLM 推理后端。系统内置基于 pyatr 的 Agent Threat Rules 检测(默认 detection-only,可按 severity 开启 blocking)、SHA-256 证据校验、多租户 API key 与 OIDC/JWKS JWT 等安全治理,并提供 /metrics 与 OpenTelemetry 可观测性。

  5. GitHub · 去对齐工具与仓库58

    Personal Wiki Builder:基于 Karpathy llm-wiki 模式的访谈式个人 wiki 脚手架

    laurenceshan 发布 personal-wiki-builder,一个受 Karpathy llm-wiki 模式启发的非官方 setup skill,通过引导式访谈或 Quick Start 确认蓝图后再生成 wiki 仓库。它继承原始模式的三层结构(不可变 raw 源、LLM 维护的 Markdown wiki、约束 agent 的 schema),并扩展出三项设计:以 claim、principle、decision、question 为核心页面类型并区分事实、外部观点、用户判断与 AI 推理;将 AI 推断的判断标记为草稿、修改已确认判断需用户确认;默认私有仓库。

    推荐理由:把 Karpathy 的 llm-wiki 理念落成带访谈流程、蓝图确认和 schema 治理边界的可复用脚手架,强调判断演进与隐私默认私有。

  6. GitHub · 去对齐工具与仓库12

    WaelHammali 的 GitHub 个人主页:LLM 驱动渗透测试与多智能体 AI 项目集

    软件工程学生 WaelHammali 的 GitHub 主页展示其研究方向与项目:基于 LangGraph 的 IntelForge OSINT 框架和 6 智能体渗透测试框架 VoidHawk(含 ChromaDB RAG 记忆与 CVSS 评分报告),两者串联为 DarkIntel 端到端管道。其他项目包括 YOLOv8 + RAG 网络图转 Terraform/Ansible 自动化、Real-ESRGAN + ViTPose 球衣号码识别,持有 CAPT 与 CCNA 认证。

  7. GitHub · 去对齐工具与仓库24

    AI_Tutor v1.5.5 发布:全学科 AI 私教支持 Android / iOS / PC 全平台

    开源项目 AI_Tutor 发布 v1.5.5 版本,覆盖 Android、iOS 与 PC 全平台,提供 1-9 年级全学科 AI 私教。新版搭载 TypeSafe Jev 决策引擎,70ms 识别拦截闲聊且 0 Token 消耗,并接入 DeepSeek V3 / R1 与 Gemini 2.5 双通道容灾,国内直连延迟低至 340ms。系统基于 LanceDB 向量知识库(39,114+ 母题)构建“学-练-测-辅-管”闭环,支持拍照搜题、错题一键生成 A4 试卷与局域网打印。

  8. GitHub · 去对齐工具与仓库31

    aortez/playtime:本地 LLM 实验工作台 v0.1.0 发布

    aortez/playtime v0.1.0 达成 MVP,提供 Rust daemon、CLI 和 workbench,用于有边界的本地 LLM 实验。当前模型为 gpt-oss:20b,curiosity recipe 限定 10 个会话、每会话 10 个工作轮次、64K 上下文、300,000 生成 token 和 30 分钟控制器时间。生产路径要求 Linux x86-64、systemd 用户管理器、cgroup v2、Docker Engine 与 Ollama,模型工具在容器内以 uid 1000 运行且无外部网络。

  9. GitHub · 去对齐工具与仓库59

    OmniFree 开源:用各家免费额度拼出一个个人云

    GitHub 上的 OmniFree 项目把多家免费层资源整合成个人云,用故障转移路由聚合 Groq、Gemini、Mistral、OpenRouter 等免费 LLM API,并跨 R2、B2、GCS 等免费存储分散文件,还提供数据库、Pi-hole DNS 过滤和计算资源,通过暗色模式移动 PWA 管理。项目采用六边形架构,core/ 定义端口与智能路由,每个服务商是 plugins/ 下的适配器,配置集中在 config/providers.yaml。附带的免费额度核查表(2026-10-19 核对)记录了 Oracle A1 缩至 2 OCPU/12GB、Koyeb 被 Mistral 收购后取消免费层、Cerebras 改为 30 天 $5 试用、Gemini 限额两次下调等变化,并给出对应配置调整。

    推荐理由:仓库附有 2026-10 逐家核对的免费额度变化表,读者可据此了解各免费层现状与部署成本。

  10. GitHub · 去对齐工具与仓库43

    MiniCode:基于 LLM 的自主编程智能体(UFMS 神经网络课程实践项目)

    MiniCode 是一个由 LLM 驱动的自主编程智能体,接收自然语言任务后生成 SPEC 与 PLAN,在沙箱化 workspace 中受控执行,且仅在独立于 LLM 的测试 harness 确认 pytest 通过后才判定完成。项目为 UFMS 神经网络课程实践作业,目标模型为 Qwen/Qwen2.5-14B-Instruct-AWQ,经 vLLM 以 OpenAI 兼容 API 提供。智能体采用有限状态机(RECEIVED→SPECIFIED→PLANNED→IMPLEMENTING→VERIFYING→DONE/FAILED),含修复循环、token 预算管理与 .minicode/ 执行追踪。

  11. GitHub · 灵魂体仓库44

    DualTran-extension:AI 驱动的双语网页翻译浏览器扩展

    DualTran 是一款 AI 驱动的浏览器扩展,可翻译网页并在原文旁对照显示译文,基于 FilipePS 的 Traduzir-paginas-web 增强。它支持 Google Translate 与 LLM 翻译,接入 20+ AI 提供商(含 OpenAI、Anthropic、Gemini、DeepSeek、智谱AI 等),经 OpenRouter 可用 300+ 模型,支持 100+ 语言和 Alt+T 等快捷键。项目采用 Mozilla Public License 2.0 开源。

  12. GitHub · 灵魂体仓库59

    OBEY-api-gateway:单二进制 OpenAI 兼容 AI 网关开源

    GitHub 上的 fdanobey/OBEY-api-gateway 是一个 OpenAI 兼容的 AI 网关,提供多供应商路由、自动故障转移、熔断器与限流冷却,支持 OpenAI、Ollama、AWS Bedrock、Groq、vLLM 等供应商,单个 Rust 二进制、无运行时依赖。特性包括两级响应缓存、prompt-cache 感知路由、Codex OAuth 登录与网页搜索桥接、guardrail 管线、Agent 循环检测、虚拟密钥管理、token 与工具定义压缩,可通过 Windows 安装包、Docker、Railway 或源码构建部署。

    推荐理由:单文件 Rust 网关把故障转移、限流冷却、缓存路由和虚拟密钥做进一个仓库,文档细到超时字段,适合自建多供应商路由时参考。

  13. GitHub · 灵魂体仓库39

    lobehub/lobe-icons:300+ AI 品牌图标库,开箱即用

    lobehub/lobe-icons 提供 300+ AI/LLM 模型、厂商与应用品牌图标,覆盖 OpenAI、Claude、Gemini、千问、DeepSeek 等,含 Mono、彩色、文字与头像四种风格,适配明暗主题。支持 React、React Native 及 CDN 图片 URL,包体积按需引入,并可通过 skills.md 与 llms.txt 供 Cursor、Claude Code 等编码智能体自学使用。安装需 React 19,`@lobehub/ui` 为 peer dependency。

  14. GitHub · 灵魂体仓库58

    音乐制作人开源本地 AI Agent 工作台 Real,Rust 后端核验模型改动的每一轮

    音乐制作人 Azzrenz 在 GitHub 开源了 Windows 本地 AI Agent 工作台 Real(MIT 协议),从 2026 年 5 月底开始开发,六万六千行代码全部由 AI 生成。它以收敛循环推进任务,每轮把上下文交给模型表态,模型发工具调用就执行并带回执,给纯文本则收敛结束。设计上模型只做判断,后端核验事实,改动清单按 mtime 扫描生成、不由模型申报,长命令按进程退出码判定。实测缓存命中 94–98%、单任务 ¥0.06–0.09,同类任务第二轮轮次从 30 降到 16、成本降 33%。后端 Rust(Axum + SQLx + SQLite),桌面壳 Tauri 2 + React 18,内置 DeepSeek 与智谱 GLM,数据默认落 D:\RealData 不云同步。

  15. GitHub · 灵魂体仓库18

    CB-Tumblebug:多云基础设施管理系统(Cloud-Barista 项目)

    CB-Tumblebug 是 Cloud-Barista 项目下的开源多云基础设施管理系统,可在单一平台对 AWS、Azure、GCP、阿里云等云资源进行供给、管理与编排。新版新增基于 MCP Server 的 AI 管理,可通过 Claude、VS Code 等助手用自然语言控制基础设施,并提供可视化基础设施地图与加密凭证管理。项目尚未达到 1.0 版本,官方提示生产环境需谨慎使用;Kubernetes 部署(Helm chart)为 Beta 功能,docker compose 仍是稳定默认方式。

  16. GitHub · 灵魂体仓库44

    Local Token Visualizer:离线统计与可视化 LLM token 的 VS Code 扩展

    Local Token Visualizer 是一款 VS Code 扩展,可在本地离线统计并高亮当前编辑器文本的 LLM token,内置 GPT-4o(o200k_base)、gpt-oss(o200k_harmony)、Gemma 4 三种 tokenizer,还可按需从 Hugging Face 下载 Llama 3.1、Qwen 2.5、DeepSeek V3、Mistral v3 等。编辑内容不外传,仅在选择下载 tokenizer 时访问一次 huggingface.co。由于 Anthropic 和 Google 未公开 Claude 3+ 与 Gemini 的 tokenizer,相应计数需用官方 API 或以 Gemma 4 近似。

  17. GitHub · 灵魂体仓库53

    Janus:面向 OpenCode 的多 Agent 日常智能体插件发布

    Arrowyi 发布 Janus agent plugin,为 OpenCode 提供一组日常智能体:janus 作默认入口负责路由,consultant 按 select、verify、plan、guide、research、author 六种模式给出证据分级咨询,coder 按 L0/L1/L2/L3 流程权重处理编码,lite 用 deepseek-v4.1-flash 提供低成本的快速问答并按需升级。系统还包含四个只读研究专员加一个限定写权限的 writer,以及基于 SQLite FTS5 的 janus-memory 共享记忆,自动保存咨询结论并通过结果反馈循环供后续咨询复用。

  18. GitHub · 灵魂体仓库31

    doc2md_app:将 PDF、DOCX、PPTX、XLSX 等文件转换为 Markdown 的本地 Web 工具

    doc2md 是一个开源 Python 工具,可将 PDF、DOCX、PPTX、XLSX/XLS 及 LibreOffice(ODT、ODS、ODP)文件转换为干净的 Markdown,供 LLM 使用——相比直接喂 PDF,.md 文件消耗更少 token 且效果更好。该项目基于 Flask 构建,使用 pdfplumber、mammoth、python-pptx、openpyxl 等库,通过本地 Web 界面拖拽文件即可转换并下载 .md,需 Python 3.10 及以上,采用 MIT 许可证。

  19. GitHub · 灵魂体仓库47

    KG-SSOT:让团队与 Agent 的结论以带溯源的知识图谱形式在 CI 中校验

    KG-SSOT 将团队与 Agent 的结论存入与代码同版本管理的 .kg.yaml 知识图谱,要求每个 claim 带来源、验证时间戳和方法类别,缺失来源或来源为占位符的节点在 CI 中校验失败。契约基于 JSON Schema 2020-12,分 MUST 与 SHOULD 两级,配套 438 个用例的一致性测试套件。可通过 pip、npm、Docker 及 MCP 服务器(kg-ssot-v4.29.1)使用,供 Claude Desktop、Claude Code 等 MCP 客户端调用。

  20. GitHub · 灵魂体仓库76

    开源 QQ 本地大模型聊天机器人 qq-ollama-bot

    muguang1224 发布了用 Ollama 本地模型驱动的 QQ 聊天机器人项目 qq-ollama-bot,通过 NapCat 收发消息,不需要云端 API,支持 Windows / Linux / macOS。它用 qwen3.5-4b 聊天、qwen2.5vl:3b 看图,加 YOLO 做目标检测,具备情绪系统、长期记忆、人设进化、语音回复(edge-tts / GPT-SoVITS 声音克隆)、主动聊天和 QQ 空间发说说等功能;并用 Prompt 层加代码正则两层拦截,阻止模型编造「刚刷到视频」等假经历。README 附完整安装步骤、风控与账号安全提示,以及图片缩放实测,原图送模型需 46-200 秒,缩到 256px 后降到 4.4 秒。

    推荐理由:README 讲清了情绪系统、长期记忆和两层防编造的构造方法,还给出图片缩放和显存的实测数据,做法可迁移。

  21. GitHub · 灵魂体仓库59

    Ark 发布:面向 AI 编码智能体的代码理解引擎,通过 MCP 提供调用关系与影响分析

    magicdrive 发布 Ark,一个供 AI 编码智能体使用的代码理解引擎:它用 Tree-sitter 解析仓库、提取声明与引用并按各语言作用域规则消解,通过 MCP 提供 21 个工具,支持调用方/被调方查询、变更影响分析和按符号的 token 预算上下文。每个答案带 exact/strong/candidate 置信级别并统计未消解引用,模糊名返回声明列表而非默认选一个,名称不跨语言匹配。

    推荐理由:原文给出置信分级、按语言的解析边界和真实耗时数据,能帮助读者判断这类代码索引工具对 Agent 的实际边界。

  22. GitHub · 灵魂体仓库41

    autoNews:用 GitHub Actions 零成本自动生成前沿 AI 日报的开源项目

    GitHub 开源项目 autoNews 每天自动采集全球 AI 资讯,覆盖 11 个垂直领域,用大模型生成结构化解读并归档为飞书云文档,全程运行在 GitHub Actions 上,零服务器成本。项目支持 ArXiv、GitHub Trending 等多源采集,标注 [大厂/顶级机构] 等质量标记,可配置飞书或钉钉推送。模型接口任意 OpenAI 兼容服务均可,支持 DeepSeek、通义千问、智谱 GLM、OpenAI 等,每天北京时间 08:00 自动运行并跨天查重。

  23. Reddit · r/SillyTavernAI54

    Breedhaven University 开源:开发者分享用 LLM 做聊天游戏的工程经验

    /u/ironical 开源了基于 LLM 的游戏 Breedhaven University,可在 itch 免费下载,含 20 个角色的动画 NSFW 内容,需搭配 LLM,ComfyUI 可选,主要在 Opus 4.6 和 GLM 5.2 上测试。作者总结工程心得:游戏状态尽量由游戏侧决定,扫描 LLM 回复触发函数比让模型自行决策更可靠;用特质、提示词和好感度数值门槛拒绝不合格回复并自动重提示;视频生成每段需 2-3 分钟,实时生成尚不可行,只能预生成。

  24. GitHub · 3D 生成新仓库35

    hi-space 开源 open-canvas-bedrock:基于 LangChain Open Canvas 的 AI 文档协作平台

    hi-space 在 GitHub 发布 open-canvas-bedrock,一个基于 langchain-ai/open-canvas 修改的 AI 智能体文档与代码协作平台。系统由 Open Canvas、Reflection、Web Search、Thread Title、Summarizer 五个 LangGraph Agent 组成,底层通过 AWS Bedrock 调用 Claude、GPT、Grok、Kimi 等模型,存储支持 Memory 或 DynamoDB。平台支持 Artifact 生成与版本控制、Web 搜索(Tavily API)、超过 300,000 字符自动摘要及用户风格记忆。

  25. GitHub · 3D 生成新仓库62

    开源 AI 长篇网文生成系统 ai-novel-generator 发布

    GitHub 开源项目 j77156057-art/ai-novel-generator 发布,把长篇网文写作拆成可工程化、可验证的流水线,含 FastAPI 后端与 Vue 3 前端。核心机制包括 16 维叙事档案与 21 个可机检文体特征的文风蒸馏三档、层级摘要树保证前情连续覆盖段 1..N、BM25 × 向量 RRF 混合检索、知识图谱 v3 生成前提醒防漂移;助理 agent 有 25 个工具,写操作仅 propose_action / propose_text_edit / propose_text_fix 三种提案,需人批准落库并留版本快照。项目含 1,300 项后端测试(8 项既有失败)和空白机 19 项自检全绿;基于 LLM 的知识图谱抽取等列为未完成边界。

    推荐理由:把长篇网文写作拆成可验证的流水线,覆盖不变量、知识图谱防漂移和提案闸门都有可复算做法,方法可迁移到其他长文本生成场景。

  26. GitHub · 3D 生成新仓库22

    BookLeaf 作者支持门户(AuthorsSupportPortal)开源:基于 Next.js 与 OpenAI 的工单系统

    一个名为 BookLeaf Author Support & Communication Portal 的项目开源,基于 Next.js App Router + TypeScript + Prisma + Supabase 构建,集成 OpenAI 做工单分类与草稿回复,默认模型为 gpt-4o-mini,分类/草稿输出上限 150/700 tokens,并支持 AI_MODE=mock 的确定性模拟模式。系统采用显式 triage 规则和严格 JSON schema,AI 失败时工单保留供人工处理,管理员审核后才发送每条回复。项目已于 2026 年 10 月 26 日确认成功部署到 Vercel,附件上传和工单关联功能暂缓。

  27. GitHub · 3D 生成新仓库46

    MaiBot 插件 moss_plugin_moss_image v0.2.1 发布:支持原文直出生图与官方 MOSS-Image 规划

    YayiMiko 发布 MaiBot 插件 maibot_plugin_moss_image v0.2.1,支持原文直出生图、官方 MOSS-Image Caption/Layout 规划,通过 ComfyUI 生图并发送到 QQ,另支持法术解析与视觉反推。插件内置官方 skill 和工作流(含 FLUX.2 VAE、50 步/CFG 3),需 MaiBot 1.3.x、Plugin SDK 2.8.2~2.13.x、Python 3.12+,并提供 OC 角色预设、单页漫画与静态表情包功能。

  28. GitHub · 3D 生成新仓库26

    Superklok Labs 开源 ComfyUI 演示仓库:NonCommercialDEMO 展示 TrenchPetals 角色制作管线

    Superklok Labs 发布开源 ComfyUI 演示仓库 NonCommercialDEMO,展示其制作 TrenchPetals 宇宙角色 Sunny Chuxem 的生产级管线。仓库包含两条管线,分别基于 flux-2-klein-9b-f8 与 flux3-image-klein-int8 checkpoint,集成 FaceDetailer、HandDetailer、FootDetailer 三层细节节点和 MASTER SWITCH 切换逻辑。因核心模型依赖受限,项目采用 Non-Commercial Demo License v1.0,仅限教育、研究与评估用途。

  29. GitHub · 3D 生成新仓库30

    Beyondsumi:用 AI 助手把创意变成水墨风动画电影的 YouTube 自动化项目发布

    开源新仓库 Beyondsumi 面向 YouTube 自动化叙事,配合 Codex、Claude Code 等多种 AI 助手,将想法或录音转化为带角色表演、旁白、配乐和音效的水墨风动画电影,无需视频生成 API。项目提供 Original、Light、Dark 三种风格和可选 SVG 路线,内置 12 个 Python 原创音乐主题与本地声音引擎,成品以 HD H.264/AAC MP4 交付。创作者估算 10 分钟视频成本约 US$0.92,旁白可选 ElevenLabs 或开源 Voicebox。

  30. GitHub · 3D 生成新仓库49

    EdgeQuake:Rust 实现的 Graph-RAG,单二进制文件加 PostgreSQL 即可部署

    EdgeQuake 是一个用 Rust 实现 LightRAG 算法的开源 Graph-RAG 项目,可将文档转为知识图谱并返回带来源的答案,基于 PostgreSQL 16/17/18(pgvector + Apache AGE)作为唯一数据存储。在 GraphRAG-Bench 医疗语料测试(n=200)中,其答案准确率 0.792 与 LightRAG(0.786)持平,但缓存后热查询 p50 仅 82 ms,远快于 LightRAG 的 993 ms。项目支持 OpenAI、Anthropic、Gemini、Mistral 及 Ollama 等本地模型,提供 Web UI、MCP、多语言 SDK、多租户隔离与 AES-256-GCM 密钥加密,采用 Apache License 2.0 开源。

  31. prompts.chat · 每日 prompt21

    prompts.chat PR #1303:Bot 卡片新增点赞数、评论与变更请求,用户资料新增 Bots 标签页

    prompts.chat 的 PR #1303 为 bot 卡片显示点赞数,bot 页面新增点赞、评论和变更请求功能,并将变更请求列表/详情提取为可复用组件。用户资料新增 Bots 标签页(含分页与 bot 数量统计),管理员可对已删除 bot 打开变更请求、隐藏其评论;仅含 bot 的个人主页仍可被索引,SEO 描述与结构化数据同步更新。

  32. GitHub · 去对齐工具与仓库44

    a9lim/llmoji:让 AI 编程智能体每条消息开头用颜文字的 CLI 工具

    GitHub 开源项目 llmoji 是一个 CLI 工具,可配置 Claude Code、Codex、Grok 等 agent 在每条消息开头使用 kaomoji(颜文字),并将本地记录汇总后上传至共享 HuggingFace 数据集 a9lim/llmoji。2.2.0 修复了三处记录漏洞:codex-cli 0.144–0.158 新会话格式导致 Codex 停止记录、Claude Code 常漏记每轮最后一条消息、OpenClaw 插件安装位置错误,并新增 Grok Build 与 Antigravity 支持;1.2.0 之前的版本存在隐私问题,需通过 pip install --upgrade llmoji 升级后才能上传。

  33. GitHub · 去对齐工具与仓库22

    market-close-daily:GitHub Actions 每日两次自动更新的全球股市收盘页面

    一个每天自动更新的全球股市收盘落地页项目,托管在 GitHub Pages,由 GitHub Actions 定时每日构建两次。页面整合美欧亚 9 个指数、多组汇率、WTI/黄金/BTC/UST10Y/VIX 数据及 8 个 RSS 新闻源,并用 Claude Haiku 生成韩语摘要。GitHub Pages 与 Actions 免费使用,LLM 调用(每月约 60 次)成本约 $0.42/月,总运营费低于 $1/月。

  34. GitHub · 去对齐工具与仓库60

    Shivanim042003 开源 llm-inference 推理服务栈并实测对比 vLLM

    作者开源 llm-inference,一个面向可测量的 LLM 服务栈,包含从零实现的 continuous batching 引擎、OpenAI 兼容服务器、开环负载生成器和自动生成报告的实验集。在 T4 上对 Qwen/Qwen2.5-0.5B-Instruct 实测,continuous-32 达 6 req/s SLO 容量,为 vLLM(12 req/s)的 50%,静态 KV 槽位加 CUDA graphs 后升至 10 req/s 达 vLLM 下界 83%;附逐 token 正确性测试、精度(fp16/int8/nf4)对比与复现脚本,仓库 MIT 协议。

    推荐理由:作者自建推理服务栈并与 vLLM 同卡对比,给出 SLO、CUDA graphs 和前缀缓存的消融数据,可复现。

  35. GitHub · 去对齐工具与仓库34

    Écluse 开源:在不暴露身份的前提下使用大语言模型

    法国团队推出开源隐私工具 Écluse(Apache 2.0),在用户与大模型之间充当"隔离舱":拦截可识别身份的敏感信息并泛化过精确线索,响应返回后本地回填,并生成签名、带时间戳的审计日志支持 AIPD。它内置 NIR、RPPS、FINESS、IBAN 等法国标识符的结构化检测与重识别风险评分,对 OpenAI、Anthropic、Mistral、Gemini 或自托管 Llama 保持中立,托管云仅限欧盟。

  36. GitHub · 去对齐工具与仓库62

    kanderson-ai-dev 开源 langgraph-multiagent-orchestrator 多租户多智能体报告编排服务

    开发者 kanderson-ai-dev 在 GitHub 发布基于 FastAPI 与 LangGraph 的多租户编排微服务:提交报告简报后由 LLM Supervisor 动态路由、通过 LangGraph Send() 并行分发任务,Writer 与 Reviewer 进行有界辩论直至过评,否则升级人工。

    推荐理由:仓库给出完整的多租户多智能体编排实现,附带预算门控、哈希链审计和离线可跑的评测门槛,适合直接复用改造。

  37. GitHub · 去对齐工具与仓库34

    metis-agent:用 Gemma 4 E2B 驱动经认证的 metis 运行时

    metis-agent 以本地小模型 Gemma 4 E2B 作为叙述者,由经认证的 metis 运行时管理设备状态、流程、概率与安全,模型将语句映射为类型化 intent 并在出现意外时向用户求证。系统采用双智能体共享一个内核(每个目录域一个 domain agent、每台设备一个 orchestrator),通过人工把关的目录更新而非重训练变聪明。仓库以 Apache License 2.0 开源,包含 Go 部署运行时(llama.cpp in-process over cgo)、Python 开发栈与论文草稿。