J.A.R.V.I.S.:基于证据验证的开源 AI 情报简报平台
开源项目 J.A.R.V.I.S. 是一个基于证据的 AI 情报平台,采用双塔架构:先确定性评分筛选 Top 20 候选,再用 LLM 语义重排。系统支持跨文档知识图谱推理和问答,证据得分低于 60.0% 时自动拒答。在 120 项离线评测集上,确定性+LLM 方案取得 NDCG@3 1.0000,并配备防 XSS 与提示词注入防护及 GitHub Actions CI。
新闻、仓库与研究,按时间排列。
开源项目 J.A.R.V.I.S. 是一个基于证据的 AI 情报平台,采用双塔架构:先确定性评分筛选 Top 20 候选,再用 LLM 语义重排。系统支持跨文档知识图谱推理和问答,证据得分低于 60.0% 时自动拒答。在 120 项离线评测集上,确定性+LLM 方案取得 NDCG@3 1.0000,并配备防 XSS 与提示词注入防护及 GitHub Actions CI。
GitHub 上的 HyxiaoGe/fusion 是一个面向任务执行的 AI 工作台,让 AI 根据用户意图按需选择模型能力与工具,在一次对话中完成搜索、阅读、规划和结构化执行,并呈现回答依据与 Agent 运行轨迹。它支持任务感知的能力路由、可恢复的 Agent 执行、文件与知识库(异步解析、切片、向量化),并通过 LiteLLM 统一模型目录。项目为 Monorepo,后端采用 FastAPI、PostgreSQL、Redis、Milvus,前端以 Next.js 提供 Web 体验并保留 Electron 桌面构建入口。
uni-api 是一个统一管理大语言模型 API 的开源项目,通过单一 API 接口调用多个后端服务并统一转换为 OpenAI 格式,支持 OpenAI、Anthropic、Gemini、Vertex、Azure、AWS、xAI、Cohere、Groq、Cloudflare、OpenRouter 等后端。项目无前端界面,纯配置文件即可运行,支持三类负载均衡(通道加权、顺序轮询、API Key 轮询)、自动重试、通道冷却、细粒度超时与权限控制、速率限制(如 2/min),并提供 /v1/chat/completions、/v1/embeddings 等标准 OpenAI 格式接口。
作者在 GitHub 开源了 quant-lab,一个零依赖、无需构建的浏览器美股研究终端,提供 Canvas K 线、事件驱动回测、模拟交易和三个研究 Agent,覆盖 11,749 只美股代码,在线 demo 在 alexsheng26.github.io/quant-lab。项目坚持"数字来自代码、文字来自模型",195 个测试约 5 秒离线跑完;10-K 风险因子对比改用 n-gram 覆盖后,Apple 被误判为新增的段落从 40% 降到 9.5%,结果超 30% 时标记不可靠且不调用模型。
APIMaster 开源了 community-integrations 仓库,收录可与其或任何 OpenAI 兼容端点配合使用的社区项目,包含 integrations.json 数据、静态 index.html 页面和每日更新 star 数的 refresh-stars.js。提交项目需具备带 license 和 README 的公开仓库、对 OpenAI 兼容端点的真实调用及六个月内的提交记录,star 数不是收录标准;代码采用 MIT 许可。
Breve 是 GitHub 上一款跨平台本地 LLM 对话应用,基于 Tauri、Vue 3 和 TypeScript 构建,可在无网络连接的任意设备上本地运行大语言模型。它会根据设备内存计算最大上下文长度,会话数据通过 Rust 后端存储在本地 SQLite 中,支持会话的创建、更新、删除与继续,并支持自定义导入本地 GGUF 模型和 Android 打包。
jurczykpawel 在 GitHub 开源 ai-api-catalog 项目,聚合 LiteLLM、OpenRouter、fal.ai 等 25+ 提供商的 2000+ AI 模型,覆盖 LLM(800+)、图像生成(500+)、视频生成(200+)、TTS、STT、音乐和 embeddings,并按 per-token、per-second 等单位高亮最优价格。数据每周一自动更新,社区可通过 PR 补充模型或修正价格,页面无需构建步骤,仅需通过 `python3 -m http.server` 本地运行。
开源 CLI 工具 Workspace Architect 提供 400+ 专家打磨的 agents、instructions 和 prompts,用于增强 GitHub Copilot。通过 `npx workspace-architect` 即可使用,无需安装,可一键下载 React、Azure、DevOps 等领域配置,并自动同步 awesome-copilot 和 Anthropic skills 仓库,兼容 Claude 等其他 AI 助手。资产涵盖 instructions、prompts、agents、skills、hooks、plugins、collections 七类,以纯 Markdown 文件存储,避免厂商锁定。
研究者提出 ChemDiffAgent,首个用于工具集成化学推理的掩码扩散语言智能体,将化学推理重构为对推理与工具使用交织轨迹的迭代去噪。其两阶段后训练框架包含智能体监督微调和方差缩减偏好优化,并构建了覆盖六项化学任务的单轮与多轮工具使用基准。在同等预算下整体性能较自回归智能体提升约 20%,8B 模型可媲美甚至在部分场景超越 GPT 5.5 和 Claude Opus 4.7 等更大规模的前沿模型。
martin-francois 开源了 Symphony for Trello,一个改编自 OpenAI Symphony(原用 Linear)的独立编排工具,让 Codex CLI 以 app-server 模式从 Trello 卡片自动领取任务。卡片移入 Ready for Codex 后,Symphony 轮询看板、为每张卡创建本地工作区、运行 Codex 并维护一条 ## Codex Workpad 评论,完成后将卡片移到 Human Review 或 Blocked。
推荐理由:把 OpenAI Symphony 的编排思路映射到 Trello 看板,README 讲清了列表路由、工作区隔离和用法限制,方法可直接迁移。
Team-Commonly 在 GitHub 发布开源项目 Commonly(Apache 2.0),一个人类与 AI Agent 共同工作的自托管共享工作区,pod 内置持久记忆、任务板和线程对话,Agent 以具名席位加入,各自拥有独立身份、记忆与技能。
推荐理由:README 完整给出了 pod、seat、grant 等核心概念和本地部署步骤,读者可以照着自行搭建这个人与 Agent 共用的协作层。
百度智能云百舸团队在 GitHub 开源了训练框架 LoongForge(Apache 2.0,源自 AIAK-Training-LLM),用于加速 LLM、VLM、扩散和具身模型训练,支持预训练、继续预训练、SFT 和 LoRA。框架采用多后端架构,Megatron Stack 服务于 LLM、VLM 与扩散模型,Torch-Native Stack 服务于 VLA 和 WAM 具身模型;TAOT 方法可将 MoE 专家并行负载不均的开销最高降低 74%,具身模型 DreamZero 实测达 4.38 倍基线吞吐。支持 DeepSeek-V4、Qwen3.8、GLM-5.3-flash、Kimi-K3、GR00T-N1.7 等模型,提供 NVIDIA GPU 和昆仑 XPU 双硬件支持。
GitHub 开源项目 llm-architectures 提供主流开源大模型(LLM/VLM/MoE)网络结构与核心算法的系统化学习与复现实现,覆盖 LLaMA、DeepSeek、Qwen、Mistral、Gemma、Phi、Falcon、Yi、Baichuan 等系列。项目按机构/系列/版本组织目录,每个版本含 README 架构解析、纯 PyTorch 自包含 modeling.py 实现与 config.json,并提供注意力机制、位置编码、归一化、MoE 及量化(FP8、AWQ、GPTQ)等通用组件库和跨模型横向对比。
Reddit r/LocalLLaMA 网友分享本地开源权重模型做长篇创意写作的体验:最推荐 Gemma 31B Mero-mero-v2 微调版,写得自然、基本无审查;Qwen 3.8 27b 微调写作令人失望;Muse Glimmer 30b 输出方差大;Gemma 31B Artemis 偏向 RP 且有拒答。作者还用 Pi 搭建写作 harness 来纠错、消除 AI 套话。
MLX nobby 是一个开源的 Apple Silicon 本地 AI 助手与控制中心,基于 Apple MLX 生态,在浏览器界面中集成本地 LLM 对话、模型管理、RAG、编码工作流、图像生成、语音转写和 AI 智能体。它提供 OpenAI 兼容本地推理 API(已用 Cline 4.1.22 验证)、Finance Intelligence 本地投资组合分析、Qwen Image 2.1 与 LTX 2.5 文生图/文生视频,以及最高 20 秒源音频的 Talking Photo(beta)。v1.8.0 后的主干更新还改进了媒体队列恢复与原生调度退避机制。
DaizeDong 在 GitHub 发布 self-evolve,通过 profile、reflect、propose、patch、evaluate、accept 的循环,在 Git worktree 中评测候选改动并以证据决定是否接受。工具冻结评测规则防止通过删任务或自评提分,支持 A(执行测试)、B(独立验证事实)、C(提供测量)三类证据模式,提供 CLI 的 doctor、init、run、status 命令,要求私有 Git 伴生存储,MIT 协议。
推荐理由:原文讲清了自我改进循环如何用固定评测契约和证据化验收来防止改任务、删难题、自评刷分。
arXiv 一项研究提出闭式、无标签的仿射翻译器,可将表格基础模型(TFM)最多 96% 的 Transformer 块替换掉,揭示其严重过参数化。在 171 个分类数据集上评测八个前沿 TFM,替换一半的块最多仅损失中位 0.002 AUROC。移除深度最多省 1.5B 参数、GPU 推理提速 6 倍、中位仅损失 0.03 AUROC,单块 TabPFN-3 缓存查询快 2.4 倍、内存省 6 倍。
GitHub 项目 abz2much/NOVA 发布了 Nova,一个安装为 Home Assistant 自定义集成的自主 AI 管家,提供语音、视觉和推理核心,通过 HACS 安装且无需单独容器或云账号即可启动。它支持 Groq、Anthropic、OpenAI、Gemini 或本地 Ollama 作为可插拔 LLM 后端,可控制设备、分析门铃与包裹、学习作息并提议自动化,但敏感操作(开锁、开车库门)保留手机确认步骤,且建议的自动化未经明确批准不会安装。断网时本地推理核心仍可处理常规事件;项目为单人维护、处于活跃开发中,版本间可能出现破坏性变更。
推荐理由:这个 Home Assistant 本地管家集成的 README 讲清了安装门槛、安全门控和离线降级设计,读者可以据此判断它是否适合自己动手部署。
SolaraX 是一个主权情绪融合框架,从 Polymarket、Kalshi、社交情绪、链上治理投票、宏观调查和 Kronos 1.8T 参数时序语言模型六个来源采集概率信号,经 Bull、Bear、Judge 三角色仲裁层(采用 Claude Opus 级推理)输出含共识概率、信念强度与认知风险标记的三元组。系统不执行交易,仅通过 127.0.0.1:8234 的 REST + WebSocket 接口广播信号,支持 14 种语言接入、企业 15 分钟人工响应,并提供 React 实时仪表盘。
研究项目 llm110 从零训练一个 102,640,768 参数的俄语 Qwen3.5 文本模型,在相同条件下对比 Adam、HGlobalAdam、AdamW、HGlobalAdamW 和 HGlobalMuon 五种优化器,每个方法预算 500M 训练 token,总计 2.5B token。架构采用 12 层 Gated DeltaNet 加 4 层 full attention,数据为 FineWeb-2、mC4、FineWiki 和 Taiga 的混合语料,seed 统一为 42,LR schedule 固定为 constant。项目提供配置文件、数据准备、训练与指标导出脚本,但不随仓库发布模型权重。
go-steer 开源的 k8s-lookout 提供 watch 与 lookout 双形态工具,为 LLM 驱动的 Kubernetes/GKE 集群排障智能体输出压缩、去密钥的 logfmt/JSON 诊断结果,当前版本为 v0.13.0。watch 是常驻 sentinel,用确定性算术指标(状态转换、趋势斜率、到期倒计时)按事件生成带上下文的智能体会话;read-path 提供 bundle、health、triage 等一次性诊断命令,并以显式 summary 行避免沉默即健康。
推荐理由:项目把诊断输出做成 token 密集的 logfmt/JSON 并以确定性指标驱动 sentinel,读者能了解面向 LLM 排障智能体的数据面设计。
local-inference-lab 在 GitHub 开源了 RTX PRO 6000 Blackwell / SM120 系统的 LLM 运行 Wiki,覆盖 GLM-5.3-Flash、DeepSeek V4/V4.1、Qwen3.8、Kimi-K2.7-Code 等模型。内容包含统一的 Docker 启动指南、vLLM 与 SGLang 精确 runbook、NVFP4/MXFP8 量化说明、KLD 质量检查、TP4/TP8 吞吐实测、PCIe 拓扑调试与历史版本复现存档。
s1line1 在 GitHub 发布 home-llm-gateway,用 Rust 实现边缘 LLM 网关,把 NAT 后、无公网入口的本地模型(Ollama / vLLM / llama.cpp)暴露成公网 OpenAI 兼容 API。架构为 cloud-gateway 加 edge-agent,通过 QUIC + mTLS 反向拨号隧道,无需 frp / ngrok 与反向代理,支持 SSE 流式与取消传播、按 model 的感知路由、argon2id 身份校验缓存等。项目包含 368 个通过的测试、k6 压测脚本与 React 管理面板,MIT 许可;协议级去重(EXACTLY_ONCE)与 TCP 降级等项仍是提案、未实现。
推荐理由:README 给出了完整架构与实测数据,读者可以借这套设计了解内网模型安全暴露成公网 OpenAI API 的工程做法。
Hypit 在 GitHub 开源,给 Claude Code、Codex 等编码智能体提供一套 SVML 语言和系统,通过 npx skills add hypit-ai/hypit -g 安装 Skill 后,可克隆给定视频或从模板、描述生成完整工作流,包含素材、字幕、B-roll 和以词而非秒为锚点的特效。
juli 开源项目发布 L1 账本层 @juli-labs/ledger,为 Agent 工作提供基于 SQLite 的 append-only 记录账本,零 npm 依赖,使用 Node 内置 node:sqlite。该包支持工作流生命周期管理、会话串接、案件档案及按模型/天/会话的 token 用量与定价统计,是“可剥离分层”假设的首个验证切片,已在 macOS node 22 和 Linux node 24 上验证通过,采用 Apache-2.0 协议。
PreSTO 是一种预测式子树预取方法,通过批量预取未来 Metropolis–Hastings 提案来加速 PowerMH 采样器,且不改变其 MH 转移核。在 7 个数据集和 5 个基础 LLM 上,PreSTO 对 PowerMH、EntropyCut 和 MultiTryMH 分别取得中位 1.71×、1.91× 和 2.33× 加速,模型调用次数中位减少 3.9×,每次调用时长仅增至 2.1×。在 LCB V6 与 Qwen3.5-9B 上,预测式遍历规则比默认广度优先遍历再快 1.25×–1.37×。
AindriuB 在 GitHub 开源了 Data Prism,一个面向 Java/Spring 团队的隐私层,为置于内部 API 之前的 LLM 智能体和 MCP 客户端按隐私范围假名化个人数据,未分类数据一律拒绝。项目含 18 个 Maven 子模块,已提供 get_entity_context 与 compare_entity_sources 两个 MCP 工具、0.3.0 起的哈希链审计与离线验证器,以及基于 Docker Compose 的一键本地快速上手;同一实体在各数据源保持一致的合成身份,跨调查则互不关联。项目明确说明这不是匿名化,依据 GDPR Art. 4(5) 输出仍是个人数据,发送给第三方模型仍需合法依据与 DPIA。
开发者 icefairy 在 GitHub 发布了 Go 编写的轻量 AI 网关璇玑(https://github.com/icefairy/xuanji),支持 OpenAI 与 Anthropic 双协议接入,汇聚硅基流动、商汤、DeepSeek 系中转、vLLM、OpenRouter 等上游,按计费层级、权重、折扣时段与健康延迟自动分流,失败逐层切换。单二进制约 18MB、SQLite 零外部依赖,配置数据库化 CRUD 即热重载,定位个人/小团队自用,不含计费与用户管理;并在网关层将各模型思考强度参数归一化为标准 reasoning_effort,预置了 3 个免费模型的 57 题实测推荐等级。
推荐理由:作者给出了与 one-api、LiteLLM、CC Switch 的逐项对比和实测思考等级数据,可帮助自部署用户评估网关选型。
GitHub 开源项目 dzhioev/bro 发布一个 Agent 框架:把 Agent 的人格、工具、可读凭据和可委托对象集中在一份声明里,同一声明可作为 Claude Code 会话或 bro 自带 agent loop 运行,模型由启动时的 --llm 参数指定。项目处于早期开发,接口无弃用周期,master 分支含破坏性变更。每个会话在容器边界内运行,只拿到声明所需的凭据与可召唤对象;命令经声明从参数解析器生成工具,凭据不在仓库中列出,权限由宿主逐请求授权并记录 trail。当前支持两个 harness 和一个原生 provider,容器网络不受限,--unboxed 模式不作为安全边界,Apache-2.0 许可。
推荐理由:用一个完整示例把声明式 Agent 边界讲清楚了,包括工具、凭据与委托如何在声明里收敛,可迁移到自己的项目。
论文提出 Stepped MoE,将弹性结构与稀疏门控统一,让单一 LLM 同时适应部署约束和任务需求,在推理时可细粒度控制精度-效率权衡。该模型可在 1、2、3、4B 参数间灵活切换,比对应稠密模型在知识密集型基准上高 2-5%,延迟与稠密模型相当,并通过参数共享节省设备磁盘空间。
GitHub 仓库 111vandit111/ai-dev-team 发布了一套 Agent Skills 形式的多智能体编码工作流,为 Claude Code、OpenAI Codex、Gemini CLI、Cursor、OpenCode、GitHub Copilot 等工具提供规划者、并行构建者与验证者分工的团队协作。每条任务按难度从用户自己的模型列表里选最便宜的模型和努力等级,通过知识图谱查询、共享笔记和只读任务文件节省 token,验证阶段用 Playwright 在 320 到 1920 px 共 9 个宽度检查布局。工具只生成 commit 信息不做提交,并支持用 office.py 以零 token 查看各智能体状态。
Pennvass 是一个 Chrome 扩展,在本地机器上运行 LanguageTool(127.0.0.1:8010)、Ollama(127.0.0.1:11434,默认 qwen2.5:7b)和可选的 Laya,为任意输入框提供拼写、语法、更清晰的句子改写和语气识别,也可通过 127.0.0.1:8787 的后端调用 Claude 重写选中文本。它用不同颜色下划线标注错误,修正通过 execCommand('insertText') 输入以支持 Ctrl+Z,且只访问 loopback 地址、不读取密码字段,可与 Grammarly 同时运行。
jboix 发布了开源工具 evalmark,通过 GitHub Action 把每次评测运行记录到仓库分支,并生成无服务器、无数据库的静态看板,展示运行记录、趋势、用例、transcript 和模型对比。数据完全留在自己仓库中,PR 上会自动评论与基准分支的对比;支持 promptfoo、Inspect AI 和 JUnit XML 输入,提供 npm 包、CLI 和 JSON Schema,仓库地址为 https://github.com/jboix/evalmark。
开发者 sachncs 在 GitHub 开源 Foveate,一个纯 Python、零依赖的 LLM 应用上下文工程库:按预算分层发送页面全文、摘要与大纲,答案附带页码和经校验的引用,文档无答案时明确返回 not found。库可对接 OpenAI、vLLM、Ollama 等任意 OpenAI 兼容服务,并提供 Pydantic AI、Google ADK、LangGraph、Strands Agents 集成包。30 道 SEC 文件题实测中,Foveate 正确率 67%,高于全量发送的 37% 与 Plain RAG 的 50%,但作者同时公布其找证据页不如 RAG、token 消耗更高、改写问题下一致性更低等不利结果。
推荐理由:原文附了30道SEC文件题的实测数据,并把Foveate不如RAG的短板一并公开,读者可据此评估是否采用。
GitHub 开源项目 Super-ai-agent 使用 Spring Boot、Spring AI 和 Vue 构建 AI 智能体平台,支持聊天、RAG 搜索、工具调用和文档处理。项目基于 Java 21,涵盖 MCP、聊天机器人、home-assistant、IM 机器人等应用场景,目前获得 1 star。
gotonote/awesome-agent-boom 是一份 GitHub 上最热门的 AI Agent / LLM Agent 开源书籍、课程与代码仓库精选清单,Star 数由 GitHub Actions 每日自动更新。清单涵盖中文开源图书、英文课程、Agent Harness 生态与框架工具库等板块,收录李博杰《深入理解 AI Agent》(53.0k Star)、Hugging Face Agents Course(33.3k Star)、DeepSeek Harness(245.7k Star)、n8n(206.7k Star)等热门项目,并给出入门、进阶与面试的推荐阅读路线。
AGI_HER_LLM 是一款无需技术背景即可使用的开源 AI 应用,支持文本生成、创意头脑风暴和自定义 AI 参数设置。软件基于 MIT License 开源,支持 Windows 10+/macOS 10.14+,需 4 GB 以上内存和 500 MB 磁盘空间,可从 GitHub Releases 页面下载 .exe 或 .zip 文件安装。
B3dmar 发布 3ngram,一个 MCP 优先、可自托管的 AI 智能体持久化记忆后端,支持 Claude、ChatGPT、Cursor 等客户端跨会话存取。记忆按决策、承诺、阻塞、事实等类型区分生命周期,写入采用 append-and-supersede 不破坏旧数据,事实带双时间轴;存储用 Postgres 加 pgvector,Apache-2.0 协议开放 MCP 服务器、REST API、SDK 和 CLI,检索基准在 CI 中作为合并门槛,recall@5 下限 0.9773、弃答精度 1.0000。
推荐理由:README 给出类型化记忆模型、双时间轴事实与可复现基准下限,自托管和托管两条路线都写清了部署步骤。
Neuron 是一个 PHP 开源框架,用于创建和编排 AI 智能体,提供从 LLM 接口、数据加载、多智能体编排到监控调试的完整开发周期支持。它支持带 checkpoint 的事件驱动 Workflow、human-in-the-loop、流式输出、MCP 连接器和异步执行,Agent 类内置记忆、工具和 RAG 能力。通过 `composer require neuron-core/neuron-ai` 安装,要求 PHP ^8.1,并提供 Laravel 与 Symfony 集成技能。
开源项目 Panchayat 通过 SerpApi 将同一问题同时发给 Google AI Overview、Google AI Mode、Bing Copilot、Brave AI 和开放网页五个来源,由 LLM 担任书记员记录各方主张、用纯 Python 计算一致度,并由 Sarpanch 写出带引用的单一裁决。界面展示逐条主张投票、来源可信度分级及各引擎立场,支持印地语等十种印度语言。每次新问题约消耗 6 次 SerpApi 搜索,结果默认缓存 72 小时,免费额度每月 250 次搜索约可支撑 40 个新问题。