跳到正文
  1. GitHub · 灵魂体仓库57

    开源项目 gemini-rag-doc-processing:Gemini + pgvector 混合检索 RAG 全栈方案

    Eric-Souza 在 GitHub 开源 gemini-rag-doc-processing,一个基于 Google Gemini、LangChain/LangGraph、Postgres + pgvector 的全栈 RAG 文档处理项目,支持文档上传、混合检索(向量 + 全文检索,RRF 融合、本地 cross-encoder 重排)、SSE 流式输出和 Langfuse 追踪。在 22 个案例的 golden set 上,混合检索加重排把 hit@1 从纯向量的 73% 提到 91%;7 案例 CI 子集上 RAGAS 评出 faithfulness 1.00、answer relevancy 0.90。

    推荐理由:给出了完整可部署的 RAG 技术栈和实测检索指标,其中混合检索加 rerank 将 hit@1 从 73% 提升到 91%,也保留了 reranker 变差的分析。

  1. GitHub · 3D 生成新仓库70

    zexadev 开源 gemini-web2api-go,把 Gemini 网页端反代成 OpenAI 兼容 API

    zexadev 在 GitHub 发布 gemini-web2api-go v4.0.0,单 Go 二进制把 gemini.google.com 网页端反代成 /v1/chat/completions,无需 Google API Key。匿名可用 gemini-3.6-flash 和 gemini-3.5-flash-lite 含联网搜索,挂 cookie 解锁 gemini-3.1-pro、扩展思考、生图/音乐/画布,付费号 cookie 可用 gemini-4-argon 和 /v1/videos 生视频。

    推荐理由:README 给出被拦阈值、连接复用收益和限速对照的一手实测数据,部署前可据此评估限流与代理池策略。

  1. GitHub · 3D 生成新仓库58

    Google 发布 Genkit Go:面向 Go 的统一 LLM 应用开发框架

    Genkit Go 仓库正式启用,提供在 Go 中构建生产级 AI 应用的统一 SDK,一套接口覆盖 Gemini、Claude、GPT、Grok、DeepSeek、Qwen、Kimi、GLM、Ollama 本地模型及任意 OpenAI 兼容端点。框架支持结构化输出、工具调用与工具中断审批、可恢复快照的多轮 Agent、后台运行与子 Agent 委派、.prompt 文件模板、可重连流式输出及全链路追踪,由 Google 主导并接受开源社区贡献。

    推荐理由:Google 官方 Go AI SDK 仓库,文档覆盖 Agent 快照、工具中断、结构化输出等能力,适合评估 Go 技术栈的 AI 应用开发选型。

  1. GitHub · 去对齐工具与仓库61

    Yoetz CLI:面向编码智能体的多模型路由命令行工具

    avivsinai 在 GitHub 发布 Yoetz,一个用 Rust 编写的开源 CLI,用于在终端和编码智能体工作流中把代码与媒体任务路由到合适的 LLM 通道:可用时走直接 API 调用(OpenRouter、OpenAI、Gemini、Cursor CLI、LiteLLM 兼容后端),需要多方意见时并行运行多模型 council,对 ChatGPT Pro 和 Claude(限 Fable 5 与 Effort Max)等 web-only 模型使用 fail-closed 的浏览器 recipe。

    推荐理由:原文给出完整的 CLI 安装配置和工作流示例,涵盖多模型路由、 councils 与浏览器通道,读者可据此在终端里直接复用。

  2. GitHub · 灵魂体仓库63

    gke-labs 开源 OpenRL 自托管后训练 API

    gke-labs 发布 OpenRL,一个可在自有机器或 Kubernetes 集群上自托管的 Tinker 兼容 API,用于微调大语言模型。研究者可用 Tinker SDK 在本地用命令式 Python 编排 RL 训练循环,多个 RL 任务可并发共享 GPU 以提升利用率;项目支持本地原型开发后远程扩展,含 autoresearch 配方、SFT 与 RL 示例,采用 Apache 2.0 许可证,非官方支持的 Google 产品。

    推荐理由:原文讲清了 OpenRL 如何把训练基建抽象成 Tinker 兼容 API,读者可以了解自托管 RL 微调的可行架构和 GPU 复用思路。

  3. GitHub · 去对齐工具与仓库65

    Lucenor 开源 mnesis:用确定性引擎做无损上下文管理

    Lucenor 在 GitHub 开源了 mnesis,一个 Python 实现的 LCM(无损上下文管理)架构,把记忆管理从模型转移到确定性引擎层,应对长上下文中准确率下降 30-40% 的 context rot 问题。引擎采用三级压缩升级(LLM 结构化摘要、激进压缩、确定性截断)、工具输出向后扫描剪枝(默认保护最近 40K token)、大文件外部引用(默认超 10K token 转 FileRefPart)和不可变 SQLite 追加日志。在 OOLONG 长上下文基准上,基于 Claude Opus 4.6 的对比显示原始模型超过 32K token 后分数崩塌,LCM 管理的上下文在 8K 到 1M token 各长度上均有提升。

    推荐理由:原文给出了三级压缩机制、工具输出剪枝和在 OOLONG 上的对比图表,读者可以借此评估用引擎层管理长上下文的可迁移做法。

  4. GitHub · 灵魂体仓库76

    decisio:把大语言模型变成单次前向决策服务层的开源项目

    GitHub 开源项目 decisio 发布,它实现 TypeSafe 的 System One 线格式,把文本问题送入模型、每个问题一次前向传播即可输出各选项概率分布,不生成文本。项目提供 Qwen3.6-35B-A3B、Gemma 4 12B 和 31B 三个基座配置,Gemma 4 31B 在 Decision Index 0.2.1 得 57.58 分、每请求中位 56.0 ms;支持任务注册校准、弃权阈值、图像输入,可通过 GPU、Docker、MLX 或 Ollama 部署,最小 Gemma 标签 8.6 GB 可跑在 16 GB 笔记本上。

    推荐理由:项目作者自述的决策服务层实现,给出了三个基座模型的实测精度与延迟对照表,读者可据此评估选型。

  1. GitHub · 去对齐工具与仓库69

    Apertura:基于 MLX 的 Gemma-4 Objective-C++ 本地重建项目发布

    apocryphx 发布 Apertura,一个用 Objective-C++ 基于 MLX 从零重建的 Google Gemma-4 推理引擎,可在 Apple Silicon Mac 上完全本地运行 Gemma-4 全部文本系列模型,推理时不依赖 Python 和云端。

    推荐理由:原文给出了与 PyTorch 参考实现逐算子对齐的实测数据,以及与 llama.cpp 的吞吐对比,可据此评估这个本地推理重建的忠实度。

已经到底了