跳到正文
今天10月26日周一214 条
  1. GitHub · 去对齐工具与仓库22

    fatma-fendri 的 RAG-Chatbot:基于 RAG 架构的 PDF 问答聊天机器人

    开源项目 RAG-Chatbot 实现基于 RAG(检索增强生成)架构的问答系统,用户可上传自定义 PDF 构建临时知识库,减少 LLM 幻觉。技术栈包括 FastAPI/Uvicorn 异步后端、LangChain 流程编排、Sentence Transformers(all-miniLM-L6-v2)嵌入、ChromaDB 向量存储,并通过 Groq API 调用 Llama-3.1 等模型低延迟生成答案。

  2. GitHub · 去对齐工具与仓库35

    filingcheck:验证 SEC 10-K 财报问答的 LLM 智能体

    Nazrul Huda Shanto 开发的 filingcheck 是一个回答上市公司 SEC 10-K 财报问题的 LLM 智能体。工具调用前会对模型传入的公司、财年、指标和单位等参数做 skeptical 校验,答案中每个数字再对照 SEC XBRL 数据标注 Verified、Unverified 或 Conflict。项目处于 7 周计划的第 1 周(基础与数据阶段),尚无结果,需 uv、GNU make 和 Docker 运行。

  3. GitHub · 去对齐工具与仓库63

    HaikeiLabs 发布 Agentware:Agent 工具调用策略执行与审计中间件

    HaikeiLabs 发布 Agentware,一套支持 Go、Python 和 TypeScript 的 Agent 工具调用策略执行与审计中间件,每次工具调用经过单一拦截点,按声明式规则执行 allow、deny、filter 并生成追加式审计记录,结构在更换框架或模型时保持不变。它让发起任务的人类主体穿越每层子代理委派仍可追溯,记录调用触及的资源(如表、桶、端点)并沿委派链归因 token 成本;配套的 Kei 为仅存元数据的控制平面,客户内容、凭证和索引不进入 Kei,SDK 已发布至各语言公共 registry,当前版本 0.12.0 要求 kei-proxy 不低于 v0.3.0。

    推荐理由:它把审计记录做成跨框架不变的统一结构,让人类发起者在多层子代理委派后仍可追溯,这个资源级血缘思路可迁移到其他 Agent 治理场景。

  4. GitHub · 去对齐工具与仓库72

    Tether 发布面向小上下文窗口的 LLM-Native 微型 Agent 框架

    作者发布 tether-sdk(GitHub igormcsouza/tether),一个默认零工具加载、面向小模型与小上下文窗口的 headless Agent 框架,通过单一 act(cmd, stdin) 命令通道、SQLite WAL 状态存储与 FTS5 BM25 检索、bwrap/unshare 内核沙箱和显式 done 终止门来降低 token 开销。在自主制作 YouTube Short 的基准中,同一 claude-sonnet-5-5 在 Tether 内消耗 5,318 tokens(48.7s),而 Claude Code CLI 消耗 211,355 tokens(97.4s);本地 8B 模型 gemma4:e4b 仅用 3,073 tokens(53.1s)。

    推荐理由:作者用同一 claude-sonnet-5-5 对比 Claude Code,同一模型 token 从 211,355 降到 5,318,且附了本地小模型实测与失败原因。

  5. GitHub · 去对齐工具与仓库29

    visa-rag-llm:基于本地 RAG 的加拿大移民问答助手开源项目

    GitHub 上的开源项目 visa-rag-llm 是一个本地优先的加拿大移民(IRCC)问答助手,基于 Ollama 的 llama3.2:3b 模型与 ChromaDB 检索,答案以 canada.ca 官方页面为准,资金证明、CLB 分数换算等硬性规则由规则引擎以代码计算。当前为可用的本地 MVP(非生产就绪),63 题评测基线通过 52 题,并提供输入/输出护栏、JWT 认证与 PII 脱敏等安全机制。

  6. GitHub · 去对齐工具与仓库55

    RegLens 开源:面向信用社员工的监管合规 Copilot 与幻觉评测

    NYU 的 Sai Akhilesh Vangala 开源了 RegLens,一个基于联邦消费银行法规的信用社客服 Copilot,语料为 2026-10-02 固定版 eCFR,含 2371 段、2495 个引用分块和 2276 条引用边。模型只提议,确定性代码把关:引用必须是工具返回段落的逐字子串、日期必须来自计算器、争议一律转工单,未支持内容被扣留转人工。评测显示 Copilot 配置在 43 题黄金集上答对率 0.94、97% 回答附有已验证引文、未支持声明为 0,单题成本 $0.0013;检索实测发现混合检索(BM25+dense RRF)反而低于纯稠密检索,引用图更适合作为 Agent 工具而非排序信号。全部评测含重试共花费 $0.47,项目以 MIT 许可发布。

    推荐理由:作者用同一套 43 题黄金集实测了闭卷、无验证器 RAG 与带验证器 Agent 四种配置,检索与幻觉数据齐全,可作 RAG 验证设计的参照。

  7. GitHub · 去对齐工具与仓库63

    Trans v0.1.0-alpha 开源:本地优先的 LLM 辅助文学翻译工作台

    manu69x 发布 Trans v0.1.0-alpha,一个本地优先的 LLM 辅助文学 CAT 翻译工作台,支持将英文小说或文章结构化为章节与分段,构建受控术语表和翻译记忆,逐块翻译并人工审核批准。推理仅通过用户自控的 OpenAI 兼容网关(llama.cpp、vLLM、LM Studio 等),无云服务、无遥测;支持 PDF 导入与 OCR 回退、BookNLP 实体抽取、术语约束翻译、分段质量评估,可导出 DOCX、EPUB、PDF/HTML 及 XLIFF/TMX/CSV。技术栈为 Next.js + FastAPI + PostgreSQL/pgvector + Celery + MinIO,Docker Compose 部署,MIT 许可,当前处于 alpha 阶段,已用于真实英译意文学工作。

    推荐理由:原文给出了完整的架构、端口和配置清单,读者可以据此评估这套本地文学翻译工作台是否适配自己的部署环境。

  8. GitHub · 灵魂体仓库16

    linglanttian/AI-Driven-Code-Reviewer:基于自训 LLM 的企业级自动化代码审查系统

    linglanttian 发布 AI-Driven-Code-Reviewer,一个由自定义代码训练的 LLM 驱动的企业级分布式自动化静态分析工具,主打可扩展性、低延迟与高可用。系统采用 Go、Rust、C++、Python、TS、Solidity 等多语言技术栈构建,并提供 Kubernetes manifests 用于部署到用户集群。

  9. GitHub · 灵魂体仓库62

    Rust 统一大模型接入层 aimux 发布 0.3.0,统一 327 个 provider 名称

    arcships 发布 Rust 编写的统一大模型接入层 aimux 0.3.0,把各家 provider 的 HTTP API 收敛为单一 dyn LanguageModel 接口,覆盖 327 个 provider 名称、282 个 OpenAI 兼容预设,并提供 Node、Python、Go、Swift 等 8 种语言绑定。新版本支持请求录制重放、会话分组、RouterModel/MoaModel 组合模型和实时转写会话;与官方 OpenAI SDK 同机对比,单次请求 Node 快 14.7 倍、Python 快 7.5 倍,2000 请求压测下 Python 内存零增长。项目以 MIT 许可开源,测试用 2800+ cassettes 离线回放,无需网络和 API key。

    推荐理由:原文给出了与官方 OpenAI SDK 同机对比的延迟、P99 和内存数据,以及录制重放等工程细节,方法可复现可迁移。

  10. GitHub · 灵魂体仓库35

    Sparkz400/TIA_MCP:可检查与可恢复修改离线 TIA Portal V21 项目的 Windows MCP 服务器

    GitHub 上的 Sparkz400/TIA_MCP 是一个 Windows MCP 服务器,可让 MCP 客户端检查离线 TIA Portal V21 项目并进行可恢复修改,并通过 PLCSIM Advanced V8 进行仿真。其 .NET 10 host 连接隔离的 .NET Framework 4.8 workers,Siemens 程序集从本地安装的产品加载而不随包分发。项目处于 pre-1.0 阶段,仅限离线项目和自有的仿真器使用,与 Siemens 无关联。

  11. GitHub · 灵魂体仓库12

    Crestward 开源 pipeline-sentinel:数据管道事件触发的故障分诊 Agent

    Crestward 在 GitHub 开源 pipeline-sentinel,一个针对数据管道的事件触发故障处理 Agent。它先用低成本的确定性层级(System 1)分诊大部分故障,仅将疑难问题升级给 LLM Agent(System 2),借助 lineage 和爆炸半径工具提出经审计的门控修复方案。项目与共享 warehouse-graph 血缘图的 warehouse-qa 组成配套项目,目前处于 Phase 0,仅有仓库工具和 CI,采用 MIT 许可证。

  12. GitHub · 灵魂体仓库45

    Underpass 开源智能体执行引擎 AXLR 项目简介

    AXLR 是 Underpass 的默认智能体执行引擎,负责模型循环、工具、审批与会话,并配套 KMP 记忆引擎和 MADE 流程引擎,可通过 MCP 及兼容 OpenAI/Codex 的插件包扩展。项目为 pre-1.0 阶段,含 TUI 控制台和 JSON worker 两个 Go 模块,axlr-serve 通过 HTTP、gRPC 和 MCP 暴露 19 项能力并支持 mTLS。官方签名工具目录在 2026 年 10 月 18 日收录 159 个预构建工具,发布矩阵覆盖 Linux、macOS 和 Windows 的 amd64 与 arm64。

  13. GitHub · 灵魂体仓库67

    Halo Harness 开源发布:Claude Code 兼容的多模型 Agent 编排平台

    roloVibes 在 GitHub 开源 Halo Harness(v3.2.1.0),一个 Claude Code 兼容的多模型 Agent harness 与编排平台,支持 OpenRouter、Databricks、Anthropic、OpenAI、Ollama、Hugging Face 等端点,并用 /model 在会话中切换模型。它直接读取 ~/.claude 现有设置、skills、commands 和 MCP 服务器,配套浏览器控制台 halo studio 可实时观看各 Agent 的思考、工具调用与成本,还提供 Fleet 跨机器协作和 Orchestra 多 Agent 并行写同一文件的能力,MIT 许可。

    推荐理由:开源的 Claude Code 兼容 harness,可复用现有 ~/.claude 配置并在多提供商间切换模型,适合想保留工作流又自由选模型的开发者。

  14. GitHub · 灵魂体仓库58

    esinecan/mcp-inspector-as-mcp-server:让 LLM 检测和测试其他 MCP 服务器的工具

    esinecan 发布了 mcp-inspector-as-mcp-server,一个基于 MCP SDK v2 的精简 MCP 服务器,可让 LLM 直接检测、调用和测试其他 MCP 服务器的工具、资源与提示词。v2.2.0 支持会话管理、事件缓冲、协议时代协商(可判断目标服务器是 legacy 还是 modern 无状态协议)、mcp-cli 命令行、OAuth 认证、Web 搜索路由、Windows 守护进程与桥接等能力,并支持人类通过 insp_inject_steering 或 HTTP API 实时注入引导消息,实现 human-in-the-loop 的 MCP 调试工作流。

    推荐理由:原文把 MCP 检测功能整合成单一 MCP 服务器和 CLI,并详细说明了协议时代协商、会话管理与人类介入机制,方法可直接复用。

  15. GitHub · 灵魂体仓库29

    rasecdev/AutoFinance:Telegram 与 WhatsApp 上的 AI 个人理财机器人

    AutoFinance 是一个运行在 Telegram 和 WhatsApp 上的个人理财机器人,用户用自然语言(文本、语音、照片、PDF)记账,AI 只负责解析和选择 tool,所有金额计算由确定性代码完成,财务数据存在本地加密 SQLite 数据库。项目通过 OpenRouter 按任务路由模型,默认模型为 openai/gpt-6-luna,并支持 Pluggy 的 Open Finance 银行聚合、Google Calendar、Price/SAC 债务计算,以及葡英西三种语言。目前第 1-10 阶段已在 Homologação 环境完成,尚未推向生产环境。

  16. GitHub · 灵魂体仓库37

    Bellcart:扫描旧电脑并规划哪些文件该迁移、归档或留下的换机工具

    Bellcart 是一款用 Rust 编写的 Windows 10/11 换机辅助工具,扫描旧电脑后将文件夹分入 Migrate、Archive、Leave 三类,不确定的标记为待审查,不读取文件内容、不删除任何文件。当前为 pre-alpha 状态,扫描和规则引擎已可用,支持 `bellcart scan`、`bellcart ui`、`--json` 输出及 winget、VS Code 扩展等导出,可选接入 OpenAI 兼容端点作模型 arbiter;recipes、模型 arbiter 和审查界面尚未建完。

  17. Reddit · r/LocalLLaMA46

    Strata v0.1.45 分支针对 64GB Jetson AGX Orin 优化,Qwen3.6-35B-A3B 解码速度提升

    Reddit 用户发布针对 Jetson AGX Orin 64GB 优化的 Strata v0.1.45 分支,主要运行 Qwen3.6-35B-A3B。在 llama.cpp 中启用采样 MTP-2 后,短提示测试解码速度达到约 40-41 tok/s,高于 MTP-3 时的约 21 tok/s 和早期 Strata 的约 30 tok/s。该分支还包含统一 INT8 KV cache、prefix checkpoints 和可选 KV 预分配,作者称结果来自自用环境并寻求反馈。

  18. Reddit · r/LocalLLaMA69

    Vocs 开源:基于 whisper.cpp 在 macOS 上实现完全本地语音听写

    开发者发布 Vocs,一款在 macOS 上用 whisper.cpp(large-v3-turbo)完全本地运行 Whisper 的听写应用,可将文本粘贴到任意应用。音频按静音边界分块边说边解码,短片段按实际长度开窗解码约提速 8 倍;还做了 [BLANK_AUDIO] 等音效标签剥离、重复循环检测重试、Rust 后处理(标点、大小写、口语命令、自定义词典)及约 120 MB 本地语法模型。转写路径无网络请求,macOS 13+,MIT 协议,基于 Tauri 和 Rust,源码在 GitHub。

    推荐理由:开发者给出了流式分块解码和短片段约 8 倍加速等具体实现细节,本地语音听写方案有可参考的工程做法。

  19. Reddit · r/LocalLLaMA73

    RTX 3080 20GB 解锁 reBAR 与 P2P,实测 prompt 处理速度提升 70% 以上

    /u/nathannguyennng 解锁了 RTX 3080 20GB 的 reBAR 与 P2P,/u/No-Refrigerator-1672 在双卡张量并行下用 vllm 0.32.0 实测验证。8k 到 261900 token 长度的 prompt 预填充速度较原厂提升 71%-115%,其中 P2P 相对仅 gpu_unlock 另有最多约 70% 提升;开启 MTP 后 decode 速度基本在噪声范围内无明显变化。作者提示 3080 用户在长 prompt 场景(含 agentic coding)可关注该解锁,且需双卡均有完整 PCIe 连接才能获得同等收益。

    推荐理由:作者实测了 reBAR 与 P2P 解锁在双 RTX 308 20GB 张量并行下的 TTFT 与 ITL 数据,可看清该解锁对长上下文预填充的实际收益边界。

  20. GitHub · 3D 生成新仓库37

    II Studio v0.1.0 RC 发布:用你自己的 AI 连接从需求生成可交互界面与工作流

    开发者 Mahesh V V 发布 II Studio v0.1.0 候选版,一个 local-first 界面与流程图生成工具,用户通过自己的 AI CLI 连接(antigravity、codex、claude 或 gemini)描述需求即可生成仪表盘、表单和流程,并保留本地版本历史。项目采用 Apache-2.0 协议,支持 macOS(Apple Silicon 与 Intel)和 Windows 11 x64,项目数据保存在浏览器 IndexedDB,无遥测、无云同步,并提供实验性的可编辑 Figma 导出。

  21. GitHub · 3D 生成新仓库25

    DLSS 5 Swapper Enhanced:skyi7943-cmd 发布 RTX 40/50 系列深度重构的独立开源分支

    skyi7943-cmd 基于 MIT 许可的 DLSS 5 Swapper v2.2.9 发布独立开源社区分支 DLSS 5 Swapper Enhanced,支持 RTX 40 系笔记本、40 系桌面卡与 50 系原生卡三档调优。该分支提供 40 系动态多帧生成解锁(笔记本省约 45% 神经渲染显存、单通道再省约 450 MB)、50 系 Blackwell sm_120 原生直通,兼容 Streamline 2.2~2.14+ 与 DirectX 12/Vulkan,100% 离线运行并永久免费开源,游戏内 Home 菜单已实现零崩溃简体中文化。

  22. GitHub · 3D 生成新仓库58

    vivekg7 开源 talekit:让 AI Agent 用 MCP 生成 2D 故事动画视频

    vivekg7 在 GitHub 发布 talekit,一个面向 AI Agent 的故事视频生成工具,Agent 通过 MCP 服务器设计角色与场景、写逐镜头时间线、根据渲染预览自查,最终输出带语音气泡和配音的 2D 动画 mp4。方案是让 Agent 写它熟悉的语言(SVG 片段加 JSON),引擎负责绑定、行走、镜头、天气、声音、编码等手工难以做对的环节,每次写入都返回图片便于修正;依赖 Node 20+ 和 ffmpeg,语音需要 Apple Silicon Mac 上的 MLX,另附 Python kit 和多个 MCP 工具与 CLI 命令,项目地址 https://github.com/vivekg7/talekit。

    推荐理由:面向 Agent 的故事视频生成工具,作者讲了让 Agent 写 SVG 和 JSON、每次写入返回预览图来自查的思路,方案可迁移到其他可视化任务。

  23. GitHub · 3D 生成新仓库15

    video-seo-engine 开源仓库:YouTube 视频自动生成 SEO 优化的 WordPress 文章

    video-seo-engine 是一个自动化视频 SEO 流水线,可将 YouTube 视频经 VTT 字幕和 AI(Claude/Gemini)生成含 VideoObject/FAQ schema 的 WordPress 文章。它支持 Channel Monitor 与 Portal Scanner 两种模式,提供 Free(5 部影片/月)、STARTER(49 兹罗提/30 部)、PRO(149 兹罗提/110 部)和 AGENCY(499 兹罗提/250 部)套餐。实测 schema 合规得分 8/10(对标 TVP Info 3/10),技术栈基于 Python 3.10+、FastAPI 和 PostgreSQL 16。

  24. GitHub · 3D 生成新仓库24

    VectOrEdit v0.3.14:基于向量的语义知识编辑器与实时 Linter 新仓库发布

    GitHub 新仓库 VectOrEdit 发布 v0.3.14,这是一款独立的桌面编辑器,面向知识管理、结构化文档撰写和实时语义校验,内置 Rust 实现的 HNSW 向量索引引擎与本地 transformer 嵌入。本地模式下嵌入模型 multilingual-e5-small 通过 WebAssembly SIMD 与 ONNX Runtime 完全在 CPU 上离线运行,无遥测,并可切换 Google Gemini、OpenAI、Anthropic Claude 多个 AI 提供商,集成 Monaco 编辑器提供语义 Linter 与自动补全。

  25. GitHub · 3D 生成新仓库12

    开源项目:基于 Hugging Face 深度学习模型的多模态文本生成图像方案

    GitHub 开源项目 A-Multimodal-Approach-to-Text-to-Image-Generation-Using-Deep-Learning-Models 探索基于 Hugging Face 文生图模型的多模态生成。项目用 Python 和 React.js 构建交互界面,实验了 100+ 提示词变体,评估 500+ 张生成图像,从提示词遵循度、语义相关性和视觉质量三方面对比不同模型的输出。

  26. GitHub · 3D 生成新仓库25

    ContentGen:本地优先 AI 内容工作室规范(YukiUmetsu/ai-content-generation)

    YukiUmetsu 的 ai-content-generation 仓库发布 ContentGen 规范:一个本地优先、研究驱动的内容生产工作室,目标平台为 Apple Silicon M4、24 GB 统一内存,后端 Rust/Axum/SQLite、前端 React/TypeScript。新增可选的 YouTube 细分监控功能,使用 YouTube Data API v3,密钥存入 macOS Keychain,默认关闭且限制 10 个细分、24 小时内 20 次 API 搜索、缓存 30 天过期。域名/后端规范尚未实现,前端基础可在 apps/web 运行。

  27. GitHub · 3D 生成新仓库47

    IlyaEmelin/batch-generation-service:Qwen2.5-1.5B-Instruct 批量生成服务项目报告

    基于本地 vLLM 部署的 Qwen2.5-1.5B-Instruct 构建批量商品卡片生成服务,对 300 个商品生成五键结构卡片,三次重试将格式有效率从约 0.40 提升到 0.903,retry_rate 为 0.497。参数实验显示 repetition_penalty 1.05 在 dev 上更好但全量跑降至 0.820,最终弃用。API 对比中 OpenRouter 上的 openai/gpt-oss-20b(reasoning_effort=low,max_tokens=500)在 30 个商品上全部有效,按 20 ₽/60 ₽ 每百万 token 计费约 34.677 ₽/1000 张卡片。

  28. GitHub · 3D 生成新仓库17

    FileZen 开源:集 PDF 工具、文档转换与 AI PDF 问答于一体的一站式文档效率平台

    FileZen 是一个开源的一站式文档效率平台,基于 React + Vite 前端和 FastAPI 后端,提供 PDF 工具、文件格式转换、图片压缩、简历构建、报告生成、二维码生成及文件管理功能。其 AI PDF 问答功能通过 Google Gemini API 实现,默认模型为 gemini-3.8-flash,用户需自备 GEMINI_API_KEY。项目尚未指定开源许可证,作者计划补充更多转换格式与自动化测试。

  29. GitHub · 3D 生成新仓库25

    Varbase 发布 AI 基础模块仓库 varbase_ai_base

    Drupal 发行版 Varbase 在 GitHub 上开源了 varbase_ai_base 仓库,这是用于安装核心 AI 模块并应用默认 Varbase AI 配置的基础 recipe。用户需先通过 composer require drupal/varbase_ai_base:~1 安装,再用 Drupal recipe 脚本或 Drush 命令执行。应用前必须先配置 AI provider 和默认聊天模型,否则会因缺少默认 chat 模型而中止。

  30. GitHub · 去对齐工具与仓库43

    vianhanif/9router-api:去掉 Dashboard UI 的独立 LLM API 服务器

    9router-api 是一个独立 LLM API 服务器,将 9router 代码库作为库使用,剥离 Dashboard UI(Monaco editor、Recharts),去除 React SSR 开销后内存占用从约 300-500MB 降到约 100-150MB。它提供与 9Router 相同的 LLM 代理端点,包括 OpenAI 兼容的 /v1/chat/completions 及基于 SSE 的控制台日志流,需 Node.js 20+ 并依赖 9router 主应用,可用 PM2 管理。

  31. GitHub · 去对齐工具与仓库42

    Cwentor/DataAgent:企业级 Data Agent 开源项目,LLM 产出受控 DSL 确定性生成 SQL

    GitHub 开源项目 Cwentor/DataAgent 构建企业级 Data Agent,链路为自然语言→受控 DSL→确定性 SQL→DuckDB,LLM 只产出契约内 JSON、绝不生成裸 SQL,以实现零幻觉、零注入。系统含意图五分类路由、LangGraph 六节点编排、GuardrailAgent 执行前 sqlglot AST 审计、表/列/行级 RLS,并支持 MySQL 8.0(>=8.0.18)双后端与 OpenAI、Anthropic、Gemini 等多供应商接入。

  32. GitHub · 去对齐工具与仓库61

    be-ambitious-harness 发布:planner/worker/verifier 三角色智能体工作流框架

    作者 alexpr 发布 be-ambitious-harness,一个以 Claude Code 技能形式交付的提示工程框架和多智能体工作流,用双目标条、廉价 gate 检查和独立 verifier(不看 worker 推理过程,建议用不同模型)来让 AI 智能体承接更激进的任务而不失控。框架含六个场景 playbook、8 个测试任务和 30 项评分卡的 eval 套件,设计上针对约束饱和(单次生成超过 5-6 条约束可靠性下降)、负面指令反噬和 LLM 评审自偏好偏差三个研究结论。

    推荐理由:作者给出了完整的多智能体工作流设计和两次带记录的 eval 实测,还诚实标注了 harness 自身的缺陷与未跑任务,便于评估可复用性。

  33. GitHub · 去对齐工具与仓库42

    Cromford:开源软件工厂,自动从工单到 PR 再到部署验证全流程无人值守

    开源软件工厂 Cromford(cromford.dev)可无人值守地把产品板工单推进为 PR:经过 triage、plan、build、对抗式 review、preview QA、merge、deploy-verify 和 post-merge QA 八个固定阶段,每阶段有独立 runner、模型与预算。其设计原则是脚本可判定的事不用 LLM,配置即数据,支持 claude→grok→codex-configured openrouter→fireworks 的多供应商降级链与逐调用成本记录,并可基于 Cloudflare、GitHub、Fly 自有账户自托管。

  34. GitHub · 去对齐工具与仓库48

    IncidentZero:开源自治 SRE 智能体项目,用纯 Python 运行时调查并修复生产事故

    GitHub 项目 incidentzero 是一个自治 SRE 智能体,在模拟微服务平台(checkout、payment、inventory、order、Redis 缓存和订单数据库)上调查生产事故,在高风险变更前请求人工批准,并验证恢复后才关闭工单。运行时不用任何 Agent 框架,预算为 14 次 LLM 调用、28 次工具调用和 120 秒;基于 Groq 上的 openai/gpt-oss-20b 的三次实况运行中,两个场景验证修复,一个(SEV-2)在预算内给出证据后升级上报;离线本地启发式模型可在 8-10 次 LLM 调用、0.1 秒内解决全部三个事故。

  35. GitHub · 去对齐工具与仓库64

    Goethe 开源:把 Linux + NVIDIA GPU 机器变成 OpenAI/Anthropic 兼容的自托管 LLM API

    meshapplied 发布开源工具 Goethe,可将带 NVIDIA GPU 的 Linux 机器变成自托管 API,兼容 OpenAI、Anthropic 和 LiteLLM 客户端,数据留在自有硬件上。模型基于 SGLang 运行,支持 continuous batching、prefix caching 和 CUDA graphs,并内置面向 Blackwell、Hopper、Ada 和 Ampere 的 NVFP4 内核,4-bit 模型显存占用约为全精度四分之一;支持按客户端发 key、限速与撤销,模型重启后自动恢复加载,仓库采用 Apache-2.0 许可,链接 https://github.com/meshapplied/goethe。

    推荐理由:原文给出了从安装到共享 API 的完整命令流程,并说明基于 SGLang 加自研 NVFP4 内核的推理方案,便于自建 GPU 推理服务时参考。

  36. GitHub · 去对齐工具与仓库57

    LitteraLit 开源 PDF 技术书翻译工具,保留版式并逐页输出 QA 报告

    GitHub 项目 Direles/LitteraLit 发布了 PDF 技术书翻译工具,通过矢量删改保留原始版式、复用嵌入字体并对目标语言做断行排版。流程包括用 LLM(Gemini、OpenAI、DeepSeek、Claude 或 OpenAI 兼容端点)逐页翻译、检测并重译残留英文、译文过长时请求缩短或将字号最多缩小 60%、生成逐页 QA 报告。在 365 页的 Agile Estimating and Planning 实测中 97.7% 的文本块落在原行内,输出 2.8 MB,含 272 个单元测试,MIT 许可证,需 Windows 和 Python 3.11+。

    推荐理由:项目给出了 365 页技术书翻译的实测数字和逐页 QA 报告机制,保留了原文版式与嵌入字体,方法细节可直接复用。

  37. GitHub · 灵魂体仓库44

    Runtime 开源 GitHub 仓库:面向 AI Agent 的 Firecracker microVM 沙箱 SDK、CLI 与 MCP server

    Runtime 在 GitHub 公开其 AI Agent 沙箱的 SDK、CLI 与 MCP server:每个沙箱是带独立 Linux 内核的 Firecracker microVM,一次调用即可启动。提供 TypeScript 和 Python SDK(npm/PyPI 包名 withruntime),以及 Go、Java、Ruby SDK 和 OpenAI Agents SDK、Pydantic AI、Google ADK、smolagents、LangChain 等集成,并覆盖 Claude Code、Codex、Cursor、Gemini CLI、VS Code、Windsurf 的编码 Agent 配置。新账户可免卡免费试用,项目采用 Apache-2.0 许可证。

  38. GitHub · 灵魂体仓库20

    hslimi/night-thoughts:本地 AI 与 Apple Silicon 技术文章仓库

    GitHub 仓库 hslimi/night-thoughts 收录关于本地 AI、Apple Silicon、Agent 与软件系统的技术文章及配套可复现实验,主阅读站点为 nightthoughts.me。内容涵盖 MLX 上的推理、微调、评估与部署,以及可检视的 Agent 工作流。配套实验放在 experiments/ 目录下,每个实验须自带 README、复现命令与评估说明。