跳到正文
10月8日周四
  1. arXiv · cs.CL39

    Shaer:基于格律子形式与语义约束的受控古典阿拉伯诗歌生成

    Shaer 是一个受控古典阿拉伯诗歌生成框架,联合自然语言描述、格律子形式和目标半句数量进行条件控制,并基于 Ashaar 构建 116,032 首诗的富化语料库。其通过 QLoRA 微调 Yehia-7B,实现 95.17% 基础格律准确率、91.75% 格律子形式准确率和 83.40% 精确句数准确率,较未调优基座模型分别提升 68.68、57.77 和 38.93 个百分点。对 3,481 条测试生成的分析未发现训练语料的精确复制,代码、模型和数据集已公开。

  2. GitHub · 灵魂体仓库70

    free-llm-api-hub:持续验证的免费 LLM API 开源数据集仓库

    GitHub 仓库 pacocartones/free-llm-api-hub 收录了 69 家经核验的免费 LLM 及周边模型 API 提供商,覆盖文本、语音、嵌入、rerank、图像、视觉和 OCR,共 120 个条目,每条附核验日期与官方文档链接。项目以 schema 校验的 providers. 为唯一数据源,按 90 天 SLA 计算新鲜度徽章,无法独立确认的条目标记 ⚠️。

  3. GitHub · 去对齐工具与仓库18

    Mesh-LLM 发布 mesh-llm-python-sdk 仓库

    Mesh-LLM 将 Python SDK 及其真正兼容的客户端代码在 mesh-llm-python-sdk 仓库中独立于 MeshLLM 主项目进行版本管理,并提供 SDK 指南、软件包及 ci/ 目录下的精确依赖锁定。Mesh 消费端在执行这些客户端前会先接受不可变的源检查点,原生 bridge 生产仍保留在 MeshLLM 中,消费端不会将编译 bridge 作为兜底方案,该本地提取检查点未公开发布。

  4. GitHub · 去对齐工具与仓库35

    llm-wiki:用本地大语言模型搜索、总结和组织知识的开源工具

    llm-wiki 是一个在个人电脑上完全本地运行的工具,可用本地语言模型搜索、总结和组织文本与 PDF 文档,所有处理均在本地完成,文件不上传外部服务器。软件支持 Windows 10/11,最低 8GB 内存、建议 16GB,需 10GB 存储空间,用户可调整 Temperature 和 Context Size 参数。该项目发布于 GitHub,提供 .exe 安装包并支持自动更新。

  5. GitHub · 灵魂体仓库14

    Statera Working Group 推出 Physical AI 知识倡议仓库,稿件上传进行中

    Hills Robotics 主导的 Statera Working Group 正在 GitHub 上传 Physical AI 知识倡议的首批技术稿件。该倡议围绕 Physical AI、自主机器人、具身智能与智能移动系统构建系统化知识体系,并提出 Physical AI Spider Grid(PASG)架构,由 Edge AI、On-Premise AI(含 Intelligence Cabinet)与 Cloud AI 三层智能组成。公司正寻求全球销售、集成、AI 基础设施与投资方面的合作。

  6. GitHub · 灵魂体仓库66

    GenAIcode 2.0 发布:面向后端的轻量 LLM TypeScript 工具包

    GenAIcode 发布 2.0 版,从 1.x 的编码代理转型为后端 LLM 工具具包,提供统一的 PromptItem 提示词表示、多供应商适配器、可链式配置的请求 API 和轻量会话链。可选的 genaicode/agents 子路径把已安装的编码代理 CLI(Claude Code、Codex、GitHub Copilot CLI、Cursor、Gemini CLI 等)封装为统一的任务与事件 API,也可通过 npx genaicode run 命令行调用。核心不做仓库检查、shell 执行或隐藏重试;1.x 编码代理仍可通过 npx genaicode@1 获取。

    推荐理由:2.0 版从编码代理转型为后端 LLM 工具包,原文详细说明了转型边界和 1.x 迁移路径,可供选型参考。

  7. GitHub · 去对齐工具与仓库38

    fborello-lambda 开源 pcbs_llm_driven_design:四个 LLM 辅助设计的 KiCad 10 硬件项目

    GitHub 仓库 pcbs_llm_driven_design 展示了四个用 LLM 辅助工作流开发的 KiCad 10 硬件项目:220 Vac 卤素调光器、BLE 遥控器、光电二极管 TIA 实验板和 Raspberry Pi SPI0 扩展板,含原理图、布线 PCB、BOM 和 3D 预览。仓库提供确定性生成脚本与校验工具,可运行 ERC、DRC 及原理图/PCB 一致性检查,并导出 Gerber/钻孔 ZIP。这些是工程原型而非认证产品,其中调光器涉及 220 Vac,使用前需专业人员审查电气安全。

  8. GitHub · 灵魂体仓库23

    Frame Codex 知识仓库(framerslab/codex)发布

    framerslab 推出 Frame Codex,一个纯 Markdown 的公共知识仓库,遵循 OpenQuarry schema,同时面向 LLM 摄取和人类浏览。仓库采用 NLP + LLM 混合自动索引,可选 GPT-4 增强分析,每 PR 成本约 $0.01-0.20,通过 GitHub Actions 实现索引构建、AI 分析、可信贡献者自动合并与每日 changelog。内容支持 #hashtag 块级标签,置信度 ≥50% 的 NLP 建议标签会在建索引时自动确认。

  9. GitHub · 灵魂体仓库20

    LLM Wiki Agentic Workflows v2.0.0:自主知识结晶与研究引擎

    开源项目 LLM Wiki Agentic Workflows 发布 v2.0.0,采用 MIT 许可证,是一个由大语言模型驱动的知识管理智能体工作流引擎。它包含摄取引擎(支持 47+ 种数据格式)、知识结晶器、研究智能体、图构建器和质量校验器,其中校验器应用 50 多条验证规则检查幻觉与逻辑矛盾,图存储采用 Neo4j 与向量混合方案。

  10. GitHub · 灵魂体仓库36

    agri-radar:用 LLM 自动筛选并推送农业遥感资讯的开源智能体

    开源项目 agri-radar 是一个自主智能体,每天收集全球农业遥感新闻,通过 OpenAI 兼容 API(Kimi/DeepSeek/GLM/Claude/GPT 等可插拔)打分、筛选并用中文生成摘要,经飞书自定义机器人 webhook 推送。它追踪干旱、洪涝、病虫害等灾害遥感、智慧农业与产业动态,支持基于 ⭐/👎/关键词反馈的权重学习和 GitHub Pages 静态仪表盘,采用 MIT 协议开源,支持 Docker 一键部署。

  11. GitHub · 去对齐工具与仓库52

    ai-portfolio 开源:LLM 在硬编码护栏下每周决策的无人值守模拟投资组合

    作者开源了一个无人值守的 AI 辅助投资组合项目:在 Alpaca 券商开立 100,000 美元模拟账户,由 LLM 每周在硬编码护栏内做决策,通过 GitHub Actions 定时任务驱动,每条决策连同推理记录提交到仓库。LLM 不接触任何凭据,只输出经 schema 校验的提案,由确定性验证器和执行器决定是否下单;系统目前端到端运行在 dry-run 模式,尚未发生真实模拟交易,仪表盘、邮件报告和每周 cron 尚未完成。项目还记录了六次故意破坏系统的可靠性演练、故障日志,以及延迟行情、模拟成交偏乐观、无股息等已声明的局限。

  12. GitHub · 去对齐工具与仓库59

    Almide 开源:以 AI 编辑存活率为核心指标的静态类型语言

    almide/almide 在 GitHub 开源了 Almide,一种静态类型语言,核心指标是代码在一系列 AI 驱动编辑后仍能编译并通过测试的比率。它经 Rust 编译到原生二进制并直接发射 WebAssembly,两目标输出字节一致;编译器诊断会指出缺失的 match 分支并给出具体修复。almide-dojo 在 38 个任务上测得 Llama 3.3 70B 通过率 65%、Llama 3.1 8B 44%;项目处于 pre-1.0,采用 MIT 或 Apache 2.0 双许可。

    推荐理由:这个语言把编译器报错设计成可直接补全的修复指引,并用 LLM 写作性评测数据佐证,对关注 AI 编码工具链的人有参考价值。

  13. GitHub · 灵魂体仓库20

    Axiomantic Spellbook:多平台 AI 助手技能与工作流工具库发布

    GitHub 上的 Axiomantic Spellbook 是一套用于构建和管理多平台 AI 助手技能与工作流的开源工具库,支持 OpenAI(GPT-4、GPT-3.5)与 Claude(Claude 3 Opus、Sonnet)等引擎。每个"spell"是独立模块,可通过 CLI、SDK 或 API 调用,并支持用 YAML 编排工作流;缓存机制可将 API 成本和延迟降低至多 70%。项目需 Python 3.10+ 和 Node.js 18+,通过 pip install axiomantic-spellbook 即可安装。

  14. GitHub · 灵魂体仓库61

    ISNAD 开源:借鉴圣训传人学的 RAG 与多智能体声明溯源审计框架

    Ali Zahid Raja 开源了 ISNAD,一个面向 RAG 和多智能体系统的 LLM 溯源与审计工具(pip install isnad,Apache-2.0),为每条声明记录完整传递链并按最弱环节给出可验证信任等级,附 SHA-256 防篡改审计记录,映射 EU AI Act、ISO/IEC 42001、NIST AI RMF 和 SDAIA。框架借鉴定型十四个世纪的圣训传人学(isnād–rijāl),在 575,060 条圣训链上按规则惯例测得链级判定 Cohen's κ = 0.8714;在 RAGTruth 上组合的内容评审器达到 96.0% 幻觉召回、60.4% 精确率,作者同时如实列出内容评审召回不足、置信度门控无效等局限。

    推荐理由:原文不仅介绍框架还列出各组件的实测状态与已知局限,读者可以按需评估其在自己 RAG 管线中的可用程度。

  15. GitHub · 去对齐工具与仓库47

    开源自托管 AI 聊天机器人平台 php-chatbot-assistant 发布

    OnlineTechSupport.biz 开源了自托管 AI 聊天机器人平台 php-chatbot-assistant,MIT 协议免费,基于 PHP 8.2+ 和 PostgreSQL 16 的 pgvector,可将自有文档训练成网站聊天机器人,支持多租户、PDF/DOCX 等文档问答、AI 线索捕获和 Argon2id、TOTP 等认证。检索可选 pgvector 向量搜索或无向量的 PageIndex,OpenAI 与 LlamaCloud API 由用户自行开户按官方价格付费,平台无订阅、无账号、不抽取 API 差价。

  16. GitHub · 去对齐工具与仓库45

    QueryPilot:开源 text-to-SQL 智能体,用自然语言查询数据库并自动生成答案与图表

    GitHub 上的开源项目 QueryPilot 是一个 text-to-SQL 智能体:用户用英文提问,它生成 SQL、执行查询并返回答案和图表,演示数据为某披萨店 2015 年全年销售记录(共 21,350 笔订单)。系统通过 sqlglot 解析确保查询只读安全,失败时将错误反馈给模型自动重试(最多 3 次),数据无法回答时返回 sql: null 而非编造。项目附带 30 道题的评测集(含 gold SQL、strict/lenient 两档准确率),支持 Docker 一键运行,可配置 gpt-4o 等模型对比。

  17. GitHub · 去对齐工具与仓库58

    moeilijk 发布 AI Assisted Speedruns 工具链,让 Claude Code 等 Agent 打游戏速通

    moeilijk 在 GitHub 发布 AI Assisted Speedruns(AAS)预发布版工具链,让 Claude Code、Codex、Mistral Vibe 等模型通过每款游戏三个工具接口玩 Slay the Spire、Portal、Balatro、Portal 2、BizHawk/FCEUX 模拟器游戏并录制速通,打包后提交到 ai-assisted-speedruns.org 档案馆。工具基于 cozyblaze 的 portal-agent,内置 OBS 录制、LiveSplit 计时、日志防篡改签名机制(档案馆按小时对日志哈希签名),以及隐私扫描。

    推荐理由:原文详细给出了让语言模型打游戏的工具链、成本实测和日志防篡改机制,读者可以据此自己搭建一次AI速通跑。

  18. GitHub · 灵魂体仓库59

    vllm-project 推出 SLO 感知的 LLM 推理基准测试平台 GuideLLM

    vllm-project 的 GuideLLM 是面向真实负载的 LLM 推理基准测试与评估平台,模拟 OpenAI 兼容和 vLLM 原生服务器端到端交互,采集 TTFT、ITL 等完整延迟分布以支持 SLO 驱动评估。支持文本、图像、音频、视频多模态的真实与合成数据集,提供 synchronous、concurrent、constant、poisson、sweep 等流量模式,新增多轮对话、tool calling、Mooncake/WEKA/OTEL trace 回放等能力,输出 、csv、html 等报告,采用 Apache License 2.0,可通过 pip install guidellm 或容器镜像使用。

  19. GitHub · 灵魂体仓库46

    ThesisForge:基于 RAG 与 APA 7 规范的开源学术论文项目助手

    GitHub 开源项目 ThesisForge(Apache 2.0 许可)用 RAG 检索 Semantic Scholar / CrossRef 真实文献,按方法论咨询、文献检索、APA 7 分章写作、多智能体评审与模拟答辩四阶段辅助学术写作。它支持 BYOK 接入 OpenRouter、Gemini、Groq 及 Ollama 本地模型,每章采用 4 层分层记忆保持上下文连贯,可导出 APA 7 格式的 .docx 文件。

  20. GitHub · 去对齐工具与仓库62

    Neural Magic 开源 Crucible:以声明式任务图运行 Agent 工作与自优化循环

    Neural Magic 在 GitHub 开源了 Crucible,一个把 Agent 工作组织成声明式任务图的执行引擎,用 Starlark 编译为静态计划,在单个 Git 工作区内按成本预算执行。它提供 playbook 和 autoresearch 两条通道,后者把任务图包进提出修改、judge 打分、保留或回滚的优化循环;文中还解释了不采用 Argo Workflows 或 Tekton 的原因,并给出安装命令、manifest 配置和 counter 等示例。项目以 MIT 或 Apache 2.0 双许可证发布。

    推荐理由:README讲清了以Starlark声明任务图、在Git工作区内带预算执行Agent任务并配评审回环的做法,也解释了为何不用Argo或Tekton。

  21. GitHub · 去对齐工具与仓库57

    Typer On 0.4.1:macOS 菜单栏 AI 写作助手开源仓库发布

    Typer On 是一款原生 macOS 菜单栏与浮动工具栏 AI 写作助手,可在任意应用中选中文字后直接调用翻译、改写、总结、事实核查等模块并替换,无需切换到浏览器。它支持 OpenRouter API key、Ollama 或 LM Studio 本地服务器,以及通过 Codex 或 Claude Code CLI 复用 ChatGPT 或 Claude 订阅,无自身账号和订阅;个人免费使用,组织需另行书面授权,当前版本 0.4.1,要求 macOS Tahoe 26 及以上、Apple Silicon,聊天历史仅保存在本地并保留最近 500 条对话。

    推荐理由:原文详细说明了这款菜单栏 AI 写作助手的模型接入方式和数据流向,包括本地模型路径与隐私处理,便于评估是否值得自用。

  22. GitHub · 灵魂体仓库24

    NOEMA:开源自适应学习平台(pre-alpha)将文档构建为知识图谱与掌握度模型

    开源自适应学习平台 NOEMA 目前处于 pre-alpha 阶段,可将 PDF、笔记等材料构建为知识图谱,并按概念追踪 0–100 的理解掌握度。Phase 1 已完成,包括认证、笔记本层级、富文本编辑器、BYOK AI 接入层和流式导师聊天;Phase 2 进行中,尚未可用于生产环境。平台支持 Ollama 加本地 embeddings 完全本地运行,并采用 FSRS 排程与带强制引用的 RAG。

  23. GitHub · 去对齐工具与仓库41

    Koschnag 开源 cong-driven-development(CDD):以证据门控的软件演化研究仓库

    GitHub 上的 Koschnag/cong-driven-development(CDD)提出“证据门控的软件演化”,用类型化、版本化的 SPOT 单一事实源连接人类意图、候选方案、独立证据与人工 Promotion Gate,并提供 F# 内核、CLI 和只读的 CDD Studio。仓库包含可执行内核、验证、派生测试和有限的 EIDOS-ZT2 沙箱路径;官方明确表示尚无通用优越性、无自动验收、无 24/7 自主性及成本结论,公开产物为只读研究性质。

  24. GitHub · 去对齐工具与仓库70

    ProofKey 发布:自带 API key 的 Chrome 写作助手扩展,支持 Chrome 内置模型免 key 本地检查

    jiru-labs 在 GitHub 发布 ProofKey,一个 Grammarly 风格的 Chrome 写作助手扩展,文本从浏览器直连用户自选的 LLM 端点,无后端、无账号、无遥测。在 Google Chrome 中可使用内置 Gemini Nano 模型在本机检查,实测 live check 得分 13.0/14,仅提供 live checking 和 Fix grammar 两项;也支持 LM Studio、Ollama、llama.cpp 本地模型及 36 个云端 provider 预设,其中 5 个 provider 经真实 key 验证。九个站点(Gmail、Telegram Web、WhatsApp Web 等)经人工确认可用,Google Docs 因 canvas 渲染不支持。

    推荐理由:作者以实测记录区分已验证与未验证的站点和模型组合,并给出本地与云端方案的成本延迟对比。

  25. GitHub · 去对齐工具与仓库59

    KinAI v0.2 开源:把已运行的本地LLM共享给全家人使用

    KinAI发布v0.2,定位为已有本地LLM的家庭共享层:在Mac上以Host模式连接Ollama、LM Studio、vLLM、llama.cpp等后端,家人通过6位邀请码在Mac、Windows客户端或Telegram机器人上加入,无需云端和账号,各成员聊天相互隔离。版本包含全局热键悬浮窗、PDF和图片附件、视觉路由、web/X/图片搜索等内置工具、ComfyUI生图、语音回复、FTS5长期记忆加滚动摘要的上下文管理、JWT认证和主机分发的签名更新,MIT许可完全开源,Linux客户端为beta,暂不支持Linux主机。

    推荐理由:原文给出了完整的架构、上下文分层机制和支持后端清单,读者可以照着README直接部署一套家庭共享的本地LLM。

  26. GitHub · 去对齐工具与仓库25

    RQ1ConvertToRimay:用 LLM 将自然语言需求转换为 Rimay 并对照人工标注评分

    这是一个需求工程博士论文的首篇研究仓库,将自然语言功能请求经 LLM(zero-shot / few-shot / chain-of-thought 三种提示策略)转换为受控自然语言 Rimay,缺失信息用占位符标记,并对照四位标注者的人工 gold 标注评分。系统分为转换(scripts/run_conversion.py,记录到 MLflow)与离线评分(scripts/run_scoring.py)两个解耦阶段,含槽位 F1 精度、转换质量及 Paska 缺陷检测三条评估线;需 macOS/Linux 与 Java 1.8,配置 ANTHROPIC_API_KEY 后运行。

  27. GitHub · 灵魂体仓库66

    Audian 1.0.0 开源发布:Windows 本地语音听写工具

    开源语音听写应用 Audian 1.0.0 发布,支持在 Windows 任意应用中按快捷键口述,本地生成整理后的文本。它用 whisper.cpp 做语音识别、本地 Qwen 3.5 2B 做改写,全部在 CPU 上运行,音频不离开电脑,无需账号和订阅;默认模型约 1.5 GB,识别支持 99 种语言,从说完到上屏通常 0.5 到 2 秒。项目受 Wispr Flow 启发但独立开发,MIT 许可,要求 Windows 10/11 64 位和支持 AVX2 的 CPU,建议 8 GB 内存。

    推荐理由:原文给出了本地运行链路、模型选型和资源占用实测数据,读者可以据此评估纯 CPU 语音听写在自己机器上的可行性。

  28. GitHub · 灵魂体仓库55

    llm-quota-router:在多个已授权 LLM 订阅账号间路由调用,优先消耗即将过期的配额

    tonygwu 发布 llm-quota-router,一个 macOS 命令行工具,在个人持有的多个已授权 Claude、Codex、Cursor、Antigravity 订阅账号间选择本次调用用哪个,优先消耗即将过期作废的配额。工具把各账号百分比换算为统一单位 PSE 后按剩余可吸收量排序,只读凭据、不做代理也不刷新 token,附 quotapick、cl、cdx 等命令和 waste 浪费量统计;仓库于 2026-09-06 公开,MIT 许可,零运行时依赖,需 Python >= 3.12。

    推荐理由:作者把多个订阅账号的配额换算成统一单位再路由,文章讲清了做法和踩坑细节,方法可迁移到类似的多账号场景。

  29. GitHub · 去对齐工具与仓库41

    angelmtenor/ai-circus-framework:一个 YAML 驱动的多租户数据科学与 GenAI 场景演示开源平台

    GitHub 上的开源项目 ai-circus-framework(曾用名相同,现更名)将一个数据集加一个 scenario.yaml 文件变成可登录的多租户 AI 产品演示,覆盖机器学习、深度学习、agentic RAG 与 GraphRAG、辅助表单和语音,部署在 Kubernetes 上。每类场景一个服务实例服务所有场景,每次预测附带 SHAP 解释,登录由 Keycloak 管理。项目仍在进行中,包含 Follow the Money(13 家银行十天的支付回放评分)及 Titanic、toxic_leadership 等教程场景。

  30. GitHub · 灵魂体仓库43

    OpenThrottle:开源 AI 原生软件开发平台 monorepo

    OpenThrottle 是一个开源(open-core)AI 原生软件开发平台,核心是基于 Postgres 的计划与任务知识库,支持语义搜索,并通过 MCP 暴露给编辑器和 Agent,同时提供智能体执行(Ralph)和开发者仪表盘。项目采用 Nx + pnpm monorepo,技术栈包括 TypeScript、PostgreSQL、Redis、NestJS、BullMQ 等。核心应用已稳定,全部 Apache-2.0 授权,商业/企业模块另行 EULA 保留。

  31. GitHub · 去对齐工具与仓库52

    开源 Android 助手 Orbit Assistant 在 GitHub 发布

    独立开源项目 Orbit Assistant 在 GitHub 发布,将系统助手手势调用、屏幕上下文、设备操作、自动化 Routines 和完整聊天应用整合为一个可深度定制的 Android 助手,支持 Android 10+,采用 MPL-2.0 协议,以 APK 形式从 GitHub 侧载安装。用户可自行选择提供商与模型,包括 ChatGPT 账号登录、Claude、Grok API key、OpenRouter,或安装可选的 Orbit Local 组件实现离线聊天;屏幕内容默认只提供不自动附加,敏感应用可禁用上下文,密钥经 Android Keystore 加密。Stable 通道主要在 Galaxy S25 Ultra 上验证,付费的 Orbit Pro 尚在开发中。

  32. Reddit · r/LocalLLaMA65

    stereohype 用 Halogen 0.17.1 让 Strix Halo NPU 承担编码智能体的检索与筛查任务

    作者在 r/LocalLLaMA 分享了把闲置的 Strix Halo XDNA2 NPU 通过 Halogen 0.17.1 接入自建编码智能体的方案,NPU 只负责语义检索、去重、受限决策和注入筛查等定向工作。实测 codebase_search 在无关键词问题上 15/20 优于 grep 的 9/20,搜索延迟从约 4s 降到 0.1s,关键词贫乏任务平均 13.6 分钟对比 18.7 分钟;3.5 小时连续会话完成 119 轮、五次提交并经视觉验证发现三个真实 bug,NPU 调用中sidecar压缩每次约省 80-95 秒。作者强调 GPU 负责推理生成,NPU 只负责指引,并按实测裁掉了评分弱的工具。

    推荐理由:作者对 Strix Halo NPU 在编码智能体中的每项用途都给出了实测数据和裁剪依据,方法可以迁移到自己的本地部署评测。

  33. GitHub · 去对齐工具与仓库30

    rust-aicost:基于 genai 类型的 Rust LLM 用量成本计算库

    zcoder-run 开源了 rust-aicost,一个基于 genai crate 类型计算 LLM 使用成本的 Rust 库,支持 OpenAI、Anthropic、Gemini、DeepSeek、Groq、xAI、Fireworks、Together、Zai 等多家提供商。它能分别统计普通 token、缓存 token(读/写)和推理 token,并通过 AiCost 结构体提供总成本、输入/输出等细粒度费用拆分。库采用 Apache 2.0 和 MIT 双许可证。

  34. GitHub · 去对齐工具与仓库65

    自托管 LLM 网关 llmtrak 开源:虚拟密钥、成本核算与路由,附带与 LiteLLM 的性能对比

    GitHub 项目 rustrak/llmtrak 发布了一个 Rust 编写的轻量自托管 LLM 网关,可将任何 OpenAI SDK 指向它,通过团队虚拟密钥统计每人花费,支持 OpenAI、Anthropic、Azure、Gemini、Groq、Mistral、DeepSeek、OpenRouter、Ollama 等 API 方言互译,提供带权重、重试、冷却与回退的路由,密钥哈希存储,预算按日/周/月重置,内置 Management API 与每日价格表计费。

    推荐理由:原文附上了与 LiteLLM 同条件容器的延迟和内存实测对比,读者可以据此评估这个自托管网关的实际开销。

  35. GitHub · 去对齐工具与仓库37

    Codomyrmex:模块化 AI 原生编程工作区开源仓库

    GitHub 上的 Codomyrmex 是一个模块化 Python 工作区,包含 132 个顶层模块,覆盖 AI 智能体、云基础设施、安全和金融等领域。项目提供 617 个运行时 MCP 工具(源码 632 个 @mcp_tool),支持 Claude、Gemini、GPT-4o、DeepSeek 等 13+ 供应商,并收录 36,049 个测试,实行 Zero-Mock 测试政策。仓库含 3,000+ Python 文件、38 个 GitHub Actions 工作流,支持 Python 3.11–3.14,可经 uv sync 安装并用 codomyrmex doctor 验证。

  36. GitHub · 去对齐工具与仓库55

    I3K RAG Engine 0.1.x 用 Rust 重写为单二进制自托管 RAG 系统

    I3K Technologies 发布 I3K RAG Engine 0.1.x,将原 Python 多容器方案用 Rust 重写为单个二进制,首次运行下载并按 sha256 校验约 12 GB 组件,之后完全离线运行,数据不出本地服务器。系统支持 PDF、Office、邮件、图片(OCR)等多格式文档,用 BAAI/bge-m3 嵌入加 Qdrant 检索,内置 JWT 认证、每日备份和性能基准工具;1.x Python 版保留在 python-legacy 分支,无自动迁移路径,项目以 AGPL-3.0 授权并提供商业许可。

    推荐理由:原文完整给出了自托管 RAG 引擎的部署方式、组件架构和安全设计,读者可以据此评估它是否适合本地私有文档场景。

  37. GitHub · 去对齐工具与仓库28

    hunch:TypeSafe Jev "System One" 决策模型的开源 Rust CLI 客户端

    bastiankoetsier 在 GitHub 开源了 hunch,一个用 Rust 编写的非官方 CLI 客户端,调用 TypeSafe 的 "System One" 模型 Jev,对给定状态回答一个类型化问题并返回校准概率。它提供 noul(是/否)、choice(单选)和 score(量表打分)三个子命令,默认模型为 jev-latest,通过 OpenRouter 的 alpha Decisions 端点也可使用 OpenAI 的 GPT-6 Luna Decisions 等决策模型。项目提供 macOS、Linux、Windows 预编译二进制,但作者声明这是个人学习项目,不承诺维护与稳定性。