跳到正文
只看工程
10月23日周五
10月22日周四
  2. Reddit · r/LocalLLaMA20

    用员工笔记本上的 Ollama/Lemonade 池化推理，让小企业免费使用 LLM？

    一位 Reddit r/LocalLLaMA 用户提出把小企业员工笔记本上运行的 Ollama 或 Lemonade 客户端通过共享 API 和自定义负载均衡器连接起来，池化算力分担 LLM 推理负载，从而让小企业免费使用大语言模型。作者已发布最小原型和 GitHub 源码，计划在本地企业做小规模实验验证可行性。

  3. GitHub · 3D 生成新仓库47

    NVIDIA 开源 SkillEvaluator：检测 AI Agent 技能质量及其对任务效果的影响

    NVIDIA 发布开源工具 SkillEvaluator，用于检查 AI Agent 技能并衡量技能对任务结果的影响。它提供三层评估：Tier 1 静态校验（可用 Semgrep、SkillSpector、Gitleaks 做安全扫描）、Tier 2 基于 embeddings 的重复检测、Tier 3 通过 Harbor 沙箱对比有无技能的实际运行效果。示例技能可获得 84.5/100（B）评分，默认通过阈值为 70；工具支持 uv 运行 Python 3.13，可通过 NVIDIA Build API key 调用模型。

  5. GitHub · 3D 生成新仓库26

    Zimkjdv/Model-Atelier：個人 AI 圖像創作與實驗工作台

    Model-Atelier 是一个个人 AI 图像创作与实验工作台，采用 Vue 3 + TypeScript 前端与 FastAPI 后端，通过独立 ComfyUI 执行生成，SQLite 与图片保存在本机。支持 Checkpoint 文生图/图生图、Canny ControlNet、FLUX.1 [schnell] 元件库、LoRA 局部编辑等功能。Windows 环境需 Python 3.12 与 Node.js，平台占用 8000 端口，暂未提供训练、多租户或官方付费 API。

  6. GitHub · 3D 生成新仓库43

    doseedo 开源 AI 编码代理音乐技能集 doseedo/skills

    doseedo/skills 让 Claude Code、Cursor、Codex 等加载 Markdown 技能的 AI 编码代理用 doseedo 制作音乐。代理可将音符交给 40+ AI 乐器演奏、用自定义乐器做 timbre transfer、拆分 stems、生成和转录音乐，并把录音转成 Logic Pro / Ableton 会话。每个任务通过 doo 命令或 MCP 工具执行，费用在运行前报价，DAW 项目可跨 Logic、Ableton、Pro Tools 等 10 种格式转换，项目采用 MIT 许可证。

  7. GitHub · 3D 生成新仓库50

    Gizlang 发布：原生编译 TypeScript 全栈工具链开源亮相

    GizAI 在 GitHub 开源 Gizlang，一门经 LLVM 原生编译为单个可执行文件的 TypeScript 语法语言，内置 GizWeb Web 框架、GizDB 数据库（兼容 PostgreSQL 和 Oracle 协议）、向量搜索、S3 对象存储和 GPU 上的 LLM 与图像视频生成。基准测试中其 Web 应用达 1,739 请求/秒（Next.js 16 为 197），Todo JSON API 达 608k 请求/秒，任务切换 18 ms（Go 为 73 ms）。目前支持 Linux x86-64（Windows 走 WSL 2），版本为 0.y.z，采用 MIT 许可证。

  9. Reddit · r/LocalLLaMA69

    Kapitsa 0.2.7 实测 2021 款 M1 Pro 16GB 跑 Qwen3.5 与 Nemotron 编码速度

    Kapitsa 贡献者 Ye 发布 0.2.7 版本，针对老款 Apple Silicon 芯片优化，并在 2021 款 MacBook Pro 14（M1 Pro、16GB）上对六个模型做了与同机最快竞品引擎的基准对比。Qwen3.5 4B/9B 解码达 97.2/56.8 tok/s，分别为 mlx-serve 的 1.56×/1.52×；Qwen3.6 35B-A3B 2-bit 达 52.2 tok/s，解码 1.21-1.35× llama.cpp；六个模型峰值内存均低于对手，Dory 4B 为 4.4 vs 11.5 GB。Nemotron Dory 4B 长上下文解码被 mlx-lm 反超，作者已开 issue 跟进。

    推荐理由：作者给出六个模型在 16GB M1 Pro 上与最快竞品的逐项对比数据，含长上下文衰减和内存占用，可复现可查证。

  10. Reddit · r/LocalLLaMA70

    capy-flash v0.7.1 发布：Qwen3.8-Flash-Next 125B MoE 可在 64 GB 内存上运行

    开源推理引擎 capy-flash 发布 v0.7.1，让 Qwen3.8-Flash-Next（125B MoE）在 64 GB 内存加一或两张 16 GB GPU 上运行，双卡实测 234 tok/s；Qwen3.8-27B 3-bit 版可放进单张 16 GB 卡（174 tok/s，64k 上下文）。Flash-Next 的 routed experts 直接使用 ISTA-DASLab 的 GSQ-RCO 3-bit 量化（约 48 GiB 驻留内存，峰值约 57 GB），27B 的 3-bit 量化 MMLU-Pro 从 0.78 降至约 0.72，GSM8K 与 NVFP4 持平；代码与权重见 https://github.com/ValerioDolci/capy-flash。

    推荐理由：作者给出了具体显存占用和双卡实测速度，还附上 3-bit 量化与 NVFP4 的质量对比数据，方便判断取舍。

  11. GitHub · 去对齐工具与仓库42

    BOAR 2.0.0-rc1 发布：离线运行在手机上的开源研究助手

    BOAR 2.0.0-rc1 是一款开源 Android 离线研究助手，下载模型与知识包后可在飞行模式下答题，无需账号、服务器或 Google Play Services，答案引用本地 Wikipedia 文章、知识包和用户文档。12 GB 以上手机使用 Qwen3 4B（约 2.5 GB），更低配置用 Qwen3 1.7B（约 1.1 GB），搜索模型为 BGE Small，知识包约 164 MB。应用以 Kotlin 和 Jetpack Compose 编写，推理通过 JNI 调用 llama.cpp，APK 可从 releases 页面下载。

  12. GitHub · 去对齐工具与仓库49

    vgtitov 开源 bsl-ai-toolkit：面向 1C:Enterprise 8.3（BSL）开发的 AI 智能体工具包

    vgtitov 在 GitHub 发布 MIT 许可的 bsl-ai-toolkit，为 1C:Enterprise 8.3（BSL）的 AI 智能体开发提供规则、技能与 MCP 服务器。工具包含 onec-code 代码搜索、bsl-ls 诊断、onec-metadata 的 byte-perfect 元数据修改（经测试库 round-trip 验证）、onec-ops 运维与 onec-data 只读数据访问，参考实现为 Claude Code，Cursor、Copilot、Gemini CLI、Codex、Cline、Windsurf、Aider 经适配器接入。

  13. GitHub · 去对齐工具与仓库59

    Flightdeck 开源：面向生产与编码 Agent 的自托管观测与控制平面

    flightdeckhq 在 GitHub 发布 Flightdeck，一个自托管的 Agent 观测与控制平面，可实时展示每个 Agent 的 LLM 调用、MCP 事件和工具调用时间线。

    推荐理由：原文给出了传感器接入方式、SDK 覆盖矩阵和已知限制，读者可以据此评估这套自托管 Agent 观测方案是否适配自己的技术栈。

  14. GitHub · 去对齐工具与仓库46

    Orion：面向 VS Code 的本地优先 AI 编程助手 grenitho/orion 发布

    grenitho/orion 发布 Orion，一款本地优先、以验证驱动的 VS Code AI 编程助手，由 Python FastAPI 后端与 TypeScript 扩展组成，通过 localhost 通信。它以显式 todo 列表跟踪多步任务，用 verify_code 调用 node --check、tsc、Python compile 等真实解析器/编译器覆盖 16 种文件类型来核验完成声明，内置 22 个工具、116 项自动化测试，LLM 路由以 Gemini 为主、OpenRouter 与 Cloudflare 为备选，免费 Gemini key 即可使用。

  15. GitHub · 去对齐工具与仓库18

    Nexus-Science：科研检索与追踪网页平台

    Nexus-Science 是一个科研网页平台，可跨多个开放来源检索、理解并追踪研究动态，提供开放标准的可信度评分、兴趣提醒、新闻 feed，以及附带研究方法说明的报告和适配 Zotero、Mendeley、EndNote 的引用。面向巴西医疗领域另有可选模块，将药品与 ANVISA、Conitec 和 Rename 数据交叉。软件为专有闭源，已在 Render 与 PostgreSQL 上投产，测试套件含 1.471 个测试、最低覆盖率 80%。

  16. GitHub · 去对齐工具与仓库21

    smilemin07 开源 korean-rnd-regs-mcp：韩国研发行政规定审查 MCP server

    GitHub 上的 korean-rnd-regs-mcp 是一个用于审查韩国研发行政规定的 MCP server，可自动识别需审查的规定条款并按“法律>施行令>施行规则>行政规则”层级输出审查结果，通过国家法令信息中心 OpenAPI 调取条文，覆盖 66 部规定。面向研究者、R&D 专业机构人员及政府 R&D 事务公务员；建议 Claude 使用 Sonnet 5.5（Effort Level High 以上）、ChatGPT 使用 GPT-6.1 Sol（Effort Level Medium 以上）。

  17. GitHub · 去对齐工具与仓库58

    Toolify 中间件为不支持函数调用的 LLM 注入 OpenAI 兼容 function calling

    xshell1994 在 GitHub 发布 Toolify，一个中间代理，向不支持函数调用的大语言模型或 OpenAI 接口注入 OpenAI 兼容的 function calling 能力。原理是拦截 chat/completions 请求、注入指导模型用 XML 格式输出函数调用的系统提示词，再从上游响应中解析并转换为标准 tool_calls 格式，支持单次响应多个函数调用、think 标签兼容、流式解析、按模型名路由多个上游服务、客户端鉴权、token 统计及解析失败自动重试（默认最多 3 次，可配 1-10 次），可用 Docker Compose 或 Python 3.8+ 部署，采用 GPL-3.0-or-later 许可。

    推荐理由：原文给出中间代理的完整工作原理与配置方式，可按 Docker Compose 或 Python 直接部署给不支持函数调用的模型补上该能力。

  18. GitHub · 去对齐工具与仓库36

    shahil5z 开源多索引 RAG 管线与评测工具 ragcheck

    shahil5z 发布本地多索引 RAG 管线 advanced_rag 与评测工具 ragcheck，在 40 道人工审核问题上评测。BM25 重排未改变 Recall@5（0.833），但将 MRR 从 0.629 提升至 0.779、nDCG 从 0.670 提升至 0.784；HNSW 各项指标与 Flat 持平，IVF Recall@5 为 0.796。管线用 all-MiniLM-L6-v2 嵌入并搜索 FAISS 索引，生成器为 OpenAI，演示站点部署于 advanced-rag-evaluation.vercel.app。

  19. GitHub · 去对齐工具与仓库36

    family-expense-bot：用 Telegram 记账的个人理财机器人

    开源项目 family-expense-bot 通过 Telegram 记录个人开销：用户输入自由文本后，由 Gemini flash-lite 免费模型提取支出，代码逐字段校验，金额和类别确认无误才保存。项目采用 30/30/20/20 预算规则，Python 与 n8n 两套实现经约 10000 例验证等价，含 400 多个测试，支持 Docker 一键部署。

  20. GitHub · 去对齐工具与仓库70

    开源 Agent 工具 llm-daily 用自己的 LLM key 自动生成每日 AI 简报

    likw99 开源了 llm-daily，一个用自己的 LLM key 每日抓取 AI 新闻并自动写成简报的 Agent，自 2025 年 3 月起几乎每天早上都在写 LLM Daily 简报。它读取 Reddit、arXiv、GitHub trending、Hugging Face、Product Hunt、TechCrunch、VentureBeat 和红杉的内容，生成商业、产品、技术、研究四个板块加 Highlights，支持中英文或双语输出，可发布到静态网站（含 RSS）、Kit/Buttondown 邮件、Telegram、Discord、Slack 或飞书。管线强制每条目附来源链接并由校验器删除无链接内容，末尾列出用到的信源、被剔除的行、所用模型和 token 消耗；无内容不发布。

    推荐理由：仓库自带 dry-run 离线模式和逐条带链接的校验管线，读者可以直接克隆测试或按需增删信息源。

  21. GitHub · 去对齐工具与仓库42

    Helix RAG 客服助手：一个经过评测的开源 RAG 项目

    开发者 mohamedchouiki97 发布了 Helix Support Assistant，一个面向虚构 B2B SaaS 公司客服团队的 RAG 助手项目。系统将 100 份文档（60 Markdown、25 PDF、15 HTML）导入 Chroma 向量库，采用 BM25 + dense 混合检索经 RRF 融合，再用 gpt-5.4-mini 重排并生成带来源和置信度的结构化回答。在 50 条查询测试集上，RAGAS 评测 3 次平均 faithfulness 0.983、context precision 0.981。

  22. GitHub · 去对齐工具与仓库42

    LLMApiGateway：本地容错个人 LLM 网关

    开源项目 LLMApiGateway 是一个本地运行的 OpenAI 兼容个人 LLM 网关，支持多供应商模型的容错切换、负载均衡、模型轮换和自定义请求参数，可用于 Cline、RooCode 等代码智能体。网关在主模型出错时自动切换 fallback 模型，对 429 和日配额错误按 90 秒到 86400 秒的阶梯升级 cooldown，并通过 tiktoken 在流中断时本地估算 token 用量，同时按小时、天、周、月统计成本与 token 消耗。

  23. GitHub · 去对齐工具与仓库62

    citerag 开源：可自部署、答案带可核查引用的 RAG 服务

    GuiDobelin 发布 citerag，一个可自部署的 RAG 服务，支持上传 PDF、Markdown、文本和 HTML 文件，通过 HTTP 或命令行提问，每个答案标注来源文件、页码和原文引文。它使用 Claude 的 citations API 由模型对检索段落生成引文，嵌入默认用 fastembed 在本地计算，还提供不调用 LLM 的离线抽取模式；内置文件存储可经环境变量切换到 Qdrant，全部约 600 行类型化 Python，MIT 协议开源。

    推荐理由：原文给出完整架构、配置项和引用机制说明，可自部署验证答案出处，适合想搭可核查 RAG 服务的读者参考。

  24. GitHub · 灵魂体仓库55

    开源 AI 合同审查工具 ContractGuard 发布，30 秒内标出合同红旗条款

    he-yufeng 在 GitHub 发布开源 AI Agent 工具 ContractGuard，上传 PDF/DOCX 合同即可在 30 秒内输出红旗条款、警告、保护项和 A+ 到 F 的公平度评分及逐条修改建议。工具通过 Pydantic 模型保证结构化输出，支持 OpenRouter、OpenAI 及 Ollama 本地模型；在 LLM 之外并行运行辖区感知的确定性法条核对清单，覆盖中国劳动法与民法典及加州住宅租赁规则，无法判定时诚实返回 unknown。支持批量扫描、版本对比、JSON 导出和 Gradio Web UI，最长约 30000 token（约 60 页）。

    推荐理由：开源合同审查 Agent 除了 LLM 分析还内置辖区感知的法条核对清单，并对缺失条款诚实返回 unknown，思路可直接借鉴。

  25. GitHub · 灵魂体仓库46

    EKOS：面向 AI Agent 的开源企业知识操作系统

    EKOS 是一个开源的企业知识操作系统（知识层），将源代码、SQL、文档和 Git 历史编译成带证据溯源的知识，AI Agent（包括 Claude Code）通过只读 MCP 服务器查询。项目用 Rust 编写，采用 MIT 许可证。首个 benchmark 显示：在含 2,022 个文件的真实开源仓库上，冷摄入耗时 34 秒，用 tiktoken 标准分词器测量，基于编译账本回答问题比 grep 原始搜索节省 67-93% token（含 grep 占优的用例）。

  26. GitHub · 灵魂体仓库27

    ReassureAI：结合生物医学与阿育吠陀的混合式 AI 健康支持系统

    学术研究项目 ReassureAI 结合多模型与 RAG 提供健康信息服务，涵盖心理危机检测、医学报告通俗化解读，以及融合 OpenBioLLM-8B 与 AyurParam 的生理健康问答。系统包含 SEC1/SEC2 两级安全检查、可选 n8n 监护人警报工作流，前端采用 React 19，检索用 Qdrant 与 BAAI/bge-m3，支持 Docker Compose 部署。项目为概念验证，非医疗设备。

  27. GitHub · 灵魂体仓库37

    Seed：在本地从零训练小型语言模型的训练工作室

    Seed 是一个本地语言模型训练工作室，可用自己的文本从零训练小模型，并观察学习进度与实验输出。界面包含 Training、文本生成、Chat 和 New life 四个部分，默认模型约 3.36 million 参数、在 CPU 上运行，macOS 可选原生加速。前端采用 React、TypeScript 与 Vite，Transformer 引擎（包括 attention、梯度和优化）直接用 TypeScript 实现，不依赖机器学习库或外部推理 API，可本地或通过 Docker 运行并保存 checkpoint。

  28. GitHub · 灵魂体仓库49

    黑粉科技发布方寸智匣 LocalBrain：本地大模型、文件与媒体 AI 工作台

    黑粉科技的方寸智匣（LocalBrain）是一个本地 AI 工作台，整合大语言模型下载导入、流式对话、文件工具调用及语音、图片、视频、音乐生成，最新版本为 Windows/Linux 2.0.8 和 Mac 2.1.1。Mac 集成 MLX、Metal llama.cpp、Splash 与 Prism，Windows 使用适配的 llama.cpp / Prism，Linux 为预览支持；本地推理不要求对话上传云端。在 RTX 4070 Laptop 8GB 显存本机实测中，PolyStrata 运行 Qwen3.6-35B-A3B UD Q3_K_M 解码速度约 75～90 token/秒。软件为专有软件，安装包不含模型权重。

  29. GitHub · 灵魂体仓库44

    turri-desktop：turri 的 macOS 与 Linux 桌面版

    turri 推出桌面版 turri-desktop，支持 macOS 和 Linux，将命令行版的对话、工具、slash 命令、skills 和 pulses 以原生 UI 呈现。软件以“持久意图”为唯一事实来源，随意图变化重新生成代码而非就地修补，支持 Anthropic、OpenAI、Google、Amazon Bedrock 等模型提供商，可通过订阅（如 Claude Pro/Max、ChatGPT、GitHub Copilot）或 API key 登录。AppImage 版需 FUSE 2，Linux 上依赖 bubblewrap 沙箱，Linux 版可自动更新，macOS 版尚不能。

  30. GitHub · 灵魂体仓库49

    Cybeaster/LLMSkills：同时适配 Claude Code 和 Codex 的 Agent 技能插件集

    GitHub 仓库 Cybeaster/LLMSkills 提供一组 Agent 技能，打包为同时兼容 Claude Code 和 Codex 的插件。技能本身是中立的 SKILL.md 目录，无 agent 专属语法，两个 marketplace 清单并存于同一仓库，内置 devflow、orchestrator、ru-style 等插件。可通过 /plugin install、codex plugin 或 npx skills 安装，采用 MIT 许可。

  31. GitHub · 灵魂体仓库32

    Pydantic AI Kernel：基于 pydantic-ai 与 metakernel 的 LLM Jupyter 内核框架

    Pydantic AI Kernel 是一个 Python 库，结合 pydantic-ai 与 metakernel，用于创建可调用 LLM、tools、MCP servers 的 Jupyter kernel。内核以原始文本为输入，支持流式输出、自定义 magics 命令、工具审批校验及 markdown/html 等多种输出类型，并可通过 CLI、Web 界面、REST API、websockets 等前端访问，借助 jupyter server 或 jupyter kernel gateway 提供 REST 与 websockets 生产级 API。

  32. GitHub · 灵魂体仓库22

    Thinkube 的 llama-cpp 组件：LLM Gateway 背后的 llama.cpp 推理服务器

    Thinkube 的 llama-cpp 可选组件提供 LLM Gateway 背后的 llama.cpp 推理服务器，支持 1-bit 到 16-bit 量化的 GGUF 模型，容器在 8000 端口运行 llama-server，提供 OpenAI API（chat completions、completions、embeddings 等）。模型由 MLflow 管理，首次启动将 GGUF 文件复制到节点本地磁盘。镜像基于 llama.cpp release b11476 和 CUDA 13.0 构建，组件与模板均为 MIT 许可。

  33. GitHub · 灵魂体仓库33

    Thinkube 的 llama-cpp-prism：基于 PrismML llama.cpp fork 的低比特模型后端组件

    Thinkube 的可选组件 llama-cpp-prism 使用 PrismML 的 llama.cpp fork，支持其 Bonsai 模型的低比特 GGUF 格式 Q1_0（1-bit）、PQ2_0 和 PTQ1_0，并带专用 CUDA kernels；原版 llama.cpp 会拒绝这些文件。该组件通过同一入口在 8000 端口运行 llama-server 并提供 OpenAI API，镜像基于 fork 的 prism-b10754-2459f68 版本与 CUDA 13.0 构建，模板采用 MIT 许可。

  34. GitHub · 灵魂体仓库61

    openserbia/go-llm 发布，面向自托管推理后端的 Go 客户端库

    openserbia 在 GitHub 发布 go-llm，一个用于 OpenAI 兼容推理端点的 Go 客户端库，零标准库外依赖，要求 Go 1.27。库会从后端错误响应和返回字节中检测 LM Studio、Ollama、vLLM、llama.cpp、text-generation-inference 各自缺失的 API 部分，并按 json_schema 到 json_object 到无 response_format 的顺序降级而非失败，结构化输出被后端忽略时视同拒绝，被 token 预算截断时返回 *llm.TruncatedError 提示调高 MaxTokens。

    推荐理由：这个 Go 客户端把各自建推理后端实现 OpenAI API 时的差异集中处理，降级策略和截断、溢出的区分写得很具体，对自托管部署有参考价值。

  35. GitHub · 灵魂体仓库51

    Mac-WeChat-ChatBot：macOS 原生微信 AI 助手开源，用 Frida 注入官方微信实现自动回复

    Gusion1017 在 GitHub 开源 Mac-WeChat-ChatBot，通过 Frida Gadget 注入 macOS 官方微信（唯一实例），经 Go OneBot bridge 接入 SwiftUI App，调用 DeepSeek、OpenAI、Ollama 或任意 OpenAI 兼容端点生成拟人化回复。支持私聊自动回复、群聊 @ / 关键词 / 拍一拍触发、白黑名单与限流、按会话覆盖人格与提示词，记忆采用 10 条短期窗口加 8 条批量总结、综合权重含 30 天半衰期。微信 4.1.12.53 / 4.1.15.55 / 4.2.0.5 已真机验证，媒体下载为已知缺失；消息与记忆仅存本机、API Key 存 Keychain。

  36. GitHub · 灵魂体仓库39

    trackmind-ai 开源 spec-security-review：把 Claude 变成安全审计 skill

    trackmind-ai 在 GitHub 发布 spec-security-review，这是一个可将 AI 智能体变成安全审计员的 Claude skill。它覆盖 SAST、SCA 供应链、后端授权、前端 XSS 和 AI/LLM 安全五条审查线，输出含文件路径、行号、漏洞代码片段、source→sink 追踪与修复建议的结构化报告，并按 OWASP 类别和 Critical/High/Medium/Low 分级。默认只读分析，采用 GPL-3.0-or-later 许可，可作为插件或复制到 .claude/skills/ 目录使用。

  37. GitHub · 灵魂体仓库36

    L200testAgent_CAL：基于 Google ADK 2.x 的多智能体周报自动化系统

    一个基于 Google ADK 2.x 构建的多智能体系统，每周日 06:00（Asia/Kuwait）自动汇总 Google Calendar、Gmail、Gemini Meet Notes 及 AFA/TIF/PSF 消耗跟踪数据，生成 6 页 Google Slides 高管演示文稿，并通过独立的 LLM-as-a-Judge 自愈循环审计后将链接发送至指定邮箱。系统采用三级模型路由（gemini-3.8-flash 与 gemini-3.1-pro，输入超 32,000 tokens 时自动升级），配备 SQLite 持久会话存储、OpenTelemetry 分布式追踪与 PII 脱敏，通过 Terraform 部署在 Cloud Run 上。

  38. GitHub · 灵魂体仓库42

    koko-dodo/ai-internship-agent：无框架 Python Agent 简历–职位证据匹配项目

    GitHub 开源项目 ai-internship-agent 是一个不依赖 LangChain/LangGraph 的 Python Agent，基于 Python 3.12 与 Pydantic 2，用于简历与职位描述的证据化匹配，输出带引用、行号和内容哈希的结构化技能状态与评分。Agent 可在显式授权的文件内执行 SEARCH / ASK_USER / FINISH 三种有界动作，LLM 只提议判断，Python 负责验证引用、控制预算和计分。项目内置 gold-v1 冻结数据集（12 个虚构案例、13 个技能标签）对比固定流程与 Agent 模式成本，最新本地验证通过 545 个测试，离线运行无需 API key，DeepSeek 适配需显式授权。

  39. Reddit · r/LocalLLaMA41

    Domyn-Small-v1.0 已合并支持至 llama.cpp

    Domyn Small 1.0 的支持已合并进 llama.cpp。该模型是 Domyn 开源的约 10B 参数推理模型，原生 32k 上下文（可经 YaRN 扩展至 131k），支持 thinking on/off 双模式推理与工具调用，采用 MIT 许可证，推理 token 消耗约为 Qwen3.5-9B 的 32% 和 OLMo-3-7B-Think 的 35%，BFCL V3 单轮成绩为 75.9 Non-Live / 68.3 Live，适合小显存环境的 agentic 部署。