跳到正文
10月22日周四
  1. GitHub · 灵魂体仓库56

    开源 Windows 语音助手 Cephi 发布,可用 Ollama 本地运行

    开发者发布开源免费的 Windows 助手 Cephi,按 Ctrl+Alt+Space 即可语音或文字操控整台电脑,支持播放 Spotify 音乐、打开系统设置、划词翻译、截图提问和笔记管理。可接 Ollama 本地模型让数据不出本机,也可用自己的 Claude、Gemini 或 OpenAI 兼容 API 密钥,支持接入任意 MCP 服务器或用一个 JSON 文件添加自定义工具,MIT 协议开源。

    推荐理由:开源 Windows 语音助手 Cephi,仓库把本地 Ollama、MCP 工具扩展和快捷键体系讲得相当完整,适合想自建本地 Agent 的人参考。

  2. GitHub · 灵魂体仓库19

    fluxion-sys-ai/llm-web:Fluxion LLM 独立前端仓库

    fluxion-sys-ai/llm-web 是 Fluxion LLM 的独立前端,基于 QuantumNous 等贡献者的 New API 修改,主分支维护,位于 web/ 目录,使用 React、TypeScript、Tailwind CSS 和 Rsbuild。本地预览可用 Bun 运行,demo 账号为 preview / preview123,采用样例数据和模拟回复。项目以 AGPL-3.0 授权并附带 NOTICE 中的署名条款,静态前端发布由单独的 api-gateway 仓库处理。

  3. GitHub · 灵魂体仓库52

    NocoBase 开源 NocoCRM:面向 B2B 销售团队的 AI Agent CRM

    NocoBase 基于 NocoBase 3 开源了 NocoCRM,一个面向 B2B 销售团队的 CRM,包含线索、公司、联系人、商机、任务和审批,并内置一个对话助手和五个后台 agent,分别负责线索跟进、商机跟进、审批审查、任务准备和公司调研。所有 agent 以其所属用户的权限运行,改动建议需人工在收件箱确认后才生效;本地部署只需 Node.js 24 和 pnpm 11,数据存于 SQLite,AI 部分支持 DeepSeek、OpenAI、Claude、Gemini、Qwen 等模型服务,无模型时其余功能仍可用。

  4. GitHub · 3D 生成新仓库32

    1644ye/pages:dsh-shopify-page-studio 插件开发中 0.1.9 融合 DeepSeek 生成,正式版仍为 0.1.7

    GitHub 仓库 1644ye/pages 的 DSH 插件 dsh-shopify-page-studio 正在开发 0.1.9,将「首页与 SEO 提示词」与 DeepSeek 直接生成融合并共用预览和变量,已适配本机 DSH 0.2.1-rc.2 并保留 0.2.0-rc.2 支持。该改动已进入源码但未发布新 Release,正式下载仍为 0.1.7,支持 Windows / DSH 0.2.0-rc.2 / Node 24。插件通过宿主 DeepSeek 生成七个页面并附加固定 Contact Us,导出含八页面及导航菜单的 Matrixify XLSX,模型使用宿主账号用量,导出在本地完成。

  5. GitHub · 3D 生成新仓库38

    geonom 开源 ai-serve:本地 AI 网关整合 llama.cpp、TTS、STT 与图像生成,统一 OpenAI 兼容 API

    geonom 在 GitHub 发布 ai-serve Alpha 版:一个本地 AI 网关,把语言模型(llama.cpp)、语音合成、语音识别、图像生成和文档读取统一到 OpenAI 兼容 API(/v1/...)加一个仪表盘后面,模型按需加载、内存紧张时卸载。安装器提供 Gemma 4 E4B/E2B、Chatterbox 多语言 TTS、Whisper(WhisperX small)和 Iris-3B Turbo 图像生成等可选服务,下载经 sha256 校验。项目除 llama.cpp 外均以插件扩展,AGPL-3.0 授权,支持 Linux(NVIDIA、AMD、Vulkan、CPU)与 macOS(Apple Silicon),Windows 稍后支持。

  6. GitHub · 3D 生成新仓库24

    ToolJet:开源自定义内部工具构建平台,支持 AI 生成应用与 MCP 服务器

    ToolJet 是一个开源低代码平台,用于基于现有数据库、API 和 SaaS 系统构建管理面板、仪表盘等内部工具。其 ToolJet AI 可从自然语言描述生成页面、查询和组件,并提供 MCP 服务器,支持 Claude Code、Codex、Grok、Cursor 等客户端让编码智能体直接构建应用,智能体基于平台真实组件与数据契约生成可继续在可视化编辑器中维护的应用。社区版提供 80+ 响应式组件和 90+ 数据源,可自托管或使用 ToolJet Cloud,ToolJet MCP 目前处于 beta 阶段。

  7. GitHub · 3D 生成新仓库17

    开源新仓库 EAKTP:本地优先、注重隐私的企业级 AI 知识信任平台

    GitHub 新仓库 EAKTP 是一个本地优先、注重隐私的 NLP 平台,提供基于文档的回答、声明验证、受控工具、评估与可选微调。目前 Phase 1 与 Phase 2 确定性核心已实现,包括 FastAPI 健康检查端点、Streamlit 外壳、安全上传验证、文本解析和 PII 脱敏。项目支持 Python 3.11–3.14,当前仅限本地开发使用,无用户认证,不应暴露到公司网络。

  8. GitHub · 3D 生成新仓库28

    Inpartner 发布 WP Knowledge Chat v0.5.0:基于 RAG 的 WordPress AI 商务咨询插件

    Inpartner 发布 WP Knowledge Chat v0.5.0,一款 WordPress 插件加轻量 Node.js 后端,用 RAG 基于 inpartnerglobal.com 官方内容提供带来源引用的商务咨询问答。插件支持 Google Gemini(gemini-1.5-flash / gemini-2.5-flash)与 OpenRouter(deepseek/deepseek-chat)双供应商自动 failover,含 PII 清洗、提示词注入防御和 HMAC-SHA256 认证。v0.5.0 通过 137/137 后端测试、131/131 PHPUnit 测试和 16/16 真实浏览器 E2E 检查,axe-core WCAG 2.1 AA 违规为 0。

  9. GitHub · 3D 生成新仓库14

    YRootLab 开源 onmaru-ai-engine:OnMaru 的 Python/FastAPI AI 引擎仓库

    YRootLab 在 GitHub 发布 onmaru-ai-engine 仓库,作为 OnMaru 的 Python/FastAPI AI 引擎,负责查询处理、检索、有依据的生成、语料索引和离线质量测试。AI-RAG 文档已于 2026-10-22 从 OnMaru-backend 迁移至此,设计入口为 docs/ai-rag/README.md。该仓库发布经过测试的不可变 FastAPI 容器镜像,但不持有 AWS 凭证与生产配置;在同一 Lightsail 实例上与 Spring Boot、PostgreSQL、Nginx 共存部署仍是待验证的规划目标。

  10. GitHub · 3D 生成新仓库47

    exprassist 发布:面向合同公式表达式的静态分析与本地 LLM 辅助面板

    exprassist 是一个 GitHub 上的新工具,为合同工作流公式提供静态分析、自动修复(先经数百条样本验证结果一致)、语法树英文解释和本地 LLM 生成功能,生成由 Ollama 本地运行。全部用 TypeScript 实现,含 Pratt 手写解析器、类型检查器和求值器;修好的重复 LOOKUP 规则使 demo 表达式每次求值 lookup 从 0.68 降至 0.59。新改进反馈后,模型一次正确率从 16/20 升至 18/20,10 条新请求为 8/10。

  11. GitHub · 3D 生成新仓库21

    rag-hr-policy-chatbot 开源:基于 RAG 的 HR 政策问答聊天机器人

    GitHub 上开源的 rag-hr-policy-chatbot 是一个 RAG 问答聊天机器人,可从 HR 政策文档中检索并回答问题。它用 Sentence Transformers 生成嵌入,以 ChromaDB 存储和检索文档块,并通过 Ollama 运行本地 llama3.2:3b 模型生成答案,无法检索到相关政策信息时会拒绝作答。项目还提供检索评估、阈值校准脚本及基于 Streamlit 的深色主题聊天界面。

  12. Reddit · r/LocalLLaMA34

    华为 Atlas AI 加速卡最新对比概览:Atlas 150 采用 950 Ascend 核心

    一位持有 3 张 Atlas 300I Duo 的用户根据华为 Silver 级合作伙伴的最新信息,整理了 Atlas 系列加速卡对比,称 Atlas 150 为全新产品并采用 950 Ascend 核心。作者在自建 vllm-fork 上持续优化 QFN,测试了 GLM5.3-flash、DeepSeek 模型及 Meta Muse(经 REAP 裁剪专家后跑在 3 卡 300I Duo 上),并用 Qwen 视频模型分析安防摄像头画面。文中还提到这些卡为被动散热、需额外 PCIe 12V CPU 供电、内置 Euler OS 尚无法绕过签名验证,作者并有一张第四块 300I Duo 拟在美国市场出售。

  13. GitHub · 去对齐工具与仓库58

    jjfwang 开源 teachkit:用 LLM 按需生成新加坡课程动画讲解

    jjfwang 在 GitHub 发布 teachkit,让 LLM 生成描述场景、形状、运动和旁白的 JSON 动画规范,由内置播放器在浏览器直接渲染,覆盖新加坡小学、中学和初院课程,无需视频文件或渲染农场。应用自带密钥,支持 OpenAI 兼容端点及本地 Ollama,密钥仅存于浏览器 localStorage;lesson-pack 模式可一次生成动画加幻灯片、练习纸、学生笔记、出门条和教师讲稿六件套,npm 包首版为 0.2.0-beta.0,MIT 许可。

  14. GitHub · 去对齐工具与仓库61

    WhisprFlow 开源:本地运行的 Windows/macOS 语音听写工具

    作者发布 WhisprFlow,一个在本地运行的 Windows 和 macOS 语音听写工具,按热键说话后自动清理填充词、加标点并粘贴到光标处。默认用 Phonon-2 在设备上转写、Ollama qwen3:4b-instruct 本地润色,无需账号和订阅;11 秒听写端到端约 1.7 秒(i5-13500HX + RTX 4050 实测),支持 Qwen3-ASR 处理多语言,词典从用户听写中学习术语拼写,代码 MIT 许可,macOS 代码路径保留但未测试。

    推荐理由:原文给出实测延迟、模型选型对比和架构细节,读者可以据此评估这套本地语音听写方案是否适合自己复现。

  15. GitHub · 去对齐工具与仓库42

    归墟(GuiXu-DataPilot):本地运行的中文数据处理 Agent

    归墟(GuiXu-DataPilot)是一个 Windows 本地优先的数据处理 Agent,把 Excel 拖入后可用自然语言查询、增删改、导入导出、改表结构和生成 PDF/Word 报告,支持软删除、快照回滚与文档库检索。它基于 SQLite 单文件存储,含 20 个工具和不到 100 行的 Agent Loop,182 条评测用例最近结果为离线 142/142、Agent 39/40。安装包 GuiXu-Setup-1.2.0.exe 可从 GitHub Releases 下载,无自有云服务,数据留在本机。

  16. GitHub · 去对齐工具与仓库36

    joewoods1968 开源 LLM_Coordinator:本机统一路由 LLM 调用,Ollama 优先、云端 CLI 兜底

    LLM_Coordinator 是一个开源仓库,在每台机器上运行一份副本,为本机所有 LLM 调用选择后端并记录共享用量账本。路由优先使用 Artfull 上的 Ollama 模型 gemma4:31b,不可用或未通过调用方检查时升级到云端后端(claude、chatgpt、gemini 默认关闭、openrouter 默认关闭),每个后端每次调用只尝试一次。云调用走已登录的 CLI 而非 API key,仅 OpenRouter 例外,通过 OPENROUTER_API_KEY 使用 HTTP API,按"最便宜优先"阶梯计费。

  17. GitHub · 去对齐工具与仓库27

    Zeon7744/pic-workflow:面向个人创作者的图片→视频→成片工作流引擎

    Zeon7744 在 GitHub 开源 pic-workflow,一个面向个人创作者的“图片→视频→成片”多模态生产引擎,覆盖短剧、营销图与创意内容。工具含核心引擎与 SOP 模板,定价分 Free(¥0,每天 1 次生成)与 Pro(¥99/月,不限次,含角色一致性引擎与四维风格矩阵),通过爱发电收款,商用需遵守平台 AIGC 标注要求。

  18. GitHub · 去对齐工具与仓库51

    QWED 开源 LLM 输出验证层,用 SymPy、Z3 等确定性引擎校验 AI 输出

    QWED 以 Apache-2.0 协议开源,是一个校验 LLM 与 AI Agent 输出中声明的验证层,使用 SymPy、Z3、SQLGlot、Python AST 等确定性引擎,无法验证的声明不会标记为已验证。它可作为 Python 库、CLI、自托管 API 或 Docker 镜像在本地运行,提供 TypeScript、Go、Rust SDK,包含 13 个引擎和 9 个策略守卫,返回 status 与 admission 两个独立判定,并定义了 Verification Context v1.0 结果记录格式。自然语言检查需调用所配置的 LLM 做形式化转换,该转换本身不被验证。

  19. GitHub · 去对齐工具与仓库33

    ShreyasK06 的 Tiny Shakespeare GPT:从零训练小规模 GPT 语言模型项目

    一个从随机初始化、无预训练权重开始训练的 GPT 风格语言模型项目,使用约 1MB 的 TinyShakespeare 文本(1,115,394 字符、65 个字符类别),字符级 tokenize,模型 3.24M 参数,上下文窗口 256 字符。经 next-token prediction 预训练,选中的 exp_c_small 配置验证损失 1.4338、测试困惑度 6.19,并通过 React 前端与 Vercel serverless 后端以纯 JavaScript 逐字符流式输出。

  20. GitHub · 去对齐工具与仓库44

    Intel60:用 Claude Haiku 每天把安全新闻压缩成 60 词卡片的开源项目

    GitHub 上的开源项目 Intel60 每 30 分钟抓取 BleepingComputer 等 8 个安全资讯源和 CISA KEV 目录,用 Claude Haiku 4.5 为每条新闻生成 60 词卡片,标注严重级别并附 NVD CVSS 评分与 FIRST EPSS 利用概率。关键故事经 ntfy 推送,支持本地 watchlist 过滤、补丁期限倒计时和 7 天趋势,AI 每条只跑一次、读者数不影响成本,Anthropic API 成本约 $3–5/月。

  21. GitHub · 去对齐工具与仓库60

    groundwork 发布:为 Claude Code 和 Codex 配置 AI 编码工作流的插件

    enebin 发布 groundwork,一个 Claude Code 和 Codex 插件,通过 /groundwork:onboarding 的 8 项选择为仓库配置 issue 跟踪、工作流、分支与发布策略、架构、AI 代码审查和 UI QA,结果写入 GROUNDWORK.md、AGENTS.md 和 ARCHITECTURE.md。每个选项以 bundle 形式给出优缺点、token 成本和针对仓库的推荐;6 个代码 reviewer 并行运行,UI 变更每次运行都由截图测试验证,确认的审查问题交给独立上下文的 fixer agent 修复。配置提交到仓库后,队友安装插件即可沿用相同规则,支持 eco/normal/sport 三档彻底度预设,采用 MIT 许可。

    推荐理由:原文完整列出了 8 个 onboarding 选项、各 bundle 的 token 成本与 6 个并行 reviewer 的分工,读者可据此评估是否适配自己的仓库工作流。

  22. GitHub · 去对齐工具与仓库46

    decision-qa:本地 LLM 决策问答 Web 应用「Вердикт」

    GitHub 项目 chkalofff/decision-qa 推出 Web 应用「Вердикт」,可向本地 LLM 提问并获取答案概率分布,通过 SGLang(/v1/decisions,MLX 后端)、Cloudflare Clef(/v1/systemone)和 llama.cpp 运行的 GGUF 模型接入,也支持任意远程云模型。多模型可同时运行并对比答案,提供 macOS 与 Windows 安装包、模型管理页面及 API 密钥管理,双模型同时运行约需 64 GB 统一内存。

  23. GitHub · 去对齐工具与仓库26

    Athletix:基于 Strava 历史数据的训练负荷分析系统

    Athletix 是一个基于 Strava 运动历史数据构建训练负荷分析的开源项目,通过计算急慢性负荷比(ACWR)评估疲劳与受伤风险,并用回归模型结合 Riegel 公式估算比赛表现。系统采用 Streamlit 界面与八模块架构,通过 OAuth 2.0 同步 Strava API 并以 Supabase 持久化数据,还提供解读指标的 LLM 对话智能体。项目源自 UNACH 数据科学与 AI 课程的课程作业。

  24. GitHub · 灵魂体仓库69

    omni-api 发布:把聊天、决策、嵌入、图像、视频、语音等本地模型统一到一个端口

    nvkudva 发布开源 CLI 工具 omni,在 127.0.0.1:10000 用一个网关统一运行和代理本地模型,应用按 chat、decide、embed、image、video、stt、tts 等角色调用而非模型名,兼容 OpenAI 格式,改 base_url 即可用 OpenAI SDK 接入。各角色独立进程运行并带健康检查与自动重启,空闲 10 分钟自动卸载模型,可钉住常驻;Apple Silicon 上 chat 约 140 tok/s(qwen2.5:3b)、warm embed 0.03–0.15 s、tts 约 12 倍实时,还附带浏览器 playground 可查看每角色的实时请求日志。

    推荐理由:原文给出完整的架构说明、各角色默认模型与 Apple Silicon 实测数据,读者可以据此评估这套单端口本地推理网关是否值得部署。

  25. GitHub · 灵魂体仓库34

    clai:面向任意 AI 任务的命令行上下文喂送工具

    开源命令行工具 clai 是一个为任意 AI 任务输送上下文的 context-feeder,测试覆盖率达 91.0%。它支持 shell 上下文注入、会话导入、Agent Skills、Profiles 和 MCP 客户端,可经 curl、go install 或 Nix flake 安装,也能作为 Go 库嵌入 agent 循环并支持结构化输出。工具接入了 OpenAI、Anthropic、Gemini、Ollama、DeepSeek、Mistral 等多家供应商。

  26. GitHub · 灵魂体仓库66

    TabAgent 开源:把 LLM Agent 的重复决策蒸馏成毫秒级分类器

    TabAgent 在 GitHub 开源,可将 Agent 反复调用大模型做出的封闭集决策(工具入围、技能选择、模型路由等)蒸馏为轻量 CatBoost 分类头。在 AppWorld 工具入围上 Recall@9 达 92-100,单次决策 2.682 ms、成本 2.0×10⁻⁷ 美元,对比 GPT-5.4 入围器的 7.50 s 和 0.052 美元;关键是基于轨迹提取的特征,去掉特征卡后各分类头都退化到 P@R 0.10-0.21。论文编号 arXiv 2602.16429,支持 pip 安装、HTTP 服务热替换 LLM 调用,结果可用 make reproduce 在 CPU 上复现,Apache-2.0 协议。

    推荐理由:原文给出多个基准的前后对比数字和完整复现命令,读者可以自己评估用轻量分类头替换 Agent 中 LLM 决策调用的实际收益。

  27. GitHub · 灵魂体仓库11

    LLM-HW:GitHub 开源 LLM 作业仓库,涵盖 n-gram、KenLM 与 Gensim、FastText 实验

    GitHub 开源仓库 Can1017/LLM-HW 整理了大语言模型课程作业代码与实验报告,hw1 包含 n-gram、KenLM 与 Stupid Backoff,hw2 包含 Gensim、FastText 与新闻版面分类。各目录独立保存代码、配置、报告与图表,通过 `git clone --recurse-submodules` 可获取完整代码及 KenLM 子模块。

  28. GitHub · 灵魂体仓库40

    kfet/agent:Go 实现的模型无关 coding-agent 运行时

    kfet/agent 是一个用 Go 编写的小型模型无关 coding-agent 运行时,把 LLM 事件流转换为工具调用流,内置重试、steering、follow-up、abort 和 thinking-budget clamping,并附带 bash、read、write、edit、editdiff、find、grep、imageresize、plan 标准编码工具箱。它只依赖 kfet/ai、kfet/pinexec、golang.org/x/image 和 golang.org/x/text,并通过 forbidden_imports_test.go 保证依赖图不越界,覆盖率达 100%,以 MIT 许可开源,部分代码移植自 pi-mono。

  29. GitHub · 灵魂体仓库75

    homelab-atlas:在二手硬件上跑通 Qwen3.8、GLM-5.3-Flash 与 DeepSeek V4.1 Flash 的实测手册

    akapug 发布 homelab-atlas 仓库,用 2017 服务器、2019 工作站、Ryzen 桌面等四台旧机器实测本地大模型部署,如 DeepSeek V4.1 Flash(748B MoE)在 RTX 6000 + Optane 上解码 12.69 tok/s,GLM-5.3-Flash 在 3090 Ti 上达 26.69 tok/s。仓库提供 PATCHES.md 补丁索引、按硬件分类的复现命令、失败记录,以及浏览器端 Recipe Maker 规划工具,用于在下载权重前预判 MoE 模型在 VRAM、DRAM、PMem 上的布局与速度。

    推荐理由:用二手服务器、老工作站和Intel冷门卡跑通大MoE模型,每个数字都附条件、命令和补丁来源,方法可直接照搬。

  30. GitHub · 灵魂体仓库48

    opencode-personal:OpenCode 个人 fork 发布,基于 1.14.48 增加 Qwen3 兼容与安全加固

    OpenCode 个人 fork「opencode-personal」基于 OpenCode 1.14.48 源码,独立于上游项目维护,可在终端和浏览器中使用的开源 AI coding agent。该 fork 新增 /usage 中 Anthropic (Claude)、ChatGPT OAuth、ZAI、ClinePass 的用量与配额显示、Qwen3 兼容(含 thinking-mode 配置)、本地语义搜索(zvec)、Rust/WASM diff 层及 ACP 终端后端(如 Zed)支持,并包含 SSRF 防护、CORS 校验、symlink 安全等多项安全加固。

  31. GitHub · 灵魂体仓库69

    HCS 开源:可验证、可测量损失的 LLM 上下文文件标准与工具链

    Oufrid 发布 HCS(Holographic Context Standard)v0.2,一个开源上下文文件格式,配套 CLI 和 MCP server,让 AGENTS.md、CLAUDE.md 之类的上下文摘要可追溯、可验证。每条声明引用源码位置并带哈希,hcs check 能在 CI 中检测过期声明(忽略重排格式、跟随代码移动),hcs score 用验证过的探测题输出带 95% 置信区间的保真度和误导率。编译时逐条验证逐字引用以排除幻觉摘要,仓库 51 个 TS/JS/Python 文件上启发式与 tree-sitter 定位在 474 个符号中 470 个一致;针对提示词注入, tuning 后高风险级在自建语料捕获 90% 攻击且无误报,但留出集仅捕获 47%。

    推荐理由:原文给出引用锚点、哈希校验和保真度测量的具体做法,读者可以照着理解上下文摘要如何做到可追溯、可检测过期并量化损失。

  32. GitHub · 灵魂体仓库44

    360-skills:为 AI coding agent 提供资深专家级 Agent Skills 的开源合集

    GitHub 上的 360-skills 是一个开源 Agent Skills 合集,将资深专家的流程、判断和质量关卡打包成可安装的技能文件夹,帮助 AI coding agent 产出可审查的高质量工作。技能遵循开放 Agent Skills 标准,可通过 skills.sh 安装到 Claude Code、Cursor、Codex、Copilot、Windsurf、Gem CLI 等 70+ 个 agent,包含 360-backend-audit、360-blueprint、360-execute、360-expert-review、360-faculty、360-optimize、360-token-efficiency 七项技能,采用 MIT 许可证。

  33. GitHub · 灵魂体仓库41

    SharpAI 2.0 发布:.NET 本地 AI 推理库,兼容 Ollama 与 OpenAI API

    SharpAI 2.0 发布,这是一个 .NET 本地 AI 推理库,支持嵌入、文本补全和聊天补全,仅使用 GGUF 模型,基于 LlamaSharp 构建,可提供 Ollama 兼容和 OpenAI 兼容的 REST API。新版本默认按各模型 GGUF 内置聊天模板渲染请求,重建了 React 19 仪表盘,新增多租户认证与 RBAC(默认关闭)、四种数据库支持、Prometheus/OTLP 可观测性,以及 C#、JavaScript/TypeScript、Python SDK。所有推理均在本地完成,无需云端依赖。

  34. GitHub · 灵魂体仓库26

    combinatoratrix-ai/claude-models-list:每日自动更新的 Anthropic 可用模型 ID 列表

    GitHub 仓库 combinatoratrix-ai/claude-models-list 通过 GitHub Actions 每日从 Anthropic 官方 GET /v1/models 端点抓取模型 ID,以公开 JSON 快照形式发布,供没有 API key 的环境只读查询。最新快照(2026-10-22 刷新)列出 Claude Haiku 5.5、Sonnet 5.5、Opus 5.5 等模型,近期模型最大输入 1,000,000 token、最大输出 128,000 token。仓库为只读镜像而非 API 代理,采用 MIT License,仅按更新所用 API key 可见的模型范围生成快照。

  35. GitHub · 灵魂体仓库57

    BlackoutOps 仓库发布离线自我修复的 IT 运维 Agent,目标部署 Jetson AGX Thor

    BlackoutOps 项目发布,目标在断网的边缘设备 Jetson AGX Thor 上全本地运行大模型推论与小型 RAG,做出能自主诊断修复 IT 故障的 Agent,开发验证机为 NVIDIA DGX Spark(GB10,128 GB unified memory)。2026-10-20 起正式推论引擎由 TensorRT-LLM 改为 vLLM,跑 Nemotron-3.5-Bolt-74B-A9B-24GB(Spark 舞台用 Nemotron-3.5-Lightning-30B-A3B-NVFP4,DSpark speculative decoding 下 decode 提速 27–49%)。

    推荐理由:项目给出了完整的部署架构、故障目录规模和多轮实测数据,读者可据此了解全离线自我修复运维 Agent 的工程做法。

  36. GitHub · 灵魂体仓库64

    royalskynet/orchestrator 发布多模型工单调度器 dc/dcq

    GitHub 仓库 royalskynet/orchestrator(原名 dispatch-router,2026-10-22 改名)发布工单调度器:一个任务档进、由工单自带验收脚本 wo-verify 机械判定成败后出结果,不采信模型自述。

    推荐理由:README 详细写了验收脚本判定成败、贝叶斯加权排序和多层 fallback 的具体做法,可作多模型调度的可复用参考。

  37. GitHub · 灵魂体仓库51

    Leiwe & Partners 发布 barium-watermarking 本地绿名单水印检测工具

    Leiwe & Partners 在 GitHub 发布 barium-watermarking,一个本地运行、零托管、仅依赖标准库的 Kirchenbauer 绿名单 LLM 水印检测与参考嵌入工具,不依赖 torch、模型权重或网络调用。检测用单比例 z 检验重新推导绿名单,z > 4 表示未加水印文本超阈值的概率约 3×10⁻⁵;低于 25 个计分 token 判为 inconclusive,低熵文本(代码、事实补全)实际不可检测。工具仅检测开放绿名单方案(Hugging Face WatermarkingConfig),不检测 SynthID Text;附带 stdio MCP 服务器和自测 round-trip,MIT 许可,呼应 EU AI Act 第 50(2) 条的机器可读标识要求。