跳到正文
10月20日周二
  1. GitHub · 3D 生成新仓库24

    DLMS 3.3.0 稳定版与 DLMS Desktop Preview 1 发布

    本地优先的学习资料工作区 DLMS 发布 3.3.0 稳定版(浏览器版)和 DLMS Desktop Preview 1 桌面预览版,两者均可本地运行、不强制云账户或服务器,且数据不自动同步。提供 Windows 11 x86-64、Fedora 44 / Ubuntu 24.04 / 26.04、Apple Silicon Mac 等安装包;Desktop 各平台安装包均未签名,Mac 版仅 ad hoc 签名且未公证,需按系统正常批准流程安装。

  2. GitHub · 3D 生成新仓库10

    API Evangelist 收录 Ideogram API 3.0 独立档案仓库

    API Evangelist 在 GitHub 建立 Ideogram API 的独立第三方档案仓库,收录其公开 API 描述与评分信息。Ideogram 是以图中文字渲染见长的图像生成平台,API 3.0 及以上支持 generate、edit、inpaint、remix、upscale、remove-background 等端点及自定义模型训练,提供 REST 认证接口并发布 OpenAPI 3.1 规范。仓库不含任何软件,并可免费申请更正、重新评分或删除。

  3. GitHub · 3D 生成新仓库43

    huchukato 开源 runpod-minimax-h3:Runpod Serverless 上运行 MiniMax H3 视频生成

    huchukato 发布 runpod-minimax-h3,一个在 ComfyUI 上运行 MiniMax H3(Comfy-Org INT8)的 Runpod Serverless worker,支持文生视频、图生视频、首尾帧及参考图生成视频并带音频,集成 lightx2v 8-step turbo LoRA、TensorRT RIFE 插值与放大,以及无审查的 Qwen3-VL 增强器。部署需 96GB 级 GPU(如 B200)和 ≥160GB 网络卷,首次启动自动下载约 100GB 模型,可通过 Runpod API 或 ForgeHub 调用。

  4. GitHub · 3D 生成新仓库27

    PBS Wisconsin 开源 Cardigan:基于四阶段 LLM 流水线的视频转录 SEO 元数据生成系统

    PBS Wisconsin 开源了 Cardigan 项目,一套将视频转录文本处理为流媒体平台 SEO 元数据的生产级系统。它采用 Analyst、Formatter、SEO Specialist、Manager 四阶段 LLM 流水线,通过 OpenRouter 按档位做成本优化的多模型路由,并提供 React 实时仪表盘和集成 Claude Desktop 的 MCP 编辑工具(9 个工具、6 个引导式提示词)。系统还包含 Langfuse 可观测性、自动截屏挂载的远程摄取监视器,遵循 WCAG 2.1 Level AA 无障碍标准。

  5. GitHub · 去对齐工具与仓库71

    Axon:Rust 从零实现的 LLM 推理引擎,支持 Qwen2/Qwen3/Llama 3/Gemma 3 的 GGUF 推理

    HaseebKhalid1507 发布 Axon,一个用 Rust 从零编写的 LLM 推理引擎,支持 Qwen2、Qwen3、Llama 3、Gemma 3 的 GGUF 模型在 CPU 和 NVIDIA GPU 上运行,另支持 Qwen3-30B-A3B 架构的 MoE 和 gpt-oss-20b(注意力在 GPU、专家在 CPU)。项目约 76k 行 Rust 和 7k 行 CUDA,不依赖 ggml、BLAS 或构建期 CUDA toolkit,GPU 内核经 NVRTC 运行时编译;每条优化路径与参考路径逐位一致,并用 gguf-py、Hugging Face tokenizer 和 Ollama 三个独立基准校验。

    推荐理由:作者用 Rust 从零实现推理引擎,并给出与 llama.cpp 和 ollama 在多款 GPU 上的逐项对比数据,可据此评估其性能主张。

  6. GitHub · 去对齐工具与仓库54

    D-Net Lab 开源 IAC v2.0 智能体执行框架

    D-Net Lab 在 GitHub 发布 IAC(Integrated Agent Core)v2.0,以 Apache-2.0 协议开源。该框架用结构化、可校验的计划描述智能体任务,覆盖文件系统、网页、视觉、桌面等操作域,让无原生工具调用和 JSON 模式的小型本地模型也能像具备两者一样运行;支持 foreach/if/repeat 控制流、可插拔 Intelligence Core(Ollama、Gemini、人工)、扩展 Domain API、drop 协议防 payload 膨胀,并按来源信任级别限制 eval 等受限操作。

  7. GitHub · 去对齐工具与仓库50

    glave:可自托管的开源 Claude/ChatGPT 替代品,让每段对话背后有一台真实电脑

    开源项目 glave 发布,可自托管一个类似 Claude 或 ChatGPT 的助手,支持 OpenAI、Anthropic、OpenRouter、Ollama、vLLM 等模型及 AWS Bedrock、Google Vertex AI、Azure OpenAI 云服务。它能在 macOS 和 Linux 沙箱中读写并运行项目代码,每个线程使用独立 git 分支,数据本地加密存储,企业版支持 OIDC 登录、Postgres 与 Kubernetes。项目采用 Apache-2.0 许可证,目前仍处早期阶段。

  8. GitHub · 去对齐工具与仓库26

    lingua-optima:AI 语言学习平台完整架构与文档发布

    GitHub 上的 lingua-optima 项目发布交互式演示与完整文档,展示其基于 Java 21 / Spring Boot 3 后端与 React 18 + TypeScript + Vite PWA 前端的语言学习系统。平台支持 CAT 自适应测试、6 级 CEFR 进阶、Zero-Retention RAM-Only 作业 OCR(最多 5 张图、合计 25 MB),并通过 Cloudflare Edge AI Proxy 提供 7 家 AI 供应商的 BYOK 路由,涵盖 Gemini 3.8 Flash、DeepSeek V4.1、GPT-6、Claude 5.1 等模型。

  9. GitHub · 去对齐工具与仓库66

    Brandon Campbell 开源浏览器端小说写作工具 Silky

    Brandon Campbell 发布开源小说写作工具 Silky,在浏览器中运行、无需安装,项目以 Element、Fact、Scene、Thread、Web 五类节点和边构成图结构,助手 Spinner 在你写作时自动维护人物、地点与事实的设定图谱,默认不代写。支持接入 Qwen 2.5、Llama 3.2、Phi 3.5 等小模型经 WebGPU 本地运行,或连接 OpenAI、OpenRouter、Ollama、Anthropic 等端点;提供 AI 文本溯源标记、无 AI 证明(含 SHA-256)、地图、时间线、读者模拟与 Neo4j 导出,代码采用 CC0 许可,示例含《德古拉》全书导入(113 场景、1143 事实)。

    推荐理由:把小说文档做成图结构、助手只维护设定不代写,还带AI贡献标记与无AI证明,对写作工具设计有直接参考价值。

  10. GitHub · 去对齐工具与仓库58

    开源终端 Agent Flint 发布,支持 OpenRouter 免费模型与本地 Ollama

    dklymentiev 发布开源终端 AI Agent Flint(MIT 协议),以单个 npm 包安装,无需 Python、Docker 或后台服务,支持 OpenRouter、OpenAI、Anthropic、Google、Groq、Together 和本地 Ollama。/model free auto 会筛选能调用工具的免费模型并按速度和在线率排序,配两个跨厂商 fallback;内置文件读写、shell、网页搜索、持久记忆、子 Agent 和 MCP 工具,通过 swap 到磁盘和压缩控制长会话成本,风险操作默认先询问。

    推荐理由:开源终端 Agent Flint 支持免费模型并给出上下文换页与压缩的省 token 机制,想低成本跑 Agent 的读者可以参考它的做法。

  11. GitHub · 去对齐工具与仓库62

    minipuft 开源 claude-prompts-mcp:为 AI 编码客户端加可复用提示词工作流层

    minipuft 在 GitHub 发布 claude-prompts-mcp,一个 MCP 服务器,为 Claude Code、Cursor、Codex、Gemini CLI 等客户端添加可复用提示词资源、可组合链、验证门和原生技能导出。内置 52 个提示词覆盖 9 类,支持 YAML 模板热重载与版本回滚,链中每步可用自评或 shell 命令验证,插件 hooks 支持 Claude Code、OpenCode、Gemini CLI 和 Codex(实验性),其他客户端仅 MCP 模式。MIT 许可。

    推荐理由:原文给出链式语法、验证门和各客户端安装方式的完整说明,读者可以据此判断这套可复用提示词工作流是否适配自己的编码客户端。

  12. GitHub · 去对齐工具与仓库65

    rtk 开源:在命令输出进入 LLM 上下文前压缩与过滤的 Agent 工具

    rtk-ai 在 GitHub 发布 rtk,一个拦截 shell 命令并在 Agent 读取前压缩输出的 Rust 单二进制工具,支持 100+ 命令、开销小于 10ms,bash 输出最多压缩 90%。它通过 PreToolUse hook 等方式集成 Claude Code、Copilot、Cursor、Gemini CLI、Codex 等 18 个 AI 编码工具,采用智能过滤、分组、截断和去重四种策略;可选的 rtk-proxy 守护进程还能压缩 provider API 流量。README 说明其只度量 bash 输出缩减,token 数按 bytes/4 估算,CLI 为 Apache-2.0,engine 与 proxy 为 BUSL-1.1。

  13. GitHub · 去对齐工具与仓库71

    google_workspace_mcp:一个 MCP 服务器打通 Gmail、Drive、Calendar 等 12 项 Google Workspace 服务

    taylorwilsdon 发布开源的 Google Workspace MCP 服务器,通过自然语言控制 Gmail、Drive、Calendar、Docs、Sheets 等 12 项服务,共 120+ 工具。支持 OAuth 2.1 多用户认证、三级工具分层、只读模式、CLI 与无状态容器部署,MIT 许可无 CLA,可本地 stdio 或远程 streamable HTTP 运行,托管云实例每月 5 美元起。

  14. GitHub · 去对齐工具与仓库41

    GitHub 开源 K8s 故障诊断 AI Agent:LLM 驱动的 SRE 智能体

    GitHub 上的 Mkft1/ai_agent_DevOps 项目开源了一个 LLM 驱动的 SRE 智能体,可端到端诊断 Kubernetes 故障:通过 REST API 接收 Alertmanager 告警,关联 pod 状态、K8s 事件、Prometheus 指标和容器日志,结合 TF-IDF 与 all-MiniLM-L6-v2 嵌入的混合 RAG 检索本地 runbook,输出结构化 RCA 报告并推送至 Slack/Telegram。默认只读(ENABLE_WRITE_ACTIONS=false),含命名空间白名单、审计日志、OpenTelemetry 追踪,附带 Helm chart(v0.1.0)与 258 个测试(93% 覆盖率)。

  15. GitHub · 去对齐工具与仓库45

    OneWave AI 开源 Claude Skills 库:230 个生产级技能

    OneWave AI 维护的 claude-skills 仓库提供 230 个面向 Claude Code 的生产级技能,覆盖商业、生活与编程三大类,每个技能为单文件、零依赖的 SKILL.md。亮点包括 /agent-army,可并行部署 3 到 50+ 个独立 Claude 智能体,每个拥有 1M token 上下文窗口,并经 60+ 并发智能体实测。技能遵循 Agent Skills 开放标准,同一文件可在 Claude Code、OpenAI Codex CLI、Gemini CLI、Cursor 等 30+ 工具中直接使用。

  16. GitHub · 去对齐工具与仓库65

    Arbos 开源可自托管的 AI Agent 通信工具

    Arbos 在 GitHub 完全开源,这是一款用于与 AI Agent 协作的即时通信工具,可在 Mac、iPhone(TestFlight)或终端使用,也可通过 arbos.life 托管或完全自托管。架构上 relay 是唯一对外服务,负责 GitHub 登录、项目注册、模型代理计费与密钥保管;每用户一台 Daytona 沙箱机器(4 vCPU / 8 GiB / 10 GiB),每个项目是独立 workspace,主代理为 pi 加 arbos-pi-ext 扩展,每轮先做 route 决策,可把任务交给子代理(默认 Prime Agent,每 workspace 最多 4 个、每机器 8 个)并以散文形式汇报。

    推荐理由:README 完整列出了各组件目录、relay 架构、子代理上限和自托管步骤,想自建一套多端 AI Agent 通信系统可以直接照着部署。

  17. GitHub · 去对齐工具与仓库34

    ChemAsk:基于 ChEMBL 与 PubChem 的 LLM 化学问答助手(PFA_Assistant_LLM)

    摩洛哥卡萨布兰卡 Hassan II 大学硕士毕业项目 ChemAsk 开源,基于 Groq 上的 openai/gpt-oss-120b 与 LangChain 函数调用,以法语和英语回答蛋白质靶点、分子及生物活性问题,查询 ChEMBL 与 PubChem API 并引用数据来源。评测 60 道题中,LLM+工具答对 59 题(98.3%),仅 LLM 答对 25 题(41.7%)。

  18. GitHub · 去对齐工具与仓库52

    adversarial-council:多智能体 LLM 反谄媚审议协议开源

    Richard Ewing 开源 adversarial-council,一个零 token、2ms 执行的确定性校验器,用于拦截多智能体 LLM 审议中的谄媚级联与无事实共识。它强制 4 字段席位契约(position、reasoning、assumptions、flip)、[ANCHORED] 认知锚定标签、席位对 Jaccard 词汇重叠超 60% 即拒绝的回音室门槛,以及禁止 it depends 的三式裁决格式。该协议提取自驱动 CareerWin(careerwin.ai)的 4 席位招聘委员会,可通过 npx 在 CI/CD 或 Agent 管线中运行,MIT 许可。

  19. GitHub · 灵魂体仓库34

    LabPilot:实验室仪器采购核对工具,让每条价格都能回到原文

    LabPilot 是一个面向兽医微生物与药学分析实验室的开源仪器采购核对工具,把报价、成交核价、品牌比较和分析报告拆成四步,每条价格都带原文摘录、公告日期和原始链接,并记录页面快照与 sha256。它拒收品牌对不上、落选投标、废标及挂牌价等不可比价格,证据不足时明确写「不知道」。固定评测集 5 例中抽取准确率 3/5,后端 720 条测试用例 713 条通过,前端 224 条全部通过,本地 MVP 需配置 DEEPSEEK_API_KEY 才能完整分析。

  20. GitHub · 灵魂体仓库40

    mlops:面向 forward-only PyTorch 模型的独立操作与优化器库

    mlops 是一个独立库,为 forward-only PyTorch 模型提供三层张量操作接口:语义函数(如 mlops.rms_norm)、mlops.explicit 无状态 forward/backward 入口,以及 mlops.dispatch 精确实现选择,并附带 mlops.optim 下的无内存分配混合精度 AdamW。优化器只更新本地张量,梯度通信和参数分片由调用方负责。安装脚本支持 FlashAttention-3、flash-linear-attention、Quack、SonicMoE、tilelang 等实现,其中 FlashAttention-3 在 Hopper GPU 上自动启用,专家并行模块提供 Quack/TE MoE 和 LoRA 层。

  21. GitHub · 灵魂体仓库32

    Awesome-LLM-Knowledge-Systems:RAG、Agent 记忆与 AI 知识管理工具精选清单

    GitHub 仓库 ishandutta2007/Awesome-LLM-Knowledge-Systems 整理了 LLM 知识系统相关的 SaaS 与开源项目,覆盖 RAG 平台、agent 记忆框架和自托管"第二大脑"工具。清单收录 Notion AI、Glean、Coda AI、Roam Research、Tana、Mem.ai 等产品并核实了截至 2026 年 10 月的价格与免费额度,引用 Grand View Research 数据称知识管理软件市场将从 2024 年的 $20.1B 增至 2033 年的 $62.2B(13.6% CAGR),企业生成式 AI 知识管理细分市场从 2025 年 $6.18B 增至 2031 年 $27.4B(约 28.6% CAGR)。

  22. GitHub · 灵魂体仓库33

    Postmill 开源:可自托管的 AI 社交媒体管理与排程工具

    Postmill 是一款开源、可自托管的社交媒体排程与管理工具,定位为 Buffer、Hootsuite 和 Sprout Social 的开源替代品,支持 45+ 渠道和 46 个内置媒体工具。它采用 BYOK 模式,可接入 30 个 AI 提供商(17 个直连模型提供商加 13 个多模型网关),由每个组织自行管理渠道、品牌和 AI 密钥。用户可通过可视化发布日历排程内容,并通过 Docker 镜像或源码自行部署。

  23. GitHub · 灵魂体仓库20

    HSAAI:私有化自托管的企业级 AI 平台 v4.0.0 发布

    Haithim Nasher 主导开发的 HSAAI v4.0.0 正式发布,这是一个私有、自主可控、可自托管的企业级 AI 平台,集成 Enterprise RAG、本地 LLM 推理、AI Agent、多智能体编排与 AI 治理,基于 Ollama + qwen2.5:7b-instruct 验证。当前受控评测中检索精确率、召回率、引用与提示词注入防护均达 100%,必要事实召回为 86.61%,后端覆盖率达 80.43%,32/32 发布验证通过,SHA-256 校验值已公布。真实外部 Kubernetes 集群验收仍在进行中,属部署环境相关的运维职责。

  24. GitHub · 灵魂体仓库61

    structured-gist:把 Claude 啰嗦输出转成可扫读大纲的 Claude Code skill 发布

    domattioli 发布 structured-gist,一个把 AI 冗长散文转成嵌套树状大纲的 Claude Code skill,用节点层级而非句子语法承载概念关系,配 15 条规则的 linter 强制格式。基准显示 standard 粒度语义保留率 0.89(skim 0.37、deep 0.99),42 个外部案例上关系丢失多于事实丢失,压缩与有用性负相关(r = -0.75);skill 以 Apache-2.0 许可并明确欢迎用作训练数据。

    推荐理由:作者给出了语义保留率、词数压缩比和外部数据集验证等实测数据,读者可据此评估这个结构化大纲 skill 的实际收益。

  25. GitHub · 灵魂体仓库41

    obaida7/aws-vllm-serving:基于 vLLM 与 AWS 的生产级 LLM 服务平台

    GitHub 项目 obaida7/aws-vllm-serving 提供了一套基于 AWS 的生产级 LLM 服务方案,在 EC2 g4dn.xlarge(NVIDIA T4 GPU)上用 vLLM 自托管推理,支持 Qwen2.5 / Llama,并可回退到 Amazon Bedrock(Llama 3.1 / Claude Haiku)。平台通过 LiteLLM 网关、Redis 限流、PostgreSQL 状态存储及 Prometheus + Grafana 监控组成 Docker Compose 技术栈,用 GitHub Actions CI/CD 和 Terraform 实现 GitOps 自动化部署。

  26. GitHub · 灵魂体仓库67

    SlotServe 开源:把一张 GPU 变成实验室共享的可预约 llama.cpp 推理服务

    PelerYuan 在 GitHub 开源 SlotServe,将一张 GPU 变成实验室或小团队共享的可预约推理服务。用户在网页日历上预订独占时段,通过 OpenAI 兼容端点和个人 API key 调用模型,系统自动托管 llama-server、学习各模型加载时间并在预约开始前预加载。支持 .gguf 模型下载、用量仪表盘、Telegram 通知、Prometheus 指标,单容器部署仅需 SQLite 和三个挂载目录,采用 MIT 许可证。

    推荐理由:一个把实验室单张 GPU 变成可预约共享推理服务的开源自托管方案,按预约切换 llama-server 模型并预热,部署思路可直接照搬。

  27. GitHub · 灵魂体仓库59

    agentl 发布 beta 版 v0.10,用 YAML 编排带 LLM 的 Agentic ETL

    开源工具 agentl 发布 beta v0.10,用 YAML 编排 ETL 流水线,让 LLM 按输出 schema 对每条记录做分类、提取和审核,支持 CSV、Excel、PDF、SQL、Postgres、S3 等数据源,并提供 Slack 通知、实时 dashboard 和 Mermaid 图。按记录缓存结果,重跑未变数据不再调用模型;单条记录失败两次会被拒绝并触发 item.rejected 事件,不影响整体运行。项目 MIT 协议,PyPI 包名 agentl-etl,可通过 pip install 安装,支持 Claude 等 LLM provider 和面向 Claude Code、Cursor 的 MCP server。

    推荐理由:原文给出了 YAML 写法的 Agent ETL 工具完整用法,按记录缓存与按量计费的机制说明具体,可直接上手复用。

  28. GitHub · 灵魂体仓库14

    OrchestralFlow:基于 Claude Code 的自主 Agent 编排层

    GitHub 开源项目 OrchestralFlow 是一个零依赖的声明式 Agent 编排框架,把 Claude Code(Opus 4.8)的多智能体能力组织成“乐谱”式的动态编排系统。其 Cost Ladder 机制按子任务复杂度路由到不同成本的 agent,UltraCode 压缩层可将 prompt token 成本降低最高 40%。整个框架写成单个 .claude manifest 文件,无需 pip、npm 安装,通过在 Claude Code 会话中声明 /goal 即可启动。

  29. GitHub · 灵魂体仓库36

    davidcoulson/ha-strata:面向 Home Assistant 的 Strata 本地 LLM 服务器监控集成

    GitHub 上的 ha-strata 是一个 Home Assistant 自定义集成,用于只读监控 Strata 本地 LLM 服务器:是否在线、已加载的模型、忙碌状态和生成速度,仅发送 GET 请求。通过 HACS 安装,默认轮询间隔 15 秒(5 到 300 可调),数据来自 /v1/status、/slots 和 /metrics,并提供 GPU 温度、利用率、显存占用、Prompt 缓存命中率等传感器;语音需配合 OpenAI Conversation 集成指向 8095 端口。

  30. GitHub · 灵魂体仓库50

    Osysharp.LlmRouter v0.2.0 发布:用一份策略声明统一路由应用的多模型调用

    osysharp 发布 Osysharp.LlmRouter v0.2.0,一个 Osy# 路由策略库,应用声明一次模型清单后,Llm.Complete、Llm.Stream、Llm.Extract<T>、Llm.Decide<T> 等调用全部经由它分发,调用点无需指定模型。路由按固定顺序决策:能力与上下文窗口过滤、按任务类型与步骤的质量下限、按 MaxCostMicros 的成本上限、调用点请求只允许收窄,否则 DENIED 而非静默替换,最后按决策模型优先、重试升级、batch 端点、最便宜的顺序选择,该顺序同时是 provider 故障时的 fallback 顺序。

  31. Reddit · r/SillyTavernAI47

    SillyTavern 社区 DM 卡:为聊天添加事件编排与动态世界模式

    Reddit r/SillyTavernAI 用户分享了一款 DM(Dungeon Master 风格的聊天编排器),可自动设置新事件、扩展世界观,提供 5 种预设模式(如 Chronicler、Living World),也可自建。功能包括生成聊天背景、访谈式世界观构建和随机展开,重制的 load order 可多缓存 30% tokens,并新增启动菜单。

  32. GitHub · prompt 工程新仓库55

    fworkslab 发布 build-with-me 编码 Agent 技能,把人机协作过程生成逐步跟做教程

    fworkslab 在 GitHub 发布 build-with-me,一个把人与 Agent 刚完成的实际工作转成初学者可跟做教程的编码 Agent 技能,从空文件夹到可运行程序。教程对每个元素回答是什么、为何存在、缺了会坏什么,保留真实报错原文与预测错误、记录被放弃的方案,并通过 npx skills add 或复制单个 SKILL.md 安装,支持俄语触发,同样适用于文档、游戏、表格、3D 等非代码项目,Licence 为 CC BY-NC-ND 4.0。

  33. Reddit · r/LocalLLaMA50

    GameSummoner 更新:本地部署简化为一条安装命令

    作者 /u/demonicpigg 开源的游戏生成程序 GameSummoner 更新后,本地运行简化为一条命令:git clone 仓库并执行 install.sh。脚本会列出 llama-swap 服务的模型让用户指定各角色用的模型,并检查 ComfyUI 所需节点和模型文件、安装前先询问。作者自用配置为 Qwen3.8 Flash-Next(IQ3_S)加 JEV-27B-VL,跑在 5090 与 64GB 内存上,并附上 Claude Opus 5.5、DeepSeek V4.1 Flash、Gemini 4 Argon 等前沿模型生成的游戏对比链接;后续几天将加入 bring-your-own-key 式本地推理方案。

  34. Reddit · r/LocalLLaMA25

    RTX 5090 Laptop GPU 在 Linux 上因 CUDA graphs 出现 Xid 8 GPU 挂起,仍无修复

    一位用户在 Lenovo Legion 笔记本的 RTX 5090 Laptop GPU(24 GB VRAM)上运行 Linux Mint 跑本地 LLM 时,遭遇与 NVIDIA Xid 8 相关的 GPU 挂起。llama.cpp 的相关 issue 指出这是 CUDA graph 求值挂起问题,可用 GGML_CUDA_DISABLE_GRAPHS=1 规避,但会降低性能。用户使用 7.1.13 内核和 595.99.02 驱动,新内核与新驱动均未能正常工作,问题尚无修复。

  35. Reddit · r/LocalLLaMA61

    Tinkerbox 应用在 Apple Neural Engine 上高效运行 LiquidAI d1-3B 决策模型

    /u/WeGoToMars7 发布 Tinkerbox 应用,可在 Apple Neural Engine 上运行 LiquidAI d1-3B 决策模型,M5 Pro 上热启动短上下文(<256 tokens)决策延迟约 40 ms。该实现用树结构单次评估多个决策以降低延迟,并集成 Shortcuts,可对收邮件、iMessage、文件修改、定时和闹钟等触发事件执行决策而无需写代码。源码与 AOT 编译模型已在 GitHub 和 Hugging Face 开放,作者还在开发基于 Qwen3.5 的 vLLM d3 模型集成,0.8B、2B 和 4B 版本即将推出。

    推荐理由:作者实测给出 M5 Pro 上约 40 ms 的短上下文决策延迟,并解释了决策模型适配 ANE 的原因,方法可迁移到本地部署场景。

  36. GitHub · 3D 生成新仓库34

    Claude-Patent-Creator:基于 Claude Code 的开源 AI 专利撰写与分析系统

    一款基于 Claude Code 的开源 AI 专利撰写与分析系统 Claude-Patent-Creator,由作者为自行申请专利而构建。它能用自然语言检索 MPEP 专利规则并附引用、在全球 1 亿多件已有专利中做 prior art 检索、按审查员视角检查权利要求和申请文件问题,并生成专利式图表,支持美国或欧洲申请的草稿准备。工具不代替律师、不代为提交申请,安装需 Claude Code 及约 500MB 的 MPEP 资料。

  37. GitHub · 3D 生成新仓库35

    QadirKhan9/Multi-Agent-Ai:开源多智能体 AI 助手平台 Synthox AI

    GitHub 开源项目 Synthox AI 是一个多智能体 AI 助手平台,由 Router Agent(Groq Llama 3.3 70B)分析用户意图并分发到聊天、联网搜索、图像生成、代码执行、PDF 导出和语音合成 6 个专用 Agent,无订阅费用。系统采用 Gemini 2.5 Flash 作为备用 LLM,通过 PostgreSQL pgvector 实现 768 维嵌入的长期记忆,并支持 Redis 限流和 Vercel serverless 部署,采用 MIT License。