跳到正文
10月14日周三
  1. GitHub · 3D 生成新仓库43

    开源代理网关 Agentgateway:基于 MCP 与 A2A 协议的 AI 原生代理通信网关

    Agentgateway 是一个开源代理网关,基于 MCP 与 A2A 协议,为 agent-to-LLM、agent-to-tool、agent-to-agent 通信提供安全、可观测性和治理能力。它支持通过统一 OpenAI 兼容 API 路由 OpenAI、Anthropic、Gemini、Bedrock 等主流 LLM 提供商,提供预算与支出控制、负载均衡、故障转移,并支持 JWT/OAuth 认证、细粒度 RBAC、速率限制与 OpenTelemetry 指标、日志和追踪,可独立部署或通过 Kubernetes 控制器部署。

  2. GitHub · 3D 生成新仓库22

    RhythrosaLabs 开源 SoundStorm:集文本生成音频与 GPT-4 协作于一体的 AI 音乐工作室

    RhythrosaLabs 在 GitHub 发布开源 Python 项目 SoundStorm,可从文本生成音频、批量制作采样包、通过 Pedalboard 应用 EQ/混响等效果、算法作曲与随机化 MIDI,并内置 GPT-4 聊天助手。音频生成经 Replicate 调用,需配置 OpenAI 和 Replicate 的 API key,项目采用 MIT 许可证。

  3. GitHub · 3D 生成新仓库22

    DIALibGen 登陆 Homebrew:DIA 谱图库生成工具一键安装 macOS

    DIALibGen 现已通过 okohlbacher/homebrew-dialibrarygenerator tap 在 macOS 14 及以上(Apple Silicon 和 Intel)提供 brew install --cask 安装,包含 CLI 与桌面版两个 cask。CLI 可在单一 TOPP 兼容可执行文件中生成、精炼和调优 DIA 谱图库,发行包经 Developer ID 签名与公证,内置 AlphaPeptDeep 的三个预测模型、运行时库和 CPU 训练,无需 Python 环境或下载模型。配套的 update-casks 工作流每六小时检查发布、校验双架构 SHA-256 并在双平台上自动审计安装与卸载。

  4. GitHub · 3D 生成新仓库39

    VibeUI:面向 Bootstrap 用户的 Vue 3 组件库

    GitHub 上的开源项目 VibeUI 是一套封装 Bootstrap 5.3 的 Vue 3 组件库,提供 60+ 严格 TypeScript 类型组件,自动处理 JS 生命周期、v-model、ID 生成与 ARIA 可访问性,支持 WCAG 2.4.3 焦点管理,并附带拖拽、日历、canvas 图表等交互套件。包内含 llms.txt 供 AI 助手查阅文档,通过 npm install @velkymx/vibeui 安装。

  5. GitHub · 灵魂体仓库40

    GitHub 开源 1ai-skills:1372 个技能库整治 AI 智能体偷懒问题

    GitHub 上的 oyi77/1ai-skills 项目提供 1372 个技能,覆盖网络安全、开发、内容等 19 个类别,通过反合理化表格、代码示例和验证清单强制 AI 智能体遵循真实工作流程。每个技能含 YAML 元数据,测试套件按 8 个维度检验,结果 1372/1372 全部通过。该库支持 Claude Code 插件安装,也可用于 Cursor 和 Gemini CLI。

  6. GitHub · 灵魂体仓库49

    GitHub 开源项目 Giggle:一个结果全部由 LLM 编造的“搜索引擎”

    GitHub 上的开源项目 Giggle 外观和工作方式与普通网页搜索相同,但不抓取或索引网页,每条搜索结果和打开的页面均由 LLM(OpenAI GPT-4)编造,每次响应带有“FAKE CONTENT”警告水印。项目旨在探讨当 AI 答案看起来像搜索结果时用户是否还会核实。技术栈包括 React、Flask、MongoDB,结果缓存 30 分钟,支持 demo 模式与 DeepSeek 等备用 API。

  7. GitHub · 去对齐工具与仓库18

    AstrBot-Brasil:面向巴西葡萄牙语的开源 AI 聊天机器人与自动化平台

    mkbraion 维护的 AstrBot 巴西社区版,基于开源项目 AstrBot 做葡萄牙语(巴西)本地化,默认 pt-BR 界面与文档,并支持 Windows/PowerShell 安装。平台可连接 OpenAI、Anthropic、Gemini 等模型,具备 Agent、MCP、Skills、知识库、插件生态及 Telegram、Slack、Discord 等多渠道接入,采用 AGPL-3.0-or-later 许可。

  8. GitHub · 去对齐工具与仓库42

    Promptheus:LLM 提示词优化 CLI 工具开源发布

    开源工具 Promptheus 通过自适应提问和交互式对话优化 LLM 提示词,支持 pip install 安装,提供 CLI 和 Web UI 两种使用方式。它支持 Google Gemini、Anthropic Claude、OpenAI gpt-4o、Groq、Qwen、GLM 和 OpenRouter 等多家提供商,并内置 MCP server,将 refine_prompt、tweak_prompt 等提示词优化能力以标准化工具暴露给 MCP 兼容客户端。

  9. Reddit · r/LocalLLaMA71

    M5 Ultra 256GB 搭配 M3 Ultra 512GB 做预填充/解码分离,GLM-5.3-Flash 首token延迟从约40秒降到约18.5秒

    Reddit 用户 /u/Usual_Tackle5892 不等 512GB 版 M5 Ultra,改用 M5 Ultra 256GB 做 prefill、M3 Ultra 512GB 经 Thunderbolt 5 RDMA 接收缓存做 decode。17.5k token 提示下,GLM-5.3-Flash 4-bit 总耗时从约 40 秒降到约 18.5 秒,缓存交接仅 38 ms 传输 358 MB,M3 上解码 36.8 tok/s 且输出与 M5 一致。作者用 MLX JACCL 后端与 mlx-vlm 0.7.6 搭建,并逐组件分析出 M5 预填充近半时间花在无法用矩阵单元的内核上,限制是 prefill 节点需装下完整模型,仅适用于 256GB 内可容纳的模型。

    推荐理由:作者用真实负载实测拆分前后数据,并逐组件剖析预填充耗时构成,方法可迁移到自己的多机推理调优。

  10. Reddit · r/LocalLLaMA36

    pqnld:让现有 LLM 兼职通用决策模型的开源 Rust 服务

    开发者发布 Rust 服务 pqnld,为现有 LLM 部署增加封闭集决策能力:输入上下文、问题和候选答案,从模型 logprobs 读取选项评分并返回选择,而非模型自报的置信数字。选项用单 token 标签替代完整文本,在 Qwen3.8 27B NVFP4 部署下延迟低于 200 ms。无需额外模型或训练,提供 HTTP 与 MCP 接口,实测后端为 vLLM。

  11. Hugging Face · 新模型:uncensored74

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重

    dealignai 发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone,8B/16B 激活)的权重级消融版本,以原生 FP8 格式提供 1M token 上下文、视觉与工具调用,采用自研消融方法,不依赖 runtime hooks 或 steering vectors。HarmBench-320 上 CRACK 版在 effort=off 和 max 下拒绝率均为 100%(对比基线 42.81% 和 1.56%),且 HARD_REF/SOFT_RED/HEDGE 均为零;MMLU-14k 整体下降 4.22 pp,剔除伦理类题目后约 -1.1 pp,在 3 pp 知识保留目标内。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  12. Hugging Face · 新模型:uncensored30

    Qwen3.8-27B-Uncensored-HauhauCS 发布 NInfer 格式版本,专供 RTX 4090

    Qwen3.8-27B 的 HauhauCS Aggressive 去审查微调版被转换为 NInfer 专有的 .ninfer 格式,供 RTX 4090(sm_89)使用,每个文件约 19.03 GiB,提供 v2 与 v3 两种容器。该模型去审查彻底,HauhauCS 报告在 465 条探测集上 0 次拒答,仅能被 NInfer 引擎加载,不支持 transformers、vLLM、llama.cpp 或 LM Studio。262,144-token 预算、INT8 KV 下快速语料困惑度为 4.4005(官方版 4.3446)。

  13. ComfyUI Releases · 图像工作流42

    ComfyUI v0.40.0 发布

    ComfyUI 发布 v0.40.0,新增 CameraAngle 与 CreateCameraInfo 等相机节点、原生 LoRA stack loader 节点及本地资产导出 API,并默认启用 assets 系统(可用 --disable-assets 关闭)。合作节点方面新增 Google Nano Banana 2.1、Vidu Q4、Kling Virtual Try-On、HeyGen Video 1.0 2k 分辨率等支持,同时改进 Qwen3.5 LLM 的低显存性能,新增 ARM64 NVIDIA portable 版本。

  14. GitHub · 3D 生成新仓库36

    WGlynn/cadence-teachers:基于 Cadence 的“小大脑互相教学”实验开源笔记本

    一个探索小型学习模型能否互相教学并由市场公平付费的开源实验仓库,基于 Bernhard Mueller 的 Cadence 框架,在单台 PC 的小任务(bandits、key-door)上完成 38 项实验:4 项 crossed、16 项 supportive、9 项 null 等。已测得教学在 key-door 上优于独自学习,技能经评分可传承 5 代,标注传递则失败;外加 drift check 将教师网络从 .79 提升至 .99。代码采用 GPL-3.0,文档采用 CC BY 4.0。

  15. GitHub · 3D 生成新仓库50

    HyperGen:开源本地视频生成桌面应用(Beta)

    开源桌面应用 HyperGen 发布,可调用本地 LTX 模型或 LTX API、fal.ai、Replicate、Runway、Luma、Google Veo 等 API 生成视频,支持文生视频、图生视频、音频生视频、Retake 编辑及文生图,默认本地 LTX 2.5 Fast,支持 LoRA。本地生成要求 NVIDIA GPU ≥15 GiB VRAM 或 Apple Silicon 且 ≥32 GiB 内存,2.5 Fast 核心包约需 72 GB 磁盘;项目源自 Lightricks 维护的 LTX Desktop,目前为 Beta。

  16. GitHub · 3D 生成新仓库22

    linkage-engine:基于 Java 21 / Spring AI 的家谱实体消歧开源服务

    开源项目 linkage-engine 是一个家谱记录关联服务,用 Java 21、Spring Boot 与 Spring AI 判断两条历史记录是否为同一人,采用 SQL 检索、向量重排、LLM 语义摘要与时空合理性四阶段流水线,后端用 Aurora PostgreSQL Serverless v2 上的 pgvector 和 Bedrock Titan embeddings,部署于 ECS Fargate 并以 Terraform 管理生产 AWS 资源。项目含 149 个测试、94.5% 覆盖率,并提供展示 12 条种子记录弦图的 /chord-diagram.html 页面。

  17. GitHub · 灵魂体仓库53

    Nexus-OSINT:本地优先的开源 OSINT 调查工作台发布

    Dor Rachmani 发布开源工具 Nexus-OSINT,将 RSS、Google News、Reddit、GDELT 等开源情报采集聚合在本地运行,数据存为单个 SQLite 文件,支持 SQLite FTS5 全文搜索、近重复合并与去重。可选接入 Gemini、OpenAI、Anthropic、Grok 或 Ollama、LM Studio 等本地模型做摘要、翻译、实体抽取和 0-100 相关度打分;按案件组织调查,提供 Focus 阅读队列、实体档案、关系图谱、每日邮件简报、Evidence Vault 取证截图和 PDF/HTML/CSV/JSON/Obsidian 导出,出站连接可审计,内置助手 Sherlock 仅允许白名单本地操作且输出按纯文本渲染以防 prompt injection。

  18. GitHub · 去对齐工具与仓库42

    polka:给 AI 智能体工作成果用的“摆架”,支持 Claude、ChatGPT、Claude Code 与 Codex

    artkruglov 开源的 polka(Полка)是一个存放 AI 智能体工作成果的平台:智能体通过 MCP 连接器或插件把页面、原型、仪表盘一键保存为带 SHA-256 的不可变版本,生成免登录可打开的链接。Claude Code 和 Codex 可用一条命令安装插件,其他 MCP 客户端(Cursor、Gemini CLI、Windsurf 等)走 OAuth 2.1 的 /mcp 端点。企业版提供单 VM 自托管、部门摆架与角色管理,数据托管在 Yandex Cloud 或自建。

  19. GitHub · 灵魂体仓库43

    Smart Routing Butler:面向 OpenClaw 等 AI Agent 的自托管 OpenAI 兼容智能路由器

    GitHub 上的 Smart Routing Butler 是一个 100% 自托管、OpenAI 兼容 API 的智能路由器,为 OpenClaw、Cursor、Continue 等 AI Agent 和开发工具提供统一端点,按规则在云端 LLM 和本地模型间自动调度请求,平衡成本、延迟与质量。它提供 L0–L3 五层路由(精确缓存、语义缓存、自定义规则、语义匹配、本地仲裁),支持可视化编辑器、自然语言和 AI 向导三种规则创建方式,内置熔断与自动回退保证高可用,API 密钥采用 AES-256-GCM 加密。代理默认运行在 8080 端口,暴露 /v1/chat/completions 和 /v1/models 端点。

  20. GitHub · 灵魂体仓库22

    aqm:基于队列的 AI 智能体工作流编排工具

    GitHub 上的 aqm 是一款本地运行的 AI 智能体编排工具,用 YAML 定义任务流水线,通过队列在多智能体之间按步骤传递工作,并以 SQLite 在本地存储队列状态。它支持 Claude、Gemini 等多模型组合,面向 Windows 10/11,要求 8 GB 内存和 2 GB 磁盘空间,可用于研究写作、数据清理和多步审批等本地自动化。

  21. GitHub · 灵魂体仓库22

    supply-chain-ai-for-beginners:面向初学者的供应链 AI 课程

    GitHub 上的 supply-chain-ai-for-beginners 是一门引导式课程,共 19 节课,讲解 AI 在供应链中的应用,从机器学习基础到预测、库存控制、延迟预测等实际用例,再到模型部署。课程面向无编程经验者,可在 Windows 10/11 电脑(8 GB 内存、5 GB 硬盘空间)上学习,使用 Python 3.10 及以上版本和 Jupyter Notebook,仅阅读材料时用浏览器即可。

  22. Hugging Face Blog69

    Liquid AI 开放 LFM2.5-24B-A2B 权重,主打端侧推理智能体

    Liquid AI 发布开放权重模型 LFM2.5-24B-A2B,总参数 24B、每 token 仅激活 2B,定位端侧快速、私有的推理智能体。模型在 16 项基准上与参数量约多 50% 的 Qwen3.6-35B-A3B 竞争,LiveClaw 得分 48.09 对 38.19,在 8 项工具与智能体基准中的 5 项领先或持平,并在全部 3 项指令遵循基准领先;M5 Max 上解码 184 tok/s,单张 B300 高并发下超 21K 输出 tok/s。

    推荐理由:原文给出了完整的16项基准对比和端侧推理速度数据,可据此评估这款小激活参数MoE在工具调用场景的实际取舍。

  23. Hugging Face · 新模型:abliterated32

    karlsencoin 发布 Karlsen-Chat-27B-abliterated GGUF:Qwen3.8-27B 去审查版本

    huihui-ai 基于 abliteration 技术推出 Qwen3.8-27B 的去审查 GGUF 版本,仅对第 22 到 52 层(0 起始索引)做消融,其余层保留原样,MTP 与视觉部分未修改。多个衍生系列分别来自 unsloth、ISTA-DASLab、prism-ml、ukisai 和 ConwayResearch 的 GGUF 权重,其中 Q2_K_L 至 Q6_K_L 版本将待消融张量 requantize 到 Q8_0 以提升回复质量。模型可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144 上下文,官方建议仅用于研究测试而非生产环境。

  24. GitHub · 3D 生成新仓库18

    Myan17 开源 wayfinder:面向 GitHub 组织的权限感知代码问答项目进入 Phase 0

    GitHub 新仓库 wayfinder 旨在对 GitHub 组织的代码和 Markdown 做权限感知的检索与问答,回答“在哪里实现”“为何如此运行”,引用仅指向提问者有权查看的内容,否则明确拒绝。v1 覆盖 Python 与 Go 的默认分支代码和 Markdown,不含 issue 和 PR 线程。项目目前处于 Phase 0(G0 门于 2026-10-11 通过),尚未部署任何内容;目标是在单台 Oracle Cloud Always Free Arm VM 上以每月至多 $25 的可变支出支持 1000 并发用户的定位与抽取式回答。

  25. GitHub · 3D 生成新仓库22

    DriveLink:面向智能网联汽车的去中心化 V2V 通信协议

    DriveLink 是一个车对车(V2V)通信层,让车辆在行动前广播意图和预测轨迹,延迟低于 50 ms,使交通在危险出现前提前反应。其架构分为车载模块、DriveLink 协议和智能层三层,定位为去中心化、跨 OEM 的共享协议,面向 EV 车队、车企和智慧城市项目。该仓库是部署于 drivelink.tech 的官方营销网站,基于 Next.js 15 静态导出,首页的 V2V 交通模拟按 drv-mesh v0.1 规范建模,仅为概念演示。

  26. GitHub · 3D 生成新仓库40

    OpenCode 插件 opencode-duckai-image-generation 发布:用 /gen 命令通过 Duck.ai 免费生成图片

    GitHub 新仓库 opencode-duckai-image-generation 为 OpenCode 增加 /gen 命令和 gen 工具,通过 Duck.ai 免费生成图片且无需 API key,结果直接存入项目。其原理是用本地 relay(DuckAI2API)驱动真实浏览器获取反爬 token 并暴露 OpenAI 兼容端点,首次生成时自动安装(需 git 和 Python 3.11+),单批耗时约 25–45 秒,采用 MIT 许可。

  27. GitHub · 3D 生成新仓库25

    Maxlechampion 开源 AI 求职申请生成器 candidatia

    Maxlechampion 在 GitHub 发布 candidatia,一个由 AI 驱动的全球化多语言 SaaS,可在几秒内生成完整求职申请包,包括 STAR 法简历、求职信、面试指南和跟进信,并提供 ATS 匹配分数,无需用户提供 API 密钥。项目前端采用 Next.js 14 部署于 Vercel,后端为 FastAPI 部署于 Render.com,AI 层使用多提供商编排器(Groq、Gemini、Mistral、Cohere),数据库为 Supabase(Postgres),缓存使用 Upstash Redis,支付集成 FedaPay、Flutterwave 和 Raenest,支持贝宁地区收款,邮件服务采用 Brevo。

  28. GitHub · 3D 生成新仓库18

    idsc-rag-research-assistant:阿英双语 RAG 研究助手开源仓库

    GitHub 开源了一个阿拉伯语-英语双语 RAG 研究助手,基于 IDSC 出版物和视频转录内容回答问题,支持向量嵌入语义检索、带页码或视频时间戳的引用来源,并提供网页聊天界面。技术栈采用 Python Flask、ChromaDB 与 Fireworks AI 的 OpenAI 兼容 API,首次启动需使用有效 API key 重建向量数据库。

  29. GitHub · 3D 生成新仓库32

    devonjones 开源 devon-claude-skills:Claude Code 技能插件合集

    GitHub 仓库 devonjones/devon-claude-skills 收录一组 Claude Code 技能插件,涵盖 PR 自动化与创作任务。插件包括 pr-review-loop(整合 Gemini Code Assist、Cursor Bugbot 与 Claude 回退的自动审查循环)、nano-banana(基于 Gemini 3 Pro Image 的图像生成,支持最多 14 张参考图与 1K/2K/4K 分辨率),以及 YouTube 字幕提取、720p 截帧加 pHash、Obsidian 视频笔记合成等工具,通过 /plugin install 命令安装。

  30. GitHub · 灵魂体仓库42

    Moralfish-Labs MaatML:以校验器门控的小型专用模型全生命周期工具(v0.13.0)

    Moralfish-Labs 开源的 MaatML(Apache-2.0,PyPI 版本 0.13.0)面向文本、视觉与视觉-语言模态的小型任务专用模型,由一个声明式 model.yml 驱动 prepare → train → evaluate → export → serve 全流程。其特色是正确性由模型外部的校验器检查:同一校验器门控合成数据与评测,maatml serve 可按请求校验并在 --enforce 下以 HTTP 422 拒绝失败输出,支持 QLoRA、DPO/ORPO、vLLM 部署等 extras,附 Qwen3-0.6B、SmolVLM-256M-Instruct 等四个参考模型。

  31. GitHub · 灵魂体仓库31

    AgentFlow:7 智能体 DAG 流水线,按产物自动路由 GPT-4o / Claude 3.5 Sonnet / Ollama 模型

    GitHub 开源项目 AgentFlow 将 PRD、架构蓝图、数据库 DDL、OpenAPI 规范等工程产物建模为 DAG 节点,由 7 个智能体协作生成,需求变更时仅重算受影响的下游产物。每个节点按领域基准路由到 GPT-4o、Claude 3.5 Sonnet 或 Ollama 本地模型,并内置语义漂移审计与 OWASP 安全扫描。它还用 ReportLab 以纯代码生成零幻觉的 10 页横版高管演示 PDF,通过 Docker Compose 提供 FastAPI、Next.js 16、PostgreSQL、Redis、Grafana 等完整可观测性栈。

  32. GitHub · 灵魂体仓库42

    foremankit:让 Claude Code 把杂活交给更便宜的模型的开源工具包

    GitHub 上的 foremankit 是一个非官方的 Claude Code 扩展插件,把样板代码、测试、pandas/SQL 脚本、大日志摘要等低价值工作交给更便宜或本地模型,由 Claude(Sonnet/Opus)做规划和验证,Opus 顾问子代理处理架构决策,Haiku 子代理负责委派,工作者包括 DeepSeek、Gemini、Groq、OpenRouter、Mistral 和本机 llama.cpp/Ollama。支持 Python 3.10+ 与 Windows/Linux/macOS,提供幂等安装脚本,会话超过 8 MB 提醒开新会话,本地编排下在 60/75/85% 上下文窗口时告警。

  33. GitHub · 灵魂体仓库31

    mindattic/IdiotProof:用自然语言生成交易策略的 24/7 监控系统

    GitHub 开源项目 IdiotProof 可将自然语言描述转化为可运行的交易策略,由 24/7 监控控制台每秒从 SQL 读取并对照实时行情执行。下单需策略条件、多 LLM 投票仲裁与 Risk Guardian 三道闸门全部通过,默认使用 Sandbox 模拟券商,实盘需显式确认。支持 Gapper 盘前跳空策略、replay 回放归档、Research 与期权板块,基于 .NET 10 与 SQL Server LocalDB,行情走 Alpaca API。

10月13日周二
  1. Reddit · r/LocalLLaMA58

    LokalBot 开源:基于 Gemma 4 E2B 的会议笔记补全桌面应用

    /u/stevyhacker 发布开源桌面应用 LokalBot,用本地会议笔记作上下文为打字补全和听写补充信息,AGPL-3.0 协议免费。实测 Gemma 4 E2B base Q6_K 经 llama.cpp 进程内运行约 50 ms/建议(M4 Max),与 CoTabby 在相同输入和权重下对比,精确下一词命中 32.7% 对 30.7%(+2.0 点,95% 区间 0.0 到 +4.0)。代码在 https://github.com/stevyhacker/lokalbot,作者称 UX 仍在打磨并征集反馈。

    推荐理由:作者用 782 个 checkpoint 与同类闭源工具做了同权重对照测试,给出精确下一词命中率差异和延迟数字,可迁移到本地小模型选型。

  2. Reddit · r/LocalLLaMA71

    llama.cpp WebGPU 后端实现磁盘分页,48 GB GGUF 的 Qwen3-Next 80B MoE 在 Chrome 标签页中运行

    /u/naklitechie 把上周的磁盘流式加载 MoE 专家方案接到 llama.cpp 自带的 WebGPU 后端,Qwen3-Next 80B-A3B(48.4 GB Q4_K_M GGUF)在 Chrome 标签页中成功运行,MacBook Pro M4 Pro 上加载 48 秒、解码 2.9 tok/s,并称是概念验证。方法是把 GGUF 一次性下载到浏览器 OPFS 私有存储,GPU 只保留稠密层、KV cache 和每层固定数量的专家槽位,路由选中的专家不在槽位时从磁盘按 LRU 换入;分页开关下 OLMoE 与 LFM2 各 9 段对话回复完全一致,对 Metal 后端 9 条中 4 至 8 条一致,差异来自 WebGPU 与 Metal 的舍入。

    推荐理由:作者给出各模型的加载时间、解码速度和分页正确性对照数据,可据此评估在浏览器标签页里跑 MoE 的实际可用度。

  3. Hugging Face · 新模型:uncensored40

    TokForge 发布 Qwen3.5-4B-uncensored NPU catalog pair 加速包

    TokForge 发布面向 Qwen3.5 4B Abliterated(huihui-ai 去审查版)的 NPU prompt pack,在 Snapdragon 8 Elite Gen 5(Hexagon V81,3.67 GB)与 Snapdragon 8 Gen 3(V75,3.65 GB)上让手机 NPU 分 128-token 块读取长提示词,CPU 生成回复,占用约 6.3 GB 内存。该包从 darkmaniac7/Qwen3.5-4B-uncensored-MNN commit 9416259dd5ed 的 int4 权重导出,经 QAIRT 2.40.0.251030 编译为各 49 个 QNN context binary,仅支持上述两款芯片,License 为 Apache-2.0。

  4. GitHub · 3D 生成新仓库44

    Prisma 8 发布候选版发布:TypeScript 重写的 AI-agent 友好 ORM

    Prisma 8 进入 release candidate 阶段,是对 Prisma ORM 的 TypeScript 重写,主打可扩展、可组合与 AI-agent 友好,8.0.0 final 预计在 4 到 8 周内发布。安装器会在项目根目录放置 prisma-8.md primer,并向 .claude/skills/、.cursor/skills/、.agents/skills/、.devin/skills/ 等目录安装 SKILL.md 技能文件,供 Claude Code、Cursor、Copilot Agent、Devin 等运行时自动加载。新项目可通过 npm create prisma 创建,Prisma 7 将在 8.0.0 final 后继续获得 18 个月的 bug 修复与安全更新。

  5. GitHub · 3D 生成新仓库56

    MultiModelRag 开源多模态 RAG 系统,文本与图像共享 CLIP 检索空间

    aryan9-6-5 在 GitHub 发布 MultiModelRag,一个用 OpenCLIP 共享嵌入空间跨文本和图像检索证据、经跨模态重排后由本地 LLM 生成有据答案的多模态 RAG 系统,全部基于免费开源组件,无需付费 API。架构含 FAISS 向量检索、DuckDB 元数据溯源、FastAPI 与 Streamlit 界面,默认模型为 OpenCLIP ViT-B-32、BLIP-base 与 Llama 3.2 3B,最低 CPU 加 8GB 内存即可运行。在 COCO 200 图子集上,基线检索 MRR 0.849、延迟 27.3ms,完整管线生成成功率 100%、引用率 80%、平均延迟 14.7s;作者也说明重排器是手工加权线性组合,消融显示其指标略低于原始 FAISS 排序。