prompts.chat PR #1303:Bot 卡片新增点赞数、评论与变更请求,用户资料新增 Bots 标签页
prompts.chat 的 PR #1303 为 bot 卡片显示点赞数,bot 页面新增点赞、评论和变更请求功能,并将变更请求列表/详情提取为可复用组件。用户资料新增 Bots 标签页(含分页与 bot 数量统计),管理员可对已删除 bot 打开变更请求、隐藏其评论;仅含 bot 的个人主页仍可被索引,SEO 描述与结构化数据同步更新。
新闻、仓库与研究,按时间排列。
prompts.chat 的 PR #1303 为 bot 卡片显示点赞数,bot 页面新增点赞、评论和变更请求功能,并将变更请求列表/详情提取为可复用组件。用户资料新增 Bots 标签页(含分页与 bot 数量统计),管理员可对已删除 bot 打开变更请求、隐藏其评论;仅含 bot 的个人主页仍可被索引,SEO 描述与结构化数据同步更新。
prompts.chat 的 Bots 功能新增分类、标签支持,并在 /bots 页面上线筛选侧边栏。此次更新(PR #1304)还在多种语言的本地化文件中加入了 "Search bots..." 搜索框文案,这些 AI agent bot 可安装到 OpenClaw、Hermes Agent 或 Grok Bot 上。
Ollama 0.40.11 起支持文本转语音,首个语音模型是 Gradium 的 Phonon 系列,目前可用 macOS,Windows 和 Linux 支持即将推出。在 M5 Max MacBook Pro 上,Ollama 借助 MLX 加速,吞吐比次快的 Gradium ptts 运行时快 35%,词错率与 Hugging Face Transformers 参考实现持平;Phonon 采用 Apache 2.0 许可,40M 版本为 CC BY-NC 4.0 限非商用,支持英语、法语、德语、西班牙语、葡萄牙语,并提供 OpenAI 兼容的 /v1/audio/speech 接口和流式播放。
推荐理由:官方给出了与 Gradium 自家运行时的吞吐对比和词错率对照数据,读者可以据此判断在 Apple Silicon 上本地跑语音模型的真实表现。
prompts.chat 完成一项 SEO 优化提交:修复全站首页 canonical 标签,并为首页、提示词库、发现页、分类、标签、skills、workflows、开发者工具、API 文档等页面新增逐页 metadata。同时提供真实的 404 和 308 状态码,并添加完整的 sitemap,改进阿塞拜疆语等语言的页面标题与描述配置。
NgramRL 从同一提示词的近期 rollout 历史构建逐提示词 n-gram 草稿器,加速 RL 后训练中占比可超 70% 训练时间的 rollout 生成,无需辅助模型或常驻 GPU 草稿状态。在两种模型家族和三种推理、结构化生成任务上,warm-cache 下每次目标模型前向提交 3.60-7.77 个 token,比 SuffixDecoding 最高快 1.99 倍、比 prompt-lookup decoding 快 7.0 倍;Spider 上 prefetcher 以候选预算 16 覆盖 Qwen3-8B 96.6% 的结果,rollout 吞吐提升 1.38 倍。
Hugging Face 推出 torch-neuronx model support Space,可查询 Hub 上热门模型能否在 AWS Trainium 上原生运行,并提供可复现的 run.py 脚本。每条记录包含 Trainium core 分片数、含编译的总运行时间和峰值显存,结果来自公开数据集 aws-neuron/torch-neuronx-model-support,用户可通过 NEFF cache bucket 跳过编译。
ComfyUI 发布 v0.42.5 版本,tag 为 483dae4,于 23 Oct 00:07 打上标签,发布页附带 2 个资源文件。这是 GitHub Comfy-Org/ComfyUI 仓库的一次常规版本发布。
Microsoft 与 Hugging Face 发布 ThinkingBox-Training,在 GitHub 开源了将数据库终态可执行检查转化为 RL 奖励的后训练流程。用离线策略相对难度筛选出 187 个训练任务,对 Qwen3.8-27B 做 50 步 GRPO 后,ThinkingBox-Bench 507 个任务中每次都成功的任务从 38(7.50%)升至 107(21.10%),pass@1 从 51.70% 升至 60.78%,pass@20 略降 7 个任务;单个可靠任务成本从 $24.36 降至 $8.00。
推荐理由:把数据库终态检查直接用作 RL 奖励的完整训练配方,任务筛选方法和成本变化都给了数据,可迁移到有状态 Agent 训练。
ComfyUI 发布 v0.42.4 版本,tag 为 3f438ca,于 21 Oct 23:31 打上标签。本次发布随附 2 个 assets。
Dharma AI 在 Hugging Face 博客预览 VocabX 论文结果:按每个 token 的成本而非频率重建词表,在不改基座模型、数据和训练配方的前提下,将基于 Qwen3-4B 的葡萄牙语作文自动批改器实测推理成本降低 77.0%。响应平均从 350 降到 101 个 token,bench 分数从 0.703 升到 0.810,LM head 从约 152,000 行缩到约 65,000 行;在 5 个公开领域和 Qwen3、Llama-3.1、Gemma-3 三个模型族的 15 种组合中,压缩率和估算推理成本均领先 FVT、MWT 和 in-place BPE 三个参照方法。
推荐理由:作者用同一基座、同一训练配方做对照实验,把成本按读写分别计价,方法思路可迁移到其他单一领域的专用模型。
ComfyUI 发布 v0.42.3 版本,该 tag 于 20 Oct 22:44 标记,commit 为 edb3db0。发布页附 2 个资产。正文未给出具体更新内容。
ComfyUI 发布 v0.42.2 版本,标签为 49634b4,于 20 Oct 20:34 打上标签,并附带 2 个资产。
Hugging Face 官方宣布通过 TorchTPU 原生 PyTorch 后端,Transformers、Diffusers 和 Kernels 无需 torch_xla 或 JAX 即可原生运行在 TPU 上,用 device_map="tpu" 即可加载模型。附 Pallas kernel 与 torch.compile 支持,batch 64 下 Qwen3-30B-A3B 解码提速 21.5×、Gemma 4 26B-A4B 提速 12.8×;transformers 测试套件在 TPU 上 96.5% 通过,已报告 34 个问题并修复 19 个。
推荐理由:官方给出了从 torch_xla 迁移到原生 PyTorch 后端的具体写法,还附带 kernel 加速倍数和 CI 通过率等实测数据。
hotocooo 发布针对 DavidAU/Qwen3.8-Flash-Next-Abliterated-Uncensored-Turbo-Brilliance-50x-Reasoning-Instruct-GSQ-RCO-GGUF(IQ3_S)微调的 DFlash2 草稿模型,基于 incoai/Qwen3.8-Flash-Next-DFlash2 训练 3000 步,每 7-token 块接受草稿数从 3.568 提升至 3.796。该草稿模型非独立语言模型,输出与目标模型 greedy 结果完全一致。
该提交修复了首页 stargazer CTA 按钮的失效链接:原 href 指向会 404 的 /stargazers 页面,现改为指向 GitHub 仓库地址,并保留 target="_blank" 和 rel="noopener noreferrer" 在新标签页打开。
Hugging Face 发布 AnyLanguageModel 1.0,它是 Apple Foundation Models 框架的 drop-in 替代,可让同一套 session 代码使用系统模型、llama.cpp/MLX/Core ML 开源权重模型及托管服务。1.0 版所有 provider 均支持工具调用与引导式生成,托管端支持 OpenAI、Anthropic、Gemini、Ollama、Hugging Face Inference Providers 等端点;同日发布 swift-huggingface 1.0 与 swift-xet 1.0,并可运行于 Linux。
推荐理由:官方回顾了一年迭代脉络,并给出本地与托管推理共用一套 Foundation Models 风格 API 的具体做法,对 Swift 开发者有直接参考价值。
Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 对 MPS 后端的改进:新增 float8_e4m3fn 张量与 F.scaled_mm,MoE 模型解码比 2.14 提速 5 到 6.5 倍,M3 Ultra 上 Qwen3.6-35B-A3B 从 9.4 升到 61.3 tokens/s,LFM2.5-8B-A1B 从 23.6 升到 123.6 tokens/s。线性层走专用 GEMV 内核(几何平均 1.23 倍),词表 softmax 约 8 倍加速;Wan2.2 视频 VAE 解码的驱动内存峰值从约 270 GiB 降到 8 GiB,并修复了 Qwen-Image-2.1 VAE 编码器在 MPS 上损坏图像的问题。
推荐理由:Hugging Face PyTorch 团队亲述 MPS 后端改进细节,给出各模型的实测吞吐数字,Mac 上跑模型的读者可以对照评估升级收益。
prompts.chat 更新了 "The Technical Co-Founder" 提示词,让 AI 担任产品开发伙伴,将用户想法转化为可上线的产品。新版把流程重构为 5 个阶段:发现与验证、战略蓝图、迭代开发、质量打磨与交付,强调产出真实可用产品而非原型。提示词要求 AI 用通俗语言解释技术决策、在关键节点征求用户批准,并让用户始终掌控决策。
FastVideo 在 Hugging Face 发布 FastH3 Omni 最终版的 ComfyUI 就绪权重,提供 BF16 和 INT8 ConvRot 两种扩散模型,可从提示词与有序图像、视频、音频参考生成视频及同步音频。部署需搭配 qwen3vl_32b 文本编码器和视频、音频 VAE,采样 8 步、guidance 1.0、视频 shift 12.0、音频 shift 3.0,参考输入用 <Picture 1> 等标签;NVFP4 文本编码加速需 Blackwell 硬件。模型由 FastVideo 与 Nuva Lab 合作开发,权重遵循 MiniMax-H3 Community License Agreement。
推荐理由:原文给出完整文件清单、采样参数和不同硬件的部署路径,想本地跑 ComfyUI 视频加音频生成可以直接照做。
Cloudflare 的 27B 多模态决策模型 Clef 已在 Ollama 上线,用户可本地运行或使用 Ollama 云端。该模型从 Qwen3.8-27B 微调而来,以 Apache 2.0 协议开源,支持文本、JSON 与图像输入,可一次读取输入并同时对所有问题的答案打分,兼容 Jev 和 System One API。官方称其登顶 Cloudflare 的 Decision Index,在 Jev benchmark 套件多数项目上超过 Jev,例如 BFCL case exact 98.47 对 95.75;43 个评测的延迟中位数为 209.3ms(Clef-flash 为 38.8ms)。
推荐理由:官方发布了多模态决策模型 Clef 的完整基准与延迟数据,读者可以直接对比它和 Jev 等模型在各场景的实际表现。
Hugging Face 宣布 TorchNeuron 为 PyTorch 在 AWS Trainium 上的原生后端,自 2026 年 10 月 20 日起开放公测,可通过 pip install torch-neuronx 安装。
推荐理由:官方给出了 TorchNeuron 与 Optimum Neuron 的模型支持率对比和可直接复用的推理与训练脚本,便于评估是否迁移到 Trainium。
ComfyUI 发布 v0.42.1 版本,标签为 63be2f9,于 18 Oct 22:58 打上标签,附带 2 个资源文件。原文未提供具体更新内容说明。
ComfyUI 发布 v0.42.0,新增 Krea 3 Image 节点、MOSS-image 支持,并改进 Qwen 3.x 性能与 Qwen3.5 嵌入模型加载。更新还包括 ARM Linux 执行与单元测试、修复 webcam 节点和文本生成清理等问题,前端包升级至 1.55.18。
Hugging Face 上发布了 MOSS-Image 的 ComfyUI 重打包模型文件。包含 4 个 diffusion_models 文件(base 与 sft 的 bf16 及 int8_convrot 版本)、Qwen3.5-9B 文本编码器(w4a8_gptq 与 int8_convrot 两种)以及 flux2-vae.safetensors,按 ComfyUI 目录结构放置即可使用。
ComfyUI 发布 v0.41.3 版本,标签于 10 月 17 日打上,附带 2 个资源文件。本次发布说明未列出具体功能变更,用户可通过 GitHub Releases 页面获取该版本。
ComfyUI 发布 v0.41.2 版本,于 10 月 16 日在 GitHub 标记该标签。页面信息未列出具体更新内容,相关资产文件可通过 Release 页面下载。
arXiv 论文 arXiv:2610.21300 研究如何让医疗设备法规文档评估中每个环节确定性可复现。对十四个商业模型部署重复发送同一请求,所有部署至少有一个请求结果不一致,十二个的标签发生变化;降低推理量未减少差异,注入检索段落仅对最小模型有效,同一开放权重模型是否可复现取决于服务方式。作者构建了从文本提取、OCR、分块、嵌入、索引、检索到推理全链路确定性的流水线,在血糖仪和输液泵文档上跨重跑、中断、编辑、同型号 GPU 机器和不同日期均返回字节级相同输出;OCR、嵌入与近似检索在服务方式不固定时仍有差异,输出随 GPU 型号和推理引擎调度设置变化,因此后者应记入配置。
推荐理由:论文给出了十四个商业 LLM 部署的可复现性实测数据,并提出一套逐阶段确定性的文档评估流水线,可直接迁移到审计场景。
ComfyUI 发布 v0.41.1 版本,对应提交 45bf90d,于 10 月 15 日打上标签,发布页附带 2 个资源文件。原文未给出具体功能变更说明。
ComfyUI 发布 v0.41.0,新增 ImageSDRToHDR、ReferenceMultiLatent、Latent Geometries 等节点,并加入 MiniMax-H3 LightVAE 与 Flux3-image 模型支持,同时新增默认工作流的核心路由。工作流模板更新至 v0.11.84,LoRA stack 节点曾因前端不支持 DynamicGroup 被禁用后恢复。
iAcloud 发布 huihui-ai/Huihui-Qwen3.8-27B-abliterated 的 RBLN 预编译版本,使用 optimum-rbln 0.11.2 针对 16 块 Rebellions RBLN-CA25 NPU 编译,支持 262,144 上下文长度和 batch-1 解码,编译耗时 990.9 秒,产物约 55.8 GiB。该版本为编译验证版而非推理基准,运行时加载、生成与长上下文精度尚未测试,需 RBLN NPU 和 RBLN SDK,采用 Apache-2.0 许可。
minpei 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated IQ3_S 的 Strata pack,包含 dense 权重与张量索引,绑定 GGUF revision eec4e10a,dense.bin(1.5 GB)仍在上传,可用 tools/iq_pack.py 9 秒自建。在 RTX 3060 12 GB + GTX 1080 Ti 11 GB、64 GB RAM 参考配置下,上下文 131,072 tokens,解码速度 21.9–24.6 tok/s。该模型已 abliterated(移除拒绝方向),无内置护栏,需自行提供内容审核。
ComfyUI 发布 v0.40.0,新增 CameraAngle 与 CreateCameraInfo 等相机节点、原生 LoRA stack loader 节点及本地资产导出 API,并默认启用 assets 系统(可用 --disable-assets 关闭)。合作节点方面新增 Google Nano Banana 2.1、Vidu Q4、Kling Virtual Try-On、HeyGen Video 1.0 2k 分辨率等支持,同时改进 Qwen3.5 LLM 的低显存性能,新增 ARM64 NVIDIA portable 版本。
TokForge 为 Qwen3.5-4B-Claude-4.6-Opus-abliterated 模型发布 NPU catalog pair 资源包,让骁龙 8 Elite Gen 5 与 8 Gen 3 手机在 TokForge 应用内用 Hexagon NPU 读取长提示词,CPU 负责生成回复。资源包按芯片分为两个文件夹,分别约 3.67 GB 和 3.65 GB,含 49 个 QNN context binary 及 MNN 配置,须搭配指定 commit 的 MNN 转换模型使用,NPU 部分加载约需 6.3 GB 内存。
TokForge 发布面向 Qwen3.5 4B Abliterated(huihui-ai 去审查版)的 NPU prompt pack,在 Snapdragon 8 Elite Gen 5(Hexagon V81,3.67 GB)与 Snapdragon 8 Gen 3(V75,3.65 GB)上让手机 NPU 分 128-token 块读取长提示词,CPU 生成回复,占用约 6.3 GB 内存。该包从 darkmaniac7/Qwen3.5-4B-uncensored-MNN commit 9416259dd5ed 的 int4 权重导出,经 QAIRT 2.40.0.251030 编译为各 49 个 QNN context binary,仅支持上述两款芯片,License 为 Apache-2.0。
Hugging Face 上发布的 Ternary Bonsai 2 27B Uncensored Heretic v2 是一个自包含 MLX 2-bit 包,为原版 Heretic v2 添加 DFlash2 推测解码,保留 FP16 视觉塔(8,595,478,392 字节)和 3.85 GB BF16 drafter,不重量化不重训。在 Apple M1 Max 上,temperature 0 的代码和数学任务速度为普通解码的 1.07-1.23x,工具调用 1.16x,13 个提示中位数 0.90x,需约 4 GiB 额外内存。通用聊天、长文档和采样建议改用普通解码的 serve.py。
Hugging Face 上发布 Ternary Bonsai 2 27B Uncensored Heretic v2 的 Compact MLX 2-bit 打包,内置 BF16 DFlash2 草稿模型(3.85 GB)与自定义运行时,模型权重未被重新量化或再训练。在 Apple M1 Max 上,temperature 0 的贪心解码下代码、数学与工具调用提速 1.07-1.24x,聊天、长文档等场景反而慢至 0.74-0.96x,13 条测试提示的加速中位数为 0.96x,且需额外约 4 GiB 内存。该打包仅支持 Apple Silicon Mac 与 mlx 0.32.2、mlx-vlm 0.7.2,文件夹内也保留原 serve.py 供普通推理使用。
Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP(Q4_K_M,已移除拒绝回复)以 NInfer v3 格式发布,单个 .ninfer 文件 15.88 GiB,逐字节保留原 GGUF 块、不重新量化,并用随附的 MTP draft 头做投机解码。模型为文本模型,支持最多 8 个并发请求、提示词前缀复用、结构化输出、OpenAI 格式工具调用与可选思考模式;在 RTX 3090 上开发测量,权重占 15.6 GiB 显存。
HauhauCS 在 Hugging Face 发布基于 Qwen3.8-27B 的 Aggressive 无对齐 GGUF 量化系列,测得 0/465 次拒绝,主打直接作答、无拒绝行为。每个文本 GGUF 保留原生 NextN/MTP 头,配套 FastMTP 32K 草稿侧车在 Q8_K_P 下实现文档 TG 3.02x、推理 TG 1.93x(对比关闭 MTP),并提供 llama.cpp 补丁、部署命令、Ed25519 签名清单与 RTX PRO 6000 Blackwell 及 RTX 6000 Ada 的实测速度表。
DevelopingDad 在 Hugging Face 发布 Qwen3.8-Flash-Next-Uncensored-NVFP4 的 DGX Spark 部署包,封装 OrcaRouter 现有量化权重, checkpoint 约 183.5 GB,未做微调或重量化。包内含自动挂载运行时补丁的启动器,基于 ARM64 vLLM 0.30.0 提供 OpenAI 兼容 API,最大上下文 131,072 tokens,需 DGX Spark/GB10 与 128 GB 统一内存。K1b 配置实测单客户端 prose 吞吐 37.29 tok/s,较此前配置提升 48.9%,52/52 请求全部完成、无 OOM。
Ai2 AI 基础设施团队用包含 GPU 时间预算、层级公平共享和时间切片合约的调度系统替换了原有的优先级调度器,以提升高价值研究任务的资源分配。团队管理数千块 NVIDIA H100、B200 和 B300 GPU,集群规模从 88 到 1024 块,GPU 需求长期达供给的 2-3 倍。新方案把研究项目应得 GPU 时间的争论从逐案运营协商变成了透明的预算分配流程。