跳到正文
10月8日周四
  1. Hugging Face · 新模型:abliterated44

    Qwopus3.8-27B-Flash-V2-abliterated-exl3-6.0bpw 在 Hugging Face 发布

    Qwopus3.8-27B-Flash-V2 是基于 Qwen3.8-27B 的 Qwopus3.8-27B-Flash 的更新后训练版本,采用新的奖励函数与强化学习方法,目标是减少无效推理、降低 Agent 长任务的推理成本。V2 还针对上一版报告的 Python 缩进问题进行改进,在 temperature-0.3 的 Python 格式检查中未再观察到格式失败,该机制仍是工作假设。

  2. Hugging Face · 新模型:abliterated18

    3MPER0RR 发布 abliterated 版 Qwen3-06B 模型,上架 Hugging Face

    3MPER0RR 在 Hugging Face 上发布 Qwen3-06B-3MPER0RR-abliterated 模型。该模型可通过 Transformers 的 pipeline 或 AutoModelForCausalLM 直接加载,也支持 vLLM、SGLang 和 Docker Model Runner 部署,后两者均提供 OpenAI 兼容 API 调用,并可通过 `docker model run hf.co/3MPER0RR/Qwen3-06B-3MPER0RR-abliterated` 运行。

  3. Hugging Face · 新模型:abliterated18

    John2202 发布 Qwen3-1.7B-abliterated Q4_K_M GGUF 量化版模型

    John2202 在 Hugging Face 发布 Qwen3-1.7B-abliterated 的 Q4_K_M GGUF 量化版本,由 mlabonne/Qwen3-1.7B-abliterated 通过 llama.cpp 转换而来。用户可通过 llama-cli 或 llama-server 命令直接加载使用,服务器模式默认 -c 2048 上下文。模型也可在 llama.cpp 仓库中按源码编译方式(支持 LLAMA_CUDA 等 GPU 加速编译选项)直接调用。

  4. Hugging Face · 新模型:uncensored63

    GLM-5.3 无对齐版 EXL3 3.0bpw 量化发布

    araz4111 发布了 dealignai/GLM-5.3-UNCENSORED-FP8 的 EXL3 量化版本,平均码率 3.04 bpw,总大小 273 GiB,基于 zai-org/GLM-5.3 的权重编辑无对齐变体,架构为 GlmMoeDsaForCausalLM,753B 参数、256 路由专家(8 激活)加 1 共享专家,包含 MTP 层可作投机草稿。作者提供了 wikitext-2 上的 KL 散度与困惑度保真度数据,以及 tau2-bench 智能体评测,与 Z.ai FP8 原版差异不具统计显著性;并提示 TabbyAPI 的 glm4_5 解析器会把字符串参数 JSON 解码为整数,导致零售场景约 70% 工具调用失败,使用前需修复。

  5. Hugging Face · 趋势模型72

    Reflection 开源 Beam 1.0 501B MoE 模型,支持 1M 上下文

    Reflection 发布开放权重模型 Beam 1.0,采用 MoE 架构,总参数 501.3B、激活 23.4B,支持 1M 上下文,以 Apache 2.0 许可提供 BF16、FP8、NVFP4 三种精度。官方称其推理 token 用量约省 3 倍,SWEBench Verified 达 81.6%,AIME 2026 达 97.7%,不禁止蒸馏和微调。

    推荐理由:官方模型卡给出完整基准表和三种量化版本数据,读者可以据此对比 Beam 与其他开放权重模型在编码和推理任务上的表现。

  6. Hugging Face · 新模型:abliterated28

    Qwen3.5-9B abliterated 社区合并版发布:带视觉塔的 INT8 ConvRot ComfyUI 检查点

    Hugging Face 用户发布社区合并检查点 qwen3.5-9b_abliterated_0x100refusal_vision_int8_convrot,将 lukey03/Qwen3.5-9B-abliterated 的语言权重与 huihui-ai 的 337 个视觉张量合并,共 1,264 个张量、约 9.83 GB,面向支持 INT8 ConvRot 量化的 ComfyUI。250 个语言矩阵相对 L2 量化误差平均 0.9713%。"0% Refusal" 仅为上游命名,并非实测拒绝率;该项目为 Apache-2.0 许可的实验性合并,非官方发布。

  7. Reddit · r/LocalLLaMA55

    LiquidAI 发布 d1-3B 与 d1-omni-600M 决策模型

    Reddit 用户转发 LiquidAI 的两款决策模型:d1-omni-600M 基于 LFM2.5-Encoder-350M,支持文本、图像和最长 30 秒语音的单次前向推理;d1-3B 基于 LFM2.5-VL-3B,在 Decision Index 0.2.1 得 48.57,为 10B 以下最佳决策模型。d1-3B 在 RTX 4090 上单次决策 8 ms,M5 Pro 上 30 ms,权重及 GGUF 版本已上传 Hugging Face。

  8. Reddit · r/LocalLLaMA53

    Liquid AI 发布开放权重决策模型 Open d1,含 d1-3B 与 d1-omni-600M

    Liquid AI 发布开放权重决策模型 Open d1,包含面向文本+视觉决策的 3B 参数 d1-3B 和实验性 600M 参数 d1-omni-600M(支持文本+图像或文本+音频)。d1-3B 在 10B 参数以下模型的 Decision Index v0.2.1 基准中排名第一,基于 LFM2.5-VL-3B 构建,支持 llama.cpp,可在从 DGX 服务器到 Jetson 边缘设备的 NVIDIA 硬件上低延迟推理,适用于 agent guardrails、reranking 和视觉检查等场景。

  9. Hugging Face · 趋势模型71

    NVIDIA 发布 Nemotron 3.5 Bolt 74B-A9B-24GB 本地智能体视觉语言模型

    NVIDIA 在 Hugging Face 发布 Nemotron 3.5 Bolt 74B-A9B-24GB,一款为本地日常智能体任务设计的视觉语言模型,总参数 74B(9B 激活),采用 Mamba-2-Transformer 混合 LatentMoE 架构,通过原生 IQ2 2-bit 量化与量化感知蒸馏压进 24GB 显存,支持最高 256K 上下文,可在 vLLM 上部署,基于 OpenMDW-1.1 许可商用。

    推荐理由:模型卡完整给出架构、训练流程和与同量级模型的基准对比,读者可以自己判断 2-bit 量化的取舍。

  10. Hugging Face Blog63

    Liquid AI 发布开源 d1 决策模型 d1-3B 与 d1-omni-600M

    Liquid AI 在 Hugging Face 发布开源决策模型 d1-3B 与实验性 d1-omni-600M,模型不做 token 生成而在单次前向传播中给出答案。d1-3B 在 Decision Index 0.2.1 得分 48.57,为 10B 以下最佳,基于 LFM2.5-VL-3B 训练,支持文本与图像输入,在 Jetson AGX Thor 上单问题推理仅需 16 ms,RTX 4090 上 8 ms;在七个公开数据集上均分 82.9,高于 Decider 4B。d1-omni-600M 基于 LFM2.5-Encoder-350M 并加入视觉与音频编码器,均分 78.4 超过参数量四倍于它的 Decider 2B(77.1),目前为早期研究版本。

    推荐理由:决策模型不做生成而是单次前向输出答案,原文给出的边缘设备毫秒级延迟数据展示了这一路线的实际可行性。

10月7日周三
  1. Hugging Face · 新模型:uncensored36

    Qwen3.5-4B 对话微调版(Uncensored GGUF)上架 Hugging Face

    基于 Qwen3.5-4B 的社区对话/角色扮演微调模型在 Hugging Face 发布,提供 ~3.5 GB 的 Q6_K GGUF 量化文件,支持 llama.cpp、LM Studio 和 Ollama。模型用 Unsloth QLoRA(rank 16、alpha 32)在 AMD RX 6700 XT 上训练,数据集约 11,400 行对话,最终 train loss 约 0.92,上下文最长 2048 token。另有 ~672 MB 的 F16 视觉投影文件,仅图像输入时需要。

  2. Hugging Face Blog49

    TII 推出 Falcon-ASR:聚焦阿拉伯语(含阿联酋方言)的 1.6B 语音识别模型

    TII 在阿布扎比推出 1.6B 参数语音识别模型 Falcon-ASR,重点支持阿联酋方言,同时支持英语、法语、西班牙语和葡萄牙语。模型在六个阿拉伯语测试集上平均 WER 为 20.92%,优于所对照榜单最佳已发布结果 23.17%;内部阿联酋评测中 WER 22.73%、CER 10.19%,为对比系统中最低。模型支持词级时间戳,现已可在 Hugging Face Demo 试用,API 与原生应用已列入计划。

  3. GitHub · 灵魂体仓库23

    Physical Intelligence 开源机器人模型仓库 openpi 发布

    Physical Intelligence 团队在 GitHub 开源 openpi 仓库,提供三款机器人视觉-语言-动作模型:π₀、采用 FAST action tokenizer 的自回归版本 π₀-FAST,以及通过 knowledge insulation 提升开放世界泛化能力的 π₀.₅。所有模型附带基于数千小时机器人数据预训练的 base checkpoints 和示例代码,支持用户直接使用或对自有数据集微调。

  4. GitHub · 去对齐工具与仓库64

    bilibili 开源 Index-Translate 多语言翻译模型家族,覆盖文本、语音、音节控制与长文档

    bilibili Index LLM Team 发布 Index-Translate 多语言翻译模型家族,基于 Qwen3.5,文本模型覆盖 150 种语言,提供 2B、9B 和 35B-A3B(preview)权重,已在 Hugging Face 和 ModelScope 开放。

    推荐理由:原文给出了各尺寸模型的评测数字、量化版本和免费API入口,读者可以直接对比选型并上手部署。

  5. Hugging Face · 趋势模型63

    Google DeepMind 发布开源多模态嵌入模型 EmbeddingGemma 2

    Google DeepMind 发布开源多模态嵌入模型 EmbeddingGemma 2,总参数 740M,将文本、图像、视频和音频统一映射到 768 维向量空间,采用 Apache 2.0 许可,设计面向手机和笔记本等消费级硬件。模型支持 100+ 语言,8K token 上下文,原生 MRL 截断到 128/256/512 维最多可省 6 倍向量存储,视觉与音频编码器可按需加载(纯文本 270M)。基准上 MTEB 多语言 61.36、代码任务较前代提升约 14%;模型卡还给出任务前缀、bfloat16 精度(禁用 float16)等部署最佳实践。

    推荐理由:模型卡给出了各模态基准分数与 MRL 截断后的质量对照表,读者可据此评估在端侧 RAG 或检索场景中选哪个维度部署。

  6. Hugging Face · 趋势模型71

    面壁 MiniCPM-V 4.7 35B-A3B 发布,系列首个 MoE 多模态模型支持端侧推理

    面壁智能在 Hugging Face 开放 MiniCPM-V 4.7 35B-A3B,是 MiniCPM-V 系列首个 MoE 多模态模型。官方称借助 Lookahead Expert Scheduling、分层细粒度量化与 DSpark 投机采样,成为首个可无损流畅端侧运行的开源 MoE 模型,在 iPhone 17 Pro Max 上达到 13+ tokens/s;Instruct 模式下整体得分高于 Qwen3.6 35B-A3B 且推理时间更短。

    推荐理由:原文给出 LES 预取、分层量化和推测采样三条技术路径,解释了 MoE 在设备端跑顺的原理与部署选择。

  7. Hugging Face · 新模型:abliterated50

    Qwen3.8-Flash-Next-Abliterated GSQ-RCO GGUF 量化版发布

    Hugging Face 上发布 abliterated 版 Qwen3.8 Flash Next 的 GSQ-RCO 量化 GGUF(IQ3_XXS 源变体),共 2 个分片合计 83.14 GB,仅支持文本。实测生成速度约 21.13 tokens/s,比未修改的 ISTA IQ3_XXS 快约 31%,下载体积大 9.6%;MMLU 82.68%、GSM8K 86.72%、IFEval 85.16%、HumanEval 66.46%,质量等同尚未证实。仅供研究用途,需保留 Qwen Community License 1.0。

  8. Reddit · r/LocalLLaMA49

    训练出约 2 万参数的语言模型 MacroStories,仍能写故事

    Reddit 用户发布仅 19,969 参数(81 KB FP32)的语言模型 MacroStories,比 1M 参数的 TinyStories 模型小约 50 倍,采用 32 维隐藏状态、378-token 词表和共享权重循环复用的单个 decoder block。它虽非通用 LM,但能在受限故事分布内生成 100–300 词、含目标与结局的连贯叙事,且在 CPU 上即可极快运行、无需 GPU。

  9. Hugging Face · 新模型:uncensored40

    JevStyle-9B-Decision-Uncensored-v1 发布:基于 Qwen3.5-9B 的去审查决策模型

    独立研究项目 JevStyle-9B-Decision-Uncensored-v1 发布,基于 wangzhang/Qwen3.5-9B-abliterated 冻结底座,通过 LoRA(r=16)加决策头实现单次前向输出最多 24 个选项的校准概率分布,可部署增量约 145–165 MB。模型采用软标签 KL 蒸馏训练,公开 holdout 硬命中率 100%,敏感项安全类一致率 92.6%(后续 v5 软优化达 98.2%),权重以 Apache-2.0 发布,与 TypeSafe AI 或 Jev 无官方关联。

  10. GitHub · 去对齐工具与仓库45

    Radar HuggingFace Dataset:每日三次追踪 HuggingFace 生态的开源数据集

    Radar HuggingFace Dataset 是一个开放、持续更新且版本化的 HuggingFace 生态数据集,由 HF//RADAR 生成,每天 06:00、14:00、22:00 三次导出,记录新发布模型、作者、许可证、下载与 likes 等真实热度、参数量及格式(GGUF、MLX、safetensors),并用 removed/removed_at 标记被悄然下架的模型。每个模型含 JSON 元数据与西班牙语技术卡片,通过编号 release 提供可审计历史快照,采用 CC-BY-4.0 许可。

  11. Hugging Face · 新模型:uncensored50

    blaj 发布 Qwen-Image-2.1-Uncensored 的 OpenVINO INT4 版本

    blaj 在 Hugging Face 发布 Qwen-Image-2.1 Uncensored 的 OpenVINO INT4 量化版,将 abliterated 的 Qwen3-VL 文本编码器替换进原模型,总大小约 13 GB,可在 Intel Arc iGPU 上运行文生图。在 Core Ultra 7 258V 上 512x512、10 步生成耗时 12.9 秒(1.29 秒/步),峰值内存 7.1 GB;图像编辑(i2i)在 30 GB 内存下会耗尽内存,需 diffusers、optimum-intel 主分支及 OpenVINO 2026.5.0 nightly。

  12. GitHub · 灵魂体仓库54

    cultist-llm:用《密教模拟器》游戏文本微调 Qwen3,发布 0.6B 与 4B 权重

    开发者 alice-kroi 发布 cultist-llm 项目,用《密教模拟器》和《司辰之书》的本地游戏文本微调 Qwen3,让模型学会游戏晦涩书卷气的写法,可生成卡牌描述、事件叙事、结局文本并做中英互译。语料由脚本从本地安装的游戏抽取,共 20,110 个文本单元、59,018 条训练样本,经 LLaMA-Factory LoRA/QLoRA 在 16GB 显存 GPU 上训练,已发布 0.6B 和 4B 两个合并模型到 Hugging Face,实测 4B 语感和格式遵循度更好,代码 MIT 协议开源。

  13. Hugging Face · 新模型:uncensored28

    mradermacher/qwen3.5-9b-uncensored-GGUF 模型使用指南

    Hugging Face 上 mradermacher/qwen3.5-9b-uncensored-GGUF 模型页面给出多框架使用方法,涵盖 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner、Lemonade 等工具,示例量化版本为 Q4_K_M。llama.cpp 可启动 OpenAI 兼容本地服务器并支持终端直接推理,vLLM 与 SGLang 均提供 OpenAI 兼容 API 调用方式。

  14. Hugging Face · 新模型:uncensored18

    mradermacher/qwen3.5-9b-uncensored-i1-GGUF 模型在 Hugging Face 发布

    mradermacher 在 Hugging Face 发布 qwen3.5-9b-uncensored 的 i1-GGUF 量化版本。该模型可通过 llama.cpp、Ollama、Docker Model Runner、LM Studio 等工具本地运行,示例采用 Q4_K_S 量化,支持启动 OpenAI 兼容本地服务器或终端直接推理,也可接入 Pi、Hermes、OpenClaw 等 Agent 工具。

  15. GitHub · 去对齐工具与仓库18

    wdenejko 开源 aviai:航空领域 LLM 应用学习沙盒仓库

    GitHub 用户 wdenejko 发布 aviai 仓库,一个用于应用 LLM 实践的个人学习沙盒,采用 uv workspace 结构,涵盖数据集构建、eval harness、微调与 RAG。其中 avtext 项目构建 METAR/TAF 解码数据集与评测基准,并验证对 Gemma 4 E4B 做 LoRA 微调能否超越基座模型,成果 aviai-e4b 已上线 Hugging Face;dsbench 为 Qwen3.x-35B 微调研究提供执行验证基准,v1 与 v2 均已可用。

  16. Hugging Face · 新模型:uncensored18

    Goghor 发布 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-INT8-W8A16-MTP 模型

    Goghor 在 Hugging Face 上发布基于 Qwen3.8 的 27B 参数模型 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-INT8-W8A16-MTP,采用 INT8 W8A16 量化,模型大小 28B params,以 Safetensors 格式提供。该模型目前未被任何 Inference Provider 部署,README 暂无内容。

  17. Hugging Face · 新模型:abliterated42

    Huihui-Qwen3.8-27B-Abliterated VAL-APEX-I-MiniPlus V2.1 GGUF 量化版发布

    Huihui-Qwen3.8-27B-abliterated 模型的官方 VAL-APEX-I 量化版 MiniPlus V2.1 发布,体积 15.33 GB(3.93 BPW),WikiText-2 困惑度 6.1466,较 BF16 仅上升 2.44%,达到 Q5_K_M/Q6_K 边界质量。该版本在 24GB GPU 上支持完整 256K 上下文,192 个 DeltaNet SSM 状态张量保持 F32 无压缩,输出头采用 Q6_K 保护。另有 11.90 GB 的 NanoPlus 版本可在 16GB 硬件上运行。

  18. Hugging Face · 新模型:abliterated42

    Huihui-Qwen3.8-27B-Abliterated VAL-APEX-I NanoPlus GGUF 量化版本发布

    Huihui-ai 的 Huihui-Qwen3.8-27B-abliterated 模型推出 VAL-APEX-I NanoPlus 量化版,体积仅 11.90 GB(2.85 BPW),可在 16GB GPU 上运行,并支持 24GB GPU 跑满 256K 上下文。WikiText-2 困惑度为 6.4238,较 BF16 基线仅升 7.06%,达到 Q4_K_M 质量档。全部 192 个 DeltaNet SSM 循环状态张量保持 F32 无压缩,输出头采用 Q6_K 保障语法稳定性。