跳到正文
10月8日周四
  1. Hugging Face · 新模型:abliterated18

    John2202 发布 Qwen3-1.7B-abliterated Q4_K_M GGUF 量化版模型

    John2202 在 Hugging Face 发布 Qwen3-1.7B-abliterated 的 Q4_K_M GGUF 量化版本,由 mlabonne/Qwen3-1.7B-abliterated 通过 llama.cpp 转换而来。用户可通过 llama-cli 或 llama-server 命令直接加载使用,服务器模式默认 -c 2048 上下文。模型也可在 llama.cpp 仓库中按源码编译方式(支持 LLAMA_CUDA 等 GPU 加速编译选项)直接调用。

  2. Hugging Face · 新模型:uncensored63

    GLM-5.3 无对齐版 EXL3 3.0bpw 量化发布

    araz4111 发布了 dealignai/GLM-5.3-UNCENSORED-FP8 的 EXL3 量化版本,平均码率 3.04 bpw,总大小 273 GiB,基于 zai-org/GLM-5.3 的权重编辑无对齐变体,架构为 GlmMoeDsaForCausalLM,753B 参数、256 路由专家(8 激活)加 1 共享专家,包含 MTP 层可作投机草稿。作者提供了 wikitext-2 上的 KL 散度与困惑度保真度数据,以及 tau2-bench 智能体评测,与 Z.ai FP8 原版差异不具统计显著性;并提示 TabbyAPI 的 glm4_5 解析器会把字符串参数 JSON 解码为整数,导致零售场景约 70% 工具调用失败,使用前需修复。

  3. Hugging Face · 新模型:uncensored67

    Muse-Glimmer-30B Uncensored 版本发布,基于 Heretic 消融原模型安全对齐

    kmnstudio101 在 Hugging Face 发布 meta-models/Muse-Glimmer-30B 的去对齐版本,使用 Heretic v2.0.0.dev0+custom 消融制作,关键词从 100/100 降至 0/100,KL 散度为 0.0375。模型卡提示安全对齐已大幅削弱,仅供研究与实验使用,避免部署到公开或面向最终用户的服务。

    推荐理由:原文列出了 Heretic 消融参数与关键词、KL 散度的前后对比,读者可以据此判断这个去对齐版本改动程度。

  4. Hugging Face · 趋势模型72

    Reflection 开源 Beam 1.0 501B MoE 模型,支持 1M 上下文

    Reflection 发布开放权重模型 Beam 1.0,采用 MoE 架构,总参数 501.3B、激活 23.4B,支持 1M 上下文,以 Apache 2.0 许可提供 BF16、FP8、NVFP4 三种精度。官方称其推理 token 用量约省 3 倍,SWEBench Verified 达 81.6%,AIME 2026 达 97.7%,不禁止蒸馏和微调。

    推荐理由:官方模型卡给出完整基准表和三种量化版本数据,读者可以据此对比 Beam 与其他开放权重模型在编码和推理任务上的表现。

  5. Hugging Face · 新模型:abliterated28

    Qwen3.5-9B abliterated 社区合并版发布:带视觉塔的 INT8 ConvRot ComfyUI 检查点

    Hugging Face 用户发布社区合并检查点 qwen3.5-9b_abliterated_0x100refusal_vision_int8_convrot,将 lukey03/Qwen3.5-9B-abliterated 的语言权重与 huihui-ai 的 337 个视觉张量合并,共 1,264 个张量、约 9.83 GB,面向支持 INT8 ConvRot 量化的 ComfyUI。250 个语言矩阵相对 L2 量化误差平均 0.9713%。"0% Refusal" 仅为上游命名,并非实测拒绝率;该项目为 Apache-2.0 许可的实验性合并,非官方发布。

  6. Reddit · r/LocalLLaMA55

    LiquidAI 发布 d1-3B 与 d1-omni-600M 决策模型

    Reddit 用户转发 LiquidAI 的两款决策模型:d1-omni-600M 基于 LFM2.5-Encoder-350M,支持文本、图像和最长 30 秒语音的单次前向推理;d1-3B 基于 LFM2.5-VL-3B,在 Decision Index 0.2.1 得 48.57,为 10B 以下最佳决策模型。d1-3B 在 RTX 4090 上单次决策 8 ms,M5 Pro 上 30 ms,权重及 GGUF 版本已上传 Hugging Face。

  7. Reddit · r/LocalLLaMA53

    Liquid AI 发布开放权重决策模型 Open d1,含 d1-3B 与 d1-omni-600M

    Liquid AI 发布开放权重决策模型 Open d1,包含面向文本+视觉决策的 3B 参数 d1-3B 和实验性 600M 参数 d1-omni-600M(支持文本+图像或文本+音频)。d1-3B 在 10B 参数以下模型的 Decision Index v0.2.1 基准中排名第一,基于 LFM2.5-VL-3B 构建,支持 llama.cpp,可在从 DGX 服务器到 Jetson 边缘设备的 NVIDIA 硬件上低延迟推理,适用于 agent guardrails、reranking 和视觉检查等场景。

  8. Hugging Face · 趋势模型71

    NVIDIA 发布 Nemotron 3.5 Bolt 74B-A9B-24GB 本地智能体视觉语言模型

    NVIDIA 在 Hugging Face 发布 Nemotron 3.5 Bolt 74B-A9B-24GB,一款为本地日常智能体任务设计的视觉语言模型,总参数 74B(9B 激活),采用 Mamba-2-Transformer 混合 LatentMoE 架构,通过原生 IQ2 2-bit 量化与量化感知蒸馏压进 24GB 显存,支持最高 256K 上下文,可在 vLLM 上部署,基于 OpenMDW-1.1 许可商用。

    推荐理由:模型卡完整给出架构、训练流程和与同量级模型的基准对比,读者可以自己判断 2-bit 量化的取舍。

  9. Hugging Face Blog63

    Liquid AI 发布开源 d1 决策模型 d1-3B 与 d1-omni-600M

    Liquid AI 在 Hugging Face 发布开源决策模型 d1-3B 与实验性 d1-omni-600M,模型不做 token 生成而在单次前向传播中给出答案。d1-3B 在 Decision Index 0.2.1 得分 48.57,为 10B 以下最佳,基于 LFM2.5-VL-3B 训练,支持文本与图像输入,在 Jetson AGX Thor 上单问题推理仅需 16 ms,RTX 4090 上 8 ms;在七个公开数据集上均分 82.9,高于 Decider 4B。d1-omni-600M 基于 LFM2.5-Encoder-350M 并加入视觉与音频编码器,均分 78.4 超过参数量四倍于它的 Decider 2B(77.1),目前为早期研究版本。

    推荐理由:决策模型不做生成而是单次前向输出答案,原文给出的边缘设备毫秒级延迟数据展示了这一路线的实际可行性。

  10. Hugging Face · 新模型:uncensored65

    OS-Software 发布 llm-jp-4.1-33b-thinking 的 Heretic 消融去审查版

    OS-Software 在 Hugging Face 发布基于 Heretic 消融的去审查版 llm-jp-4.1-33b-thinking,针对目标层 34–49 设置自定义参数。在 Q4_K_M 量化下,有害提示拒绝数从原版的 88/100 降至 0/100,首 token KL 散度 0.0118,MMLU 74.05%(原版 74.37%),HumanEval pass@1 93.29%(原版 94.51%)。作者声明该模型安全对齐已大幅削减,仅供安全研究与红队测试等实验用途。

    同一新闻,精选展示《OS-Software 发布 llm-jp-4.1-33b-thinking 的 Heretic 去审查 GGUF 版》

10月7日周三
  1. Hugging Face · 新模型:uncensored73

    GLM-5.3-Flash UNCENSORED FP8 权重发布,HarmBench-320 拒绝率为 0

    dealignai 发布 GLM-5.3-Flash 的 CRACK 去对齐 FP8 权重,通过直接修改张量移除拒绝行为,320B 总参数、18B 激活,HarmBench-320 在 reasoning-OFF 和 MAX 档 100% 服从、拒绝率 0%,MMLU 87.33% 高于基座 86.74%。作者说明低推理档保留部分拒绝,weight 修复版需重新下载;附 vLLM 部署参数,H200 上解码 163 tok/s、MTP 投机解码 211 tok/s,并给出 reasoning_effort 只接受 low 和 high、max 档需 max_tokens 6000 以上、视频 fps 须低于片源帧率等实测注意事项。

    同一新闻,精选展示《GLM-5.3-Flash UNCENSORED FP8 发布,权重级去对齐且 MMLU 反超基座》

  2. Hugging Face · 新模型:uncensored36

    Qwen3.5-4B 对话微调版(Uncensored GGUF)上架 Hugging Face

    基于 Qwen3.5-4B 的社区对话/角色扮演微调模型在 Hugging Face 发布,提供 ~3.5 GB 的 Q6_K GGUF 量化文件,支持 llama.cpp、LM Studio 和 Ollama。模型用 Unsloth QLoRA(rank 16、alpha 32)在 AMD RX 6700 XT 上训练,数据集约 11,400 行对话,最终 train loss 约 0.92,上下文最长 2048 token。另有 ~672 MB 的 F16 视觉投影文件,仅图像输入时需要。

  3. Hugging Face · 新模型:abliterated78

    MiMo-V2.6-Distill-Qwen-9B 发布 abliterated 版,拒绝率从 78.1% 降至 9.4%

    作者 Hadi 对 XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B(MIT 许可)做拒绝消融,在 Hugging Face 发布 Flexingmeow/MiMo-V2.6-Distill-Qwen-9B-Abliterated(D 激进变体),拒绝率从 78.1% 降到 9.4%,数学推理准确率保持 100%,困惑度变化小于 0.03 NLL。因 qwen3_5 混合注意力架构不被现有工具支持,作者自写了基于 transformers 的管线,全程 CPU 完成。关键发现是拒绝方向必须从生成的回复区提取,在提示词末 token 提取的方向消融后无效(KL ≈ 1e-7,拒绝率不变);作者也提示评测集较小且微调可能重新引入拒绝。

    推荐理由:原文给出完整消融方法、拒绝率前后数据和评估局限,还提出推理模型需在生成区提取拒绝方向的可迁移结论。

  4. Hugging Face Blog49

    TII 推出 Falcon-ASR:聚焦阿拉伯语(含阿联酋方言)的 1.6B 语音识别模型

    TII 在阿布扎比推出 1.6B 参数语音识别模型 Falcon-ASR,重点支持阿联酋方言,同时支持英语、法语、西班牙语和葡萄牙语。模型在六个阿拉伯语测试集上平均 WER 为 20.92%,优于所对照榜单最佳已发布结果 23.17%;内部阿联酋评测中 WER 22.73%、CER 10.19%,为对比系统中最低。模型支持词级时间戳,现已可在 Hugging Face Demo 试用,API 与原生应用已列入计划。

  5. GitHub · 灵魂体仓库26

    gemma-4-abliterated:在 Mac 上以 MLX 运行去除 guardrails 的 Gemma 4 31B

    garbatyzydziok-cmd 在 GitHub 发布 gemma-4-abliterated 项目,基于 Gemma 4 31B 去除 guardrails,同时保持模型核心质量。项目面向 Apple Silicon Mac,通过 MLX 运行,建议 32 GB 统一内存和至少 50 GB 可用 SSD 空间,采用 Apache 2.0 开源协议。仓库提供模型权重下载、MLX 配置文件、安装步骤与本地推理说明。

  6. GitHub · 灵魂体仓库23

    Physical Intelligence 开源机器人模型仓库 openpi 发布

    Physical Intelligence 团队在 GitHub 开源 openpi 仓库,提供三款机器人视觉-语言-动作模型:π₀、采用 FAST action tokenizer 的自回归版本 π₀-FAST,以及通过 knowledge insulation 提升开放世界泛化能力的 π₀.₅。所有模型附带基于数千小时机器人数据预训练的 base checkpoints 和示例代码,支持用户直接使用或对自有数据集微调。

  7. GitHub · 去对齐工具与仓库64

    bilibili 开源 Index-Translate 多语言翻译模型家族,覆盖文本、语音、音节控制与长文档

    bilibili Index LLM Team 发布 Index-Translate 多语言翻译模型家族,基于 Qwen3.5,文本模型覆盖 150 种语言,提供 2B、9B 和 35B-A3B(preview)权重,已在 Hugging Face 和 ModelScope 开放。

    推荐理由:原文给出了各尺寸模型的评测数字、量化版本和免费API入口,读者可以直接对比选型并上手部署。

  8. Hugging Face · 新模型:abliterated67

    Qwen3.8-Flash-Next GSQ-RCO 无对齐 GGUF 发布,144 张量转植保留原量化

    KENIC-1 在 Hugging Face 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,通过字节级张量转植把或carouter 无对齐权重的 144 个 write-to-residual-stream 张量替换进 ISTA-DASLab 的 GSQ-RCO 量化文件,覆盖全部 48 层,不重算任何 GSQ 学到的量化值。消融是严格 rank-1 线性编辑,单个方向在 48 层、两种注意力与 512 个路由专家间一致。IQ3_S 构建经逐张量 blake2b 校验:144 个目标全部改变、其余 1079 个张量逐字节不变;行为抽查中上游拒绝的绕过付费墙请求此版本会详细回答,但作者说明这只是抽查而非完整评测。

  9. Hugging Face · 新模型:abliterated32

    Gemma-4-E4B-it-qat-q4_0-unquantized 的 abliterated 去审查 GGUF 版本发布

    timfromhcs 在 Hugging Face 发布 google/gemma-4-E4B-it-qat-q4_0-unquantized 的 abliterated(去审查)GGUF 版本,通过 remove-refusals-with-transformers 方法移除模型拒答。可用最新版 Ollama 直接运行 huihui_ai/gemma-4-abliterated:E4B-qat,或用 llama.cpp 运行 Q4_K GGUF,支持 -ngl 99、-c 262144 上下文及 draft-mtp 推测解码。作者警告模型安全性过滤大幅降低,仅建议用于研究、测试或受控环境,后果由用户自负。

  10. Hugging Face · 新模型:abliterated37

    Ministral-3-14B-abliterated 模型发布:基于 Ministral-3-14B-Instruct-2512 的去审查版本

    timfromhcs 发布 Ministral-3-14B-abliterated,这是基于 Ministral-3-14B-Instruct-2512 的 abliterated(去审查)版本,使用 grimjim 的 llm-abliteration 工具以 norm-preserving biprojected 方法移除模型的拒答行为。模型约 14B 参数,采用 SafeTensors(BF16)格式,遵循 Apache 2.0 许可证开源,另提供兼容 llama.cpp 的 GGUF 量化版本。

  11. Hugging Face · 新模型:uncensored49

    Qwen-Image-2.1 Uncensored GGUF 量化版本发布

    Hugging Face 上发布了基于 Qwen/Qwen-Image-2.1 原始权重的 Uncensored GGUF 量化模型,提供 BF16(14.23 GB)到 Q4_0(4.15 GB)多种量化格式,推荐体积与画质平衡最佳的 Q4_K_M(4.60 GB)。模型无内置安全检查器或内容过滤,可直接生成成人、NSFW 及敏感图像,不会拒绝提示词或输出黑图。配套的 qwen3vl_8b 文本编码器与 VAE 文件可直接用于 ComfyUI 及 ComfyUI-GGUF,文本编码器可卸载到系统内存以节省 9–17 GB 显存。

  12. Hugging Face · 趋势模型63

    Google DeepMind 发布开源多模态嵌入模型 EmbeddingGemma 2

    Google DeepMind 发布开源多模态嵌入模型 EmbeddingGemma 2,总参数 740M,将文本、图像、视频和音频统一映射到 768 维向量空间,采用 Apache 2.0 许可,设计面向手机和笔记本等消费级硬件。模型支持 100+ 语言,8K token 上下文,原生 MRL 截断到 128/256/512 维最多可省 6 倍向量存储,视觉与音频编码器可按需加载(纯文本 270M)。基准上 MTEB 多语言 61.36、代码任务较前代提升约 14%;模型卡还给出任务前缀、bfloat16 精度(禁用 float16)等部署最佳实践。

    推荐理由:模型卡给出了各模态基准分数与 MRL 截断后的质量对照表,读者可据此评估在端侧 RAG 或检索场景中选哪个维度部署。

  13. Hugging Face · 趋势模型71

    面壁 MiniCPM-V 4.7 35B-A3B 发布,系列首个 MoE 多模态模型支持端侧推理

    面壁智能在 Hugging Face 开放 MiniCPM-V 4.7 35B-A3B,是 MiniCPM-V 系列首个 MoE 多模态模型。官方称借助 Lookahead Expert Scheduling、分层细粒度量化与 DSpark 投机采样,成为首个可无损流畅端侧运行的开源 MoE 模型,在 iPhone 17 Pro Max 上达到 13+ tokens/s;Instruct 模式下整体得分高于 Qwen3.6 35B-A3B 且推理时间更短。

    推荐理由:原文给出 LES 预取、分层量化和推测采样三条技术路径,解释了 MoE 在设备端跑顺的原理与部署选择。

  14. Hugging Face · 新模型:abliterated50

    Qwen3.8-Flash-Next-Abliterated GSQ-RCO GGUF 量化版发布

    Hugging Face 上发布 abliterated 版 Qwen3.8 Flash Next 的 GSQ-RCO 量化 GGUF(IQ3_XXS 源变体),共 2 个分片合计 83.14 GB,仅支持文本。实测生成速度约 21.13 tokens/s,比未修改的 ISTA IQ3_XXS 快约 31%,下载体积大 9.6%;MMLU 82.68%、GSM8K 86.72%、IFEval 85.16%、HumanEval 66.46%,质量等同尚未证实。仅供研究用途,需保留 Qwen Community License 1.0。

  15. Reddit · r/LocalLLaMA49

    训练出约 2 万参数的语言模型 MacroStories,仍能写故事

    Reddit 用户发布仅 19,969 参数(81 KB FP32)的语言模型 MacroStories,比 1M 参数的 TinyStories 模型小约 50 倍,采用 32 维隐藏状态、378-token 词表和共享权重循环复用的单个 decoder block。它虽非通用 LM,但能在受限故事分布内生成 100–300 词、含目标与结局的连贯叙事,且在 CPU 上即可极快运行、无需 GPU。

  16. Hugging Face · 新模型:uncensored16

    Hugging Face 上架 jaxybane/uncensored_models-heretic 模型

    Hugging Face Hub 上出现模型 jaxybane/uncensored_models-heretic,其模型卡为自动生成的 🤗 transformers 模板。开发者、许可证、基础模型、训练数据与评测结果等字段均标注 [More Information Needed],暂无具体参数或性能信息。

  17. Hugging Face · 新模型:uncensored40

    JevStyle-9B-Decision-Uncensored-v1 发布:基于 Qwen3.5-9B 的去审查决策模型

    独立研究项目 JevStyle-9B-Decision-Uncensored-v1 发布,基于 wangzhang/Qwen3.5-9B-abliterated 冻结底座,通过 LoRA(r=16)加决策头实现单次前向输出最多 24 个选项的校准概率分布,可部署增量约 145–165 MB。模型采用软标签 KL 蒸馏训练,公开 holdout 硬命中率 100%,敏感项安全类一致率 92.6%(后续 v5 软优化达 98.2%),权重以 Apache-2.0 发布,与 TypeSafe AI 或 Jev 无官方关联。

  18. GitHub · 去对齐工具与仓库45

    Radar HuggingFace Dataset:每日三次追踪 HuggingFace 生态的开源数据集

    Radar HuggingFace Dataset 是一个开放、持续更新且版本化的 HuggingFace 生态数据集,由 HF//RADAR 生成,每天 06:00、14:00、22:00 三次导出,记录新发布模型、作者、许可证、下载与 likes 等真实热度、参数量及格式(GGUF、MLX、safetensors),并用 removed/removed_at 标记被悄然下架的模型。每个模型含 JSON 元数据与西班牙语技术卡片,通过编号 release 提供可审计历史快照,采用 CC-BY-4.0 许可。

  19. Hugging Face · 新模型:uncensored50

    blaj 发布 Qwen-Image-2.1-Uncensored 的 OpenVINO INT4 版本

    blaj 在 Hugging Face 发布 Qwen-Image-2.1 Uncensored 的 OpenVINO INT4 量化版,将 abliterated 的 Qwen3-VL 文本编码器替换进原模型,总大小约 13 GB,可在 Intel Arc iGPU 上运行文生图。在 Core Ultra 7 258V 上 512x512、10 步生成耗时 12.9 秒(1.29 秒/步),峰值内存 7.1 GB;图像编辑(i2i)在 30 GB 内存下会耗尽内存,需 diffusers、optimum-intel 主分支及 OpenVINO 2026.5.0 nightly。

  20. GitHub · 灵魂体仓库54

    cultist-llm:用《密教模拟器》游戏文本微调 Qwen3,发布 0.6B 与 4B 权重

    开发者 alice-kroi 发布 cultist-llm 项目,用《密教模拟器》和《司辰之书》的本地游戏文本微调 Qwen3,让模型学会游戏晦涩书卷气的写法,可生成卡牌描述、事件叙事、结局文本并做中英互译。语料由脚本从本地安装的游戏抽取,共 20,110 个文本单元、59,018 条训练样本,经 LLaMA-Factory LoRA/QLoRA 在 16GB 显存 GPU 上训练,已发布 0.6B 和 4B 两个合并模型到 Hugging Face,实测 4B 语感和格式遵循度更好,代码 MIT 协议开源。

  21. Reddit · r/LocalLLaMA38

    Qwen3.8-cyber-RedTeam-Surgical-Abliterated 27B 发布:面向红队与底层安全的无约束基础模型

    Reddit 用户发布 Qwen3.8-cyber-RedTeam-Surgical-Abliterated(27B),一个面向网络安全工程师、授权红队行动和内存漏洞研究的无约束微调模型。模型基于 Qwen 3.5 Hybrid SSM 架构(48 层 Linear-Attention + 16 层 Full-Attention),原生 256K 上下文,KV cache 减少 75%,可在单张 GPU 上以 FP8 运行。通过残差流正交化移除拒绝方向,消除说教式拒绝,同时保留 C/汇编语法与推理能力,支持多步工具调用并开源权重。

  22. Hugging Face · 新模型:uncensored28

    mradermacher/qwen3.5-9b-uncensored-GGUF 模型使用指南

    Hugging Face 上 mradermacher/qwen3.5-9b-uncensored-GGUF 模型页面给出多框架使用方法,涵盖 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner、Lemonade 等工具,示例量化版本为 Q4_K_M。llama.cpp 可启动 OpenAI 兼容本地服务器并支持终端直接推理,vLLM 与 SGLang 均提供 OpenAI 兼容 API 调用方式。

  23. Hugging Face · 新模型:uncensored18

    mradermacher/qwen3.5-9b-uncensored-i1-GGUF 模型在 Hugging Face 发布

    mradermacher 在 Hugging Face 发布 qwen3.5-9b-uncensored 的 i1-GGUF 量化版本。该模型可通过 llama.cpp、Ollama、Docker Model Runner、LM Studio 等工具本地运行,示例采用 Q4_K_S 量化,支持启动 OpenAI 兼容本地服务器或终端直接推理,也可接入 Pi、Hermes、OpenClaw 等 Agent 工具。