跳到正文
10月22日周四
  1. Hugging Face · 新模型:uncensored52

    Qwen-Image-2.1 Uncensored 混合精度 GGUF 量化版发布,4.39 GB 对比 BF16 保真度更优

    Reizxn 在 Hugging Face 发布 abenzerps/Qwen-Image-2.1-Uncensored-Quantized 的逐层混合精度 GGUF 量化版,体积 4.391 GB、4.94 bits/weight,相对权重误差 0.0636。297 个张量独立量化并按最小化重构误差分配格式,组成 Q4_K×126、Q5_K×105、F16×66;实测平均 PSNR 24.25 dB,高于统一 Q4_K 的 22.44 dB,4 个测试主体中 3 个胜出,可用 stable-diffusion.cpp 或 ComfyUI-GGUF 加载,需搭配 Qwen-Image-2.1 VAE 和 Qwen3-VL-8B 文本编码器。注意仅适合 1024 及以上分辨率。

    推荐理由:作者给出了逐层混合精度分配方法与逐张渲染的 PSNR 对比数据,读者可以按需判断该 4.39 GB 量化版相对统一 Q4_K 的保真度收益。

  2. Hugging Face Blog43

    TorchNeuron 性能分析(第一部分):在 AWS Trainium 上进行系统级 profiling

    Hugging Face 发布 TorchNeuron 系列教程第一部分,讲解如何在 AWS Trainium 上用 torch.profiler 与 Neuron 系统级 profiling 系统分析推理性能。文章介绍通过 NeuronConfig、NeuronProfiler 配置捕获 DEVICE 与 RUNTIME 数据流,并用浏览器工具 Neuron Explorer 查看系统 trace 与设备时间线。教程以 RMSNorm 的三种实现(朴素 PyTorch 算子、torch.rms_norm()、torch.compile)为例对比,脚本可在 torch-neuronx examples 目录获取。

  3. Hugging Face Blog43

    TorchNeuron 性能分析(第一部分):在 AWS Trainium 上进行系统级 profiling

    Hugging Face 发布 TorchNeuron 系列教程第一部分,讲解如何在 AWS Trainium 上用 torch.profiler 与 Neuron 系统级 profiling 系统分析推理性能。文章介绍通过 NeuronConfig、NeuronProfiler 配置捕获 DEVICE 与 RUNTIME 数据流,并用浏览器工具 Neuron Explorer 查看系统 trace 与设备时间线。教程以 RMSNorm 的三种实现(朴素 PyTorch 算子、torch.rms_norm()、torch.compile)为例对比,脚本可在 torch-neuronx examples 目录获取。

  4. Hugging Face · 新模型:uncensored21

    mradermacher 发布 gemma-4-E4B-it-The-DECKARD-V2-Strong-HERETIC-UNCENSORED-Thinking 的 GGUF 量化版本

    mradermacher 在 Hugging Face 上架了 gemma-4-E4B-it-The-DECKARD-V2-Strong-HERETIC-UNCENSORED-Thinking 的 bf16 GGUF 量化模型,提供 IQ3_M 等量化格式。页面给出 Transformers、llama.cpp、Ollama、Docker、LM Studio、MLX 等多种本地运行与部署方式,可通过 llama-server 启动 OpenAI 兼容本地服务器。

10月21日周三
  1. Hugging Face · 新模型:uncensored20

    mradermacher 发布 gemma-4-E4B-it-The-DECKARD-Expresso-Universe-HERETIC-UNCENSORED-Thinking 的 bf16-i1 GGUF 量化版本

    mradermacher 在 Hugging Face 上线 gemma-4-E4B-it-The-DECKARD-Expresso-Universe-HERETIC-UNCENSORED-Thinking-bf16-i1-GGUF 量化模型,提供 Q2_K 等量化格式。该模型可通过 llama.cpp 的 llama serve / llama cli 直接运行,支持 OpenAI 兼容本地服务器,并适配 Ollama、Docker Model Runner、Lemonade、LM Studio 等多种本地工具。

  2. Hugging Face · 新模型:abliterated68

    Ternary-Bonsai-2 27B 无对齐版重打包为 1.75-bit GGUF 并附 MTP 草稿头发布

    Cheurteen 在 Hugging Face 发布了 Hikari07jp 消融版 Ternary-Bonsai-2 27B 的重打包 GGUF:把三值权重从 2.125-bit 编码重新量化到 Prism 的 1.75-bit PTQ1_0 格式,并将 PrismML 的 MTP 草稿头以 Q4_0 重新量化合并。实测在 RTX 3070 8 GB 上,带草稿头的文件达 69.3 tok/s,无头版本 50.8 tok/s;困惑度 8.2894 优于 2.125-bit 版的 8.4593,MMLU 76.07%、HumanEval pass@1 75.00%,重打包仅改变 0.0943% 的权重、MMLU 差 0.14 点。

    推荐理由:作者不仅重打包了消融权重,还给出困惑度、tok/s 和 MMLU 等前后对照数据,可以看清 1.75-bit 格式相对 2.125-bit 的实际收益。

  3. Hugging Face Blog53

    IBM 发布 Granite Speech 5.0 系列语音模型,含新增 2B 及两款更新版本

    IBM 在 Hugging Face 发布 Granite Speech 5.0 系列:新增 granite-speech-5.0-2b 语音语言模型,并更新 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。2B 版支持六语种转录与翻译、2000 词关键词偏置,英文平均 WER 5.06%,在开源权重 ASR 模型中排名第 2;Turbo CTC 版扩展至七语种并提速约 1.6 倍至 19,870 RTFx;4.1 2B Plus 说话人归因与时间戳更准,长语音 WER 降 24%。三款模型均为 Apache 2.0 许可,支持 Transformers、vLLM、llama.cpp 等。

    推荐理由:官方给出各模型在 Open ASR Leaderboard 上的 WER、RTFx 和说话人归因误差对比数据,读者可据此挑选适合的语音模型。

  4. Hugging Face · 新模型:uncensored22

    Qwen3.6-35B-A3B-Uncensored Genesis GGUF 版本发布

    burningfeet 在 Hugging Face 发布基于 HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 的 Genesis 版 GGUF 模型,经 Marchenko–Pastur 定律的 SVD 张量去噪修复,0/465 次拒绝。模型为 MoE 架构,总参数 35B、每 token 激活约 3B,原生 262K 上下文(YaRN 可扩展至 1M),支持文本、图像、视频多模态,兼容 llama.cpp、LM Studio 等运行时。

  5. Hugging Face · 新模型:uncensored80

    AtomicChat 发布 DeepSeek-V4.1-Flash-1017 无拒绝版 GGUF 权重

    AtomicChat 将 DeepSeek-V4.1-Flash-1017 中的拒绝方向从权重中投影移除,发布 GGUF 量化版和 rank-1 LoRA 适配器。实测 JailbreakBench 英文拒绝率从 88.9%/91.4% 降至 0.0%,3.58bpw-Q2_K 档 MMLU 86.0%→86.6%,2.67bpw-IQ1_M 档 MMLU 降至 81.8% 未通过门槛;需支持 DeepSeek-V4.1 的 llama.cpp 构建(如 Unsloth 的 commit 9d907b7cfe0e),Engram n-gram 表可留在 SSD 上分页读取。

    推荐理由:原文给出拒绝率、KLD 和 MMLU 的前后对照数据,还说明各量化档的取舍,读者可据此选择合适的版本。

  6. Hugging Face · 新模型:abliterated48

    Spark-X2.6-4B-Tema_Q-Abliterated 模型发布

    基于 XHToken/Spark-X2.6-4B 的去审查版本,用 Tema_Q-Abliterated v1.1.1(SCAPE 算法)从权重中消融拒绝方向,完整生成测试拒绝 0/100,KL 散度 0.0353。SCAPE 代理目标比常规全生成评估快约 49 倍,CPU 即可运行。用法与基础模型一致,支持 transformers、vLLM、llama.cpp 等。

  7. Hugging Face · 新模型:uncensored78

    AtomicChat 发布 FLUX 3 Image Klein 提示词扩展器无拒绝 GGUF 版

    AtomicChat 放出 BFL 的 FLUX 3 Image Klein 提示词扩展器去拒绝版本,通过投影移除拒绝方向,以 GGUF 和 3MB LoRA 两种形式提供。作为对话模型,英语拒绝率从 63% 降到 0%,俄语从 29% 降到 1%,MMLU 仅从 74.15% 降到 73.95%;在 Klein 文生图管线中未观察到去审查效果,因原始图像模型本身已能画出敏感类别。

    推荐理由:发布方给出拒绝率、MMLU 和量化损失的完整实测数据,读者可据此判断这个去对齐版本的实际代价。

  8. Hugging Face · 新模型:uncensored66

    AtomicChat 发布 FLUX 3 Image Klein 无对齐文本编码器 GGUF

    AtomicChat 发布 FLUX 3 Image Klein 文本编码器 Qwen3-VL-4B-Instruct 的去对齐 GGUF,将拒绝方向从权重中投影移除,供 stable-diffusion.cpp 以 --llm 直接使用。英文拒绝率从 79% 降至 0%,俄语从 32% 降至 0%,MMLU 从 71.1% 到 71.2%;提供 BF16 到 Q4_K 多档量化,并附与 webmp3 Sakura 等同类编码器的对比数据。

    同一新闻,精选展示《FLUX 3 Image Klein 文本编码器去对齐 GGUF 版发布,英文拒绝率从79%降至0%》

  9. Hugging Face · 新模型:uncensored50

    pottokao 发布 LFM2.5-24B-A2B-Uncensored-NVFP4 量化版

    pottokao 在 Hugging Face 发布 LiquidAI LFM2.5-24B-A2B 去审查版的 NVFP4(W4A16)量化模型,经 Heretic ARA 处理后拒绝率从 89/100 降至 0/100。模型体积 14.95 GB(BF16 原版 48 GB),仅 MoE 路由专家采用 NVIDIA ModelOpt 0.45 量化,其余权重保持 BF16,可用 vLLM 部署,适用于研究、红队测试与个人使用。

  10. Hugging Face · 新模型:uncensored54

    LFM2.5-24B-A2B 无对齐 GGUF 量化版发布,拒绝率从 89/100 降到 0/100

    pottokao 在 Hugging Face 发布 LiquidAI/LFM2.5-24B-A2B 的去对齐 GGUF 量化版,用 Heretic ARA 去审查后拒绝率从 89/100 降到 0/100,BF16 权重上 KL 为 0.260。所有 attn_output 张量保持 Q8_0,去对齐修改集中在 blk.38.attn_output;IQ3_M 档可在 16 GB 显存单卡运行,模型回答前会先思考,需留较大输出预算。

    推荐理由:作者给出了用 Heretic ARA 去对齐前后的拒绝率对比和 KL 数值,并说明各量化档的显存取舍。

  11. Hugging Face · 新模型:uncensored53

    LFM2.5-24B-A2B-Uncensored 发布:仅改动一个张量将拒绝率从 89/100 降到 0

    pottokao 发布基于 LiquidAI/LFM2.5-24B-A2B 的去对齐版本,用 Heretic 的 ARA 方法和分布式 Optuna 搜索实现。仅 model.layers.38.self_attn.out_proj.weight 一个张量被改动,BF16 权重、tokenizer 和聊天模板保持官方原样。实测(关闭思考块后测)拒绝率从原版 89/100 降到 0/100,first-token KL 为 0.260;作者提醒不同测法下 KL 数字差异巨大,需同口径对比。用法与原模型相同,支持 transformers / vLLM / SGLang / llama.cpp,官方 DSpark draft 模型在此版本上的接受率尚未测得。

    推荐理由:原文给出只用一个张量的最小改动和关闭思考块前后的 KL 对照,可帮助读者判断去对齐版本的取舍。

  12. Hugging Face · 新模型:uncensored21

    mradermacher 发布 gemma-4-E4B-it-The-DECKARD-Expresso-Universe-HERETIC-UNCENSORED-Instruct-bf16-GGUF 量化模型

    mradermacher 在 Hugging Face 上架 gemma-4-E4B-it-The-DECKARD-Expresso-Universe-HERETIC-UNCENSORED-Instruct-bf16-GGUF 量化模型,提供 Q4_K_S 等量化版本。该模型可通过 llama.cpp、Ollama、Docker Model Runner、LM Studio、Jan、Lemonade 等工具本地运行,支持启动 OpenAI 兼容服务器或在终端直接推理。

  13. Hugging Face · 新模型:uncensored22

    mradermacher 发布 gemma-4-E4B-it-The-DECKARD-V2-Strong-HERETIC-UNCENSORED-Thinking 的 bf16 GGUF 量化版本

    mradermacher 在 Hugging Face 上架 gemma-4-E4B-it-The-DECKARD-V2-Strong-HERETIC-UNCENSORED-Thinking 的 bf16 GGUF 量化模型,提供 Q4_K_S 等量化格式。该模型可通过 llama.cpp、Ollama、Docker Model Runner、LM Studio、Jan 等工具本地运行,支持启动 OpenAI 兼容服务器或在终端直接推理,也可接入 Pi、Hermes、OpenClaw 等 Agent 工具。

  14. Hugging Face · 新模型:uncensored25

    mradermacher 发布 gemma-4-E4B-it-The-DECKARD-Expresso-Universe-HERETIC-UNCENSORED-Thinking 的 bf16 GGUF 量化版本

    mradermacher 在 Hugging Face 上发布 gemma-4-E4B-it-The-DECKARD-Expresso-Universe-HERETIC-UNCENSORED-Thinking 的 bf16 GGUF 量化版本。文档给出通过 llama.cpp、Ollama、Docker 等工具运行 Q4_K_S 量化文件的命令,可直接启动 OpenAI 兼容本地服务器或在终端推理。

  15. Hugging Face Blog53

    Hugging Face 与 NVIDIA 推出 SimReady Central 开放仿真资产库

    Hugging Face 与 NVIDIA 宣布推出 SimReady Central Library,汇集超过 2,000 个带物理属性的 SimReady OpenUSD 仿真资产,免费、无门槛开放。资产覆盖机械臂、夹爪、仓储和冷却设备等,由 FANUC、Universal Robots、Vertiv、LG Electronics 等 OEM 提供,可用于机器人训练环境和 AI 工厂数字孪生,并支持 USD Search 自然语言检索与 GPT-6 Astra 辅助搭建 Isaac Sim 场景。

    推荐理由:由发布方直接介绍资产库的构成和OEM贡献方式,读者可以了解免下载门槛的仿真资产从哪里找、怎么用。

  16. Hugging Face · 趋势模型59

    HuggingFaceBio 发布 14.8B DNA 语言模型 Carbon-X

    Hugging Face 联合 Zhongguancun Academy 与 Telethon 遗传学研究所发布开源 14.8B 模型 Carbon-X,基于 Qwen3-14B,用混合 tokenizer 在单一 decoder 中联合建模 DNA 序列与自然语言。五项 DNA 基准平均 66.7%(关闭思考),比起点 Qwen3-14B 高 27 分,接近 GPT-6.1 Sol 的 67.5% 而推理成本约为其 1/1800,分析 ClinVar 全部 240 万意义不明变异约花 $300。权重以 bfloat16 适配单张 80 GB GPU,可用 vLLM 部署,支持作为 agent 工具调用,未做临床验证、不可用于医疗决策。

    推荐理由:原文给出五项 DNA 基准得分、成本对比和完整训练配方,读者可以据此评估这个 DNA 语言模型的实际水平与用法。

  17. Hugging Face · 新模型:uncensored24

    yushen100 发布 Moss-image-nsfw-uncensored-lora:基于 MOSS-Image-SFT 的去审查 LoRA

    yushen100 在 Hugging Face 上发布 Moss-image-nsfw-uncensored-lora,一个基于 OpenMOSS-Team/MOSS-Image-SFT 的去审查 LoRA 权重,可通过 Diffusers 的 load_lora_weights 加载,使用触发词 moss_xvstyle 生成图像。该模型支持 bf16 精度在 CUDA 上运行,并提供 Google Colab、Kaggle、Draw Things、DiffusionBee 等使用入口。

  18. Hugging Face · 新模型:uncensored42

    LxBarn 发布 Qwen-Image-2.1-Uncensored 量化版,支持 ComfyUI 本地生图

    LxBarn 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的无审查(Uncensored)量化版本,提供 GGUF、Safetensors 和 MLX 格式,文件大小从 NVFP4 的 4.20 GB 到 BF16 的 14.23 GB 不等,其中 Q4_K_M(4.60 GB)被推荐为 GGUF 体积与质量的最佳平衡。该版本内置 qwen3vl_8b 文本编码器与 VAE 文件,可直接在 ComfyUI 中使用,且无内置安全检查器,可直接生成成人、NSFW 及敏感图像。

  19. Hugging Face · 新模型:uncensored74

    Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100

    JonathanColetti 发布 Qwen3.8-27B 的去对齐 GGUF 量化版,用 Heretic 移除拒绝方向,100 条有害提示上的拒绝数从基座的 98 降到 12,首 token KL 散度 0.1191。提供 IQ2_M 到 Q8_0 共六档量化并保留 MTP 头,MMLU、ARC-Challenge、HellaSwag、Winogrande 平均下降 0.5 分,困惑度相对基座 bf16 增加 0.0434,附 ComfyUI 与 llama.cpp 用法及投机解码吞吐数据。

    同一新闻,精选展示《Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100》

  20. Hugging Face · 新模型:abliterated39

    Huihui-Qwen3.8-27B-abliterated GGUF 发布:Qwen3.8-27B 去审查版本

    huihui-ai 发布基于 Qwen/Qwen3.8-27B 的去审查(abliterated)GGUF 版本,通过 abliteration 技术移除模型拒绝回答行为,仅消融部分层(如第 22 至 52 层,0 起始索引),MTP 与视觉部分未改动。提供 Q2_K_L 至 Q8_0_L 等多种量化格式,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144 上下文;模型安全过滤大幅降低,建议用于研究测试而非生产环境。

  21. Hugging Face · 新模型:uncensored22

    botp/Moss-image-nsfw-uncensored-lora:基于 MOSS-Image-SFT 的 NSFW 去审查 LoRA 使用指南

    botp/Moss-image-nsfw-uncensored-lora 是一个用于 OpenMOSS-Team/MOSS-Image-SFT 的 NSFW 去审查 LoRA 权重,可通过 Diffusers 加载,提示词以触发词 moss_xvstyle 开头。官方文档给出 pip 安装与推理代码示例,并支持 Google Colab、Kaggle、Draw Things、DiffusionBee 等笔记本与本地应用。

  22. arXiv · cs.CL25

    Africa-Papers:面向非洲基础语言模型的 100 亿 token 多领域学术语料库

    研究者发布 Africa-Papers,这是迄今最大的多领域泛非学术预训练语料库,包含 844,807 篇全文论文、共 10.15 billion tokens,分 879 个 Parquet 分片,涵盖 DOAJ 非洲期刊、CGIAR CGSpace 农业库、arXiv 非洲作者预印本及 OpenAlex 开放获取论文四大学科来源。语料以保留章节结构、公式和表格的干净 Markdown 格式发布,配有精确 BPE token 计数和 8 域分类体系,已在 Hugging Face Hub 的 AfriSpeech 组织下开源,用于支持非洲基础模型的持续预训练与领域评测。

  23. Hugging Face · 新模型:abliterated70

    koldfrontier 发布 DeepSeek-V4.1-Flash-1017 FP8 abliterated 完整权重

    koldfrontier 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 FP8 abliterated 完整权重,仅原地改写 52 个张量(attn.wo_b,第 10-35 层),lambda 2.5,架构不变,可直接用 vLLM 或 SGLang 按原配方部署。实测 1,207 条提示下拒绝率大幅下降,如 HarmBench 从 94.1% 降至 5.0%,过拒率略有改善;代价是一个安全工具的授权/未授权配对从 8/11 降到 0/11,另提供保留 6/11 配对的 lambda 1.0 overlay 版本。

    同一新闻,精选展示《koldfrontier 发布 DeepSeek-V4.1-Flash-1017 abliterated 全量权重》