跳到正文
#Hugging Face
10月18日周日
  2. Reddit · r/LocalLLaMA51

    Reddit 用户分析指 AutoTrust 的 Hugging Face 模型靠数千刷赞账号登上趋势榜

    Reddit 用户 /u/mrfakename0 分析称 AutoTrust 在 Hugging Face 上的模型靠大量刷赞账号登上趋势榜首页。这些账号呈现固定模式：随机生成的假姓名、其变体用户名、不存在的社交资料、AI 生成简介、少量随机点赞后集中点赞目标模型，部分还附带假的小模型。作者对比了 Google、Meta、Hugging Face 等正常模型的点赞数据，并引用 /u/prithivMLmods 对 AutoTrust spaces 点赞和账号注册日期分布的分析，认为有数千规模的账号在刷赞并绕过 hCaptcha 和 AWS WAF，但无法确定是否为 AutoTrust 自身所为。

  3. Hugging Face · 新模型：abliterated32

    edp1096/Huihui-GLM-5.3-Flash-abliterated-FP4-Local 发布

    Hugging Face 用户 edp1096 发布 GLM-5.3-Flash 的非官方 NVIDIA FP4-Local 衍生版本，将 Huihui Q8 abliterated 权重的差量应用到 nvidia/GLM-5.3-Flash-FP4-Local 基座。更新了第 15–36 层的 44 个 attention-output/shared-expert-down 矩阵和 22 个 scale 张量，其余张量保留，无需额外 QAD 训练。运行需两台 DGX Sparks（TP2）和 B12X vLLM；42 个权重文件全部校验通过，8/8 冒烟测试通过，最长实测输入 64,481 tokens。

  4. GitHub · 3D 生成新仓库36

    Media Workbench 0.2.0-alpha.10 发布：本地 Stable Diffusion 1.5 图像生成与局部重绘 Windows 应用

    开源实验性项目 Media Workbench 发布 0.2.0-alpha.10 预览版，这是一款基于 WinUI 3、C# 14、.NET 10 与 Rust 核心的 Windows x64 本地图像工具，支持从 Hugging Face 安装隔离的 Stable Diffusion 1.5 环境进行文生图。新版支持局部重绘：只重绘涂抹区域、其余像素不变，图片最长边最高 4096 像素，并提供 2×/4× 离线放大和可搜索 Library。图像生成需 NVIDIA GPU 至少 6 GB 显存和约 5 GiB 下载，视频生成仍在计划中。

  5. Hugging Face · 新模型：uncensored47

    Qwen3.8-Flash-Next-Uncensored NVFP4 量化版发布，支持 2× GB10 部署与 1M 上下文

    Hugging Face 上发布 Qwen3.8-Flash-Next-Uncensored-NVFP4 的 GB10 构建镜像（Apache-2.0），可在 2× DGX Spark（GB10，TP=2）上用 vLLM 部署，支持 1M 上下文（YaRN ×4，max_position_embeddings 1048576），KV 池 3.76M tokens。实测对比 dev461 构建：prefill 8k–131k 提升 9–12.5%（约 3.7k tok/s），1M token TTFT 从 411s 降至 365s，KV 容量 ×1.95，质量 97.75% top-1 一致、NLL +0.019%。

  6. Hugging Face · 新模型：abliterated20

    Huihui-Ornith-1.5-35B-A3B-abliterated 重打包版本上架 Hugging Face，适配 Tiiny 设备

    lafintiger 在 Hugging Face 上传了 huihui-ai/Huihui-Ornith-1.5-35B-A3B-abliterated 的重标注副本，权重未修改，仅将 base_model 标注改为同架构的 Qwen/Qwen3.6-35B-A3B，以便在 Tiiny 设备上导入。原模型是通过 abliteration 移除拒绝行为的无审查版本，仅对第 11 至 29 层做了消融，许可与署名归原作者。

  8. Hugging Face · 新模型：abliterated74

    Qwen3.8-27B 去拒绝消融版 GGUF 量化发布，附各档量化实测对比

    vedevpatel 发布 rajaykumar12959/qwen3.8-27b-abliterated 的 imatrix GGUF 量化，该模型移除了拒绝行为，可回答原版 Qwen3.8 拒答的请求，目标在 16 GB 显存上用 llama.cpp 运行。每个量化均与 BF16 原版对比：MMLU-Pro（4200 题、5-shot、thinking off）差异均在 95% 置信区间内不显著，BF16 为 79.60%；WikiText-2 KL 散度显示 IQ3_M 漂移比 4-bit 量化高 3.3–3.8 倍。

    推荐理由：作者对每个量化版本都给出了与 BF16 原版的 MMLU-Pro 和 KL 散度对比，还实测了 16 GB 显存下的上下文与速度表现。

  9. Hugging Face · 新模型：abliterated80

    mrfakename 发布 DeepSeek-V4.1-Flash-1017 去对齐版

    mrfakename 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 abliterated 版本，用方向性消融移除拒绝行为。chat 和 think 模式沿不同方向拒绝，因此移除 rank-2 拒绝子空间，逐层测量方向并投影出 40 个主层的残差流写入，各层强度由多目标搜索确定。Q8_0 GGUF 贪心解码下，chat 拒绝率从 97/100 降至 4/100，think 模式推理头拒绝从 98/100 降至 9/100，harmless 首词 KL 为 0.067；路由专家、嵌入、Engram 表和 DSpark/MTP 层与原版逐位一致，另提供 abliteration-lora.gguf 和 abliteration-edit.npz。

    推荐理由：原文给出rank-2拒绝子空间的消融方法和拒绝率前后对比数据，读者可据此判断这个去对齐版本实际去掉了多少。

  11. Hugging Face · 新模型：abliterated66

    distributedcognition 发布 Mellum2.1-12B-A2.5B-Thinking 的 abliterated 去对齐版本

    distributedcognition 在 Hugging Face 发布 JetBrains/Mellum2.1-12B-A2.5B-Thinking 的 abliterated 版本，用投影式 writer 级消融从权重中移除拒绝方向，gated alpha 0.8 下 104 条有害提示的 judge 拒绝从 12 降到 5，MMLU-14k 仅降 0.05pp。发布包含逐层拒绝方向文件（refusal_directions.pt、dirs.npz）供任意强度重消融，完整评测原始数据在 eval-results/，GGUF Q8_0 量化可在 llama.cpp、LM Studio、Ollama、Jan 运行，Apache 2.0 许可。

    推荐理由：原文给出消融方法细节和拒绝率、MMLU 前后对比数据，读者可据此判断这个去对齐版本的实际代价。

  12. Hugging Face · 新模型：uncensored60

    sky3c 发布 Qwen3.8-27B TURBO 去对齐 GGUF 微调版，ARC-C 达 735

    sky3c 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段微调 GGUF 版本，用 Heretic v1.2.0 的 ARA 方法去审查，8 bit 拒绝率从 99/100 降到 0/100，KL 散度 0.0535。模型将思考 token 减至原版的 1/2 到 1/10，8 bit ARC-C 735、ARC-E 882，4 bit ARC-C 719，作者称在全部 7 项基准上超过原版 Qwen3.8-27B。提供常规与 MTP 两种 GGUF 量化，Q4_K_S 下常规版约 75 t/s、MTP 版可超 90 t/s（5090 实测），支持 256k 上下文与视觉（需另下 mmproj 文件），工具调用建议 Q4_K_M 以上量化。

    同一新闻，精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版，ARC-C 达 735》

  13. Hugging Face · 新模型：abliterated38

    Xing4.0-29B-A4B APEX-I-MiniPlus-V2.1 Abliterated GGUF 量化发布

    Hugging Face 上发布 Xing4.0-29B-A4B 的 Abliterated 版 GGUF 量化，基于 huihui-ai/Huihui-Xing4.0-29B-A4B-abliterated，采用逐 tensor 混合精度布局，文件 13.76 GB（3.42 BPW），WikiText-2 PPL 7.7238，较 BF16 源（7.3060）仅上升 5.71%，达 Q5_K_M 级质量。该模型为 29B 总参数、每 token 约 4B 激活的 MoE 架构，含 mHC、MLA 与 MTP，原生 256K 上下文，可扩展至 512K，适合消费级 GPU 与 RAM/GPU 混合部署。

  15. GitHub · 灵魂体仓库9

    sultanbekkazakov03 发布 financial-news-sentiment-market-modeling：用 FinBERT 与 LLM 建模金融新闻对市场的影响

    一个名为 financial-news-sentiment-market-modeling 的 GitHub 项目基于 FinBERT 与 LLM，结合多元回归等统计模型，分析金融新闻和股市公告对股价走势的影响，并面向投资者提供交互式风险看板。项目使用 Python 3.10+，技术栈包括 Pandas、Scikit-learn、Statsmodels、Hugging Face Transformers 和 Streamlit，由五名学生团队在数据挖掘与商业智能课程框架内开发。

  16. Hugging Face · 新模型：abliterated62

    koldfrontier 发布 Swift1.5-Qwen3.8-Flash-Next 的全量 abliterated 去对齐版本

    koldfrontier 在 Hugging Face 发布 ukisai/Swift1.5-Qwen3.8-Flash-Next 的 abliterated 衍生版，对全部 48 层共 24,720 个组件逐权重移除拒绝方向，无训练、无新数据。实测显示未授权框架下的保护性拒绝从 85% 降至 69%，有害请求服从率从 91.0% 升至 94.5%，良性提示的 KL 散度仅 0.0057，但 8 项能力探针丢了 3 项；方向捕获依赖 thinking 开启的提示模式，enable_thinking=False 时有害服从率仅 2.5%。作者定位其为安全研究产物而非安全对齐模型，数字为单模型案例研究。

    推荐理由：原文给出逐组件消融方法与消融前后的拒绝率、KL 散度对照数据，可据此判断这次去对齐实际改变了什么、损失了多少能力。

  17. Hugging Face · 新模型：uncensored38

    Qwen-Image-2.1 无审查版 GGUF 量化发布

    NeverWantedJr 基于 Qwen/Qwen-Image-2.1 上游权重发布无审查版 GGUF 量化文件，提供 BF16（14.23 GB）到 Q4_0（4.15 GB）多种规格，推荐 Q4_K_M（4.60 GB）兼顾体积与质量。该版本无内置安全检查器，可直接生成成人及 NSFW 内容，配套 qwen3vl_8b 文本编码器与 VAE 文件，通过 ComfyUI 与 ComfyUI-GGUF 本地运行，文本编码器卸载到内存可节省 9–17 GB 显存。

10月17日周六
  1. Hugging Face · 新模型：abliterated36

    humanizer-abliterated 11.96B 模型的 FP8-DYNAMIC 量化版发布

    moeshawky 发布 distributedcognition/humanizer-abliterated（11.96B 参数，Gemma4UnifiedForConditionalGeneration 架构）的 FP8-DYNAMIC 量化版，体积 13.02 GB，为 BF16 原版的 54.4%，仅对 328 个语言模型 linear 层做 E4M3 权重与动态激活量化，嵌入、lm_head 及视觉/音频模块保持 BF16。该版本经结构验证可运行，可在 vLLM、SGLang 或 Transformers 中直接加载，但未做 benchmark，无 perplexity 或吞吐数据。许可证为 apache-2.0，需遵守上游基础模型的附加条款。

  2. Hugging Face · 新模型：abliterated34

    humanizer-abliterated INT8 W8A8 量化版发布：11.96B 模型体积降至 BF16 的 54%

    moeshawky 发布 distributedcognition/humanizer-abliterated 的 INT8 W8A8 动态量化版，基于 llmcompressor 对 11.96B 参数模型中的 328 个语言模型线性层做 8-bit 量化，体积从 23.92 GB 降至 13.02 GB（54.4%），embedding 与 lm_head 保持 BF16。实测 INT8 权重 SNR 约 39.9 dB，logits 分布与 BF16 源一致；未做 MMLU 重评与吞吐测试。模型可直接在 vLLM、SGLang 或 Transformers 中加载，采用 apache-2.0 许可。

  3. Hugging Face · 新模型：abliterated33

    Hemmingway-1-27B-abliterated FP8-DYNAMIC 量化版发布

    moeshawky 发布 distributedcognition/Hemmingway-1-27B-abliterated 的 FP8-DYNAMIC 8-bit 量化版，基于 27.32B 参数的 BF16 原模型，体积从 54.64 GB 降至 30.30 GB（55.5%）。仅量化语言模型解码器内 496 个 linear 层权重（F8_E4M3、per-channel 对称），激活为 per-token 动态量化，lm_head、embed_tokens、MTP 头与 Gated DeltaNet 状态张量保持 BF16。实测 FP8 权重 SNR 约 31.6 dB，可在 vLLM、SGLang 或 Transformers 直接加载，未做 benchmark。

  4. Hugging Face · 新模型：abliterated28

    Hemmingway-1-27B-abliterated 的 INT8 W8A8 量化版发布

    moeshawky 发布 distributedcognition/Hemmingway-1-27B-abliterated 的 INT8 W8A8 动态量化版，基于 27.32B 参数的 BF16 原模型，体积从 54.64 GB 降至 30.30 GB（55.5%），仅量化语言模型解码器中的 496 个 linear 层，lm_head、embed_tokens、MTP 头与 Gated DeltaNet 状态张量保持 BF16。实测 INT8 权重 SNR 约 39.6–40.8 dB，logits 分布接近原模型；可直接在 vLLM、SGLang 或 Transformers 中加载，尚未做 benchmark、吞吐或消融鲁棒性测试，许可证为 apache-2.0。

  5. Reddit · r/LocalLLaMA44

    Reddit 网友实测：Qwen 3.8 Flash 搭配完整 FP8 n-gram 表（PLE）提升生成质量

    Reddit r/LocalLLaMA 用户发现，Qwen 3.8 Flash 常见 GGUF 量化中 PLE（SSD 上的 n-gram 表）被重度量化，影响性能。其用 ple_fp8_pack.py 打包 FP8 PLE（bf16 sidecar 仅 llama.cpp 支持，Strata 需 FP8），在 iq3_s 量化下明显减少低级错误且不损失速度，仅需约 47GB 额外磁盘空间。

  6. Reddit · r/LocalLLaMA53

    NVIDIA 发布 Nemotron-Labs-Dory1.0-4B-BF16 循环架构小模型

    NVIDIA 在 Hugging Face 上发布 NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16，总参数 4B，采用 looped（latent-recurrent）normalized-GPT 架构，混合交错滑动窗口注意力（SWA）与全注意力层，通过重复应用共享层块为每个 token 花费更多计算以提升智能。上下文长度最高 256K tokens，精度 BF16，支持英语，采用 OpenMDW License 1.1，可商用或非商用，发布日期为 2026 年 10 月 16 日。

  7. Hugging Face · 新模型：abliterated20

    Sindexter/qwen2.5-7b-abliterated-gguf 模型在 Hugging Face 上提供 llama.cpp 等多种本地运行方式

    Hugging Face 上线 Sindexter/qwen2.5-7b-abliterated-gguf 模型页面，提供 Q3_K_M 量化版本。用户可通过 llama.cpp 在本地启动 OpenAI 兼容服务器或终端直接推理，也支持 Ollama、Docker Model Runner、LM Studio、Jan、Lemonade 等工具运行，并可接入 Pi、Hermes、OpenClaw 等 Agent 使用。

  8. Hugging Face · 新模型：uncensored25

    webmp3 发布 Sakura-Nemotron-3.5-Bolt-74B-A9B-24GB-Uncensored GGUF 模型

    webmp3 在 Hugging Face 上发布 Sakura-Nemotron-3.5-Bolt-74B-A9B-24GB-Uncensored 的 GGUF 版本。该模型可通过 llama.cpp、vLLM、Ollama、Docker Model Runner 等工具运行，支持启动 OpenAI 兼容本地服务器或在终端直接推理，也可在 LM Studio、Jan、Pi、Hermes Agent、OpenClaw 等客户端中使用。

  10. GitHub · 3D 生成新仓库23

    XREPORT：本地优先的 X 光放射报告生成研究应用开源上架 GitHub

    GitHub 新仓库 XREPORT 是一款本地优先的研究应用，可从 X 光影像生成可编辑的放射报告草稿，支持数据集准备、本地模型训练与评估，并提供四个精选公开报告生成模型（前三个专注胸部 X 光，第四个为更广医学影像选项且需接受提供商条款下载）。应用还支持 MIMIC-CXR 数据集和本地训练的 Custom XReport 模型，生成结果须经合格专业人员独立审阅，定位为研究评估工具而非诊断设备。

  11. Hugging Face · 新模型：abliterated60

    Qwen2.5-32B-Instruct abliterated 去对齐版本发布

    varun-balani 在 Hugging Face 发布 Qwen2.5-32B-Instruct 的 abliterated 版本，用 Heretic 的 ARA 修饰器去除拒绝方向。mlabonne/harmful_behaviors 拒绝率从 98/100 降到 10/100，相对基座模型 KL 散度 0.22；该结果从 24 次试验的优化中选出，提供 bf16 全量权重及 Q4_K_M（约 20 GB）和 Q8_0（约 35 GB）GGUF 量化版本，Q4_K_M 可在约 36 GB 内存的本地环境用 Ollama、LM Studio 或 llama.cpp 运行。

    推荐理由：原文给出拒绝率前后对比和 KL 散度数据，可据此判断这个去对齐版本的行为漂移程度。

  14. Reddit · r/LocalLLaMA36

    28 KB 激活探针可判断 AI 智能体是“准备待审”还是“直接执行”

    一位开发者训练了一个仅 28,708 字节的 logistic 激活探针，用于区分用户是让智能体准备动作还是批准执行。在 3,000 个测试样本上探针达到 0.8137 AUROC，高于同数据训练的文本分类器的 0.7897（p=0.0150）。测试中 MiniCPM5-1B 表现最好，有效信号来自第 13、14 层中间输出而非最后一层，探针可作为硬权限门之外补充的意图判断信号。

  15. Hugging Face · 新模型：uncensored44

    Qwen3.8-27B Defiance Uncensored (MTP, GGUF) 发布：40 种模式的无审查版

    ttindall 将 DavidAU 的 Turbo-Brilliance "AI Construct" 模式套用到 HauhauCS 的无审查 Qwen3.8-27B 上，发布 Defiance Uncensored GGUF，移除拒绝层，提供 Joker、Dr. House、20-agent Einstein panel 等 40 种模式。权重与上游逐字节一致（866 个 tensor 全部核对），IQ4_XS 量化 15.7 GB 可在 24 GB 显卡跑 131K 上下文，RTX 4090 上 instruct 模式解码 86-90 tok/s，兼容 llama.cpp、LM Studio 和 Ollama。

  16. Hugging Face · 新模型：abliterated18

    mradermacher 发布 Vietnamese-4B-Chat-abliterated 的 i1-GGUF 量化版本

    mradermacher 在 Hugging Face 上发布 Vietnamese-4B-Chat-abliterated 的 imatrix 加权 GGUF 量化版本，提供从 i1-IQ1_S（1.5GB）到 i1-Q6_K（3.6GB）的多种量化文件，其中 Q4_K_M 被标注为快速且推荐，Q4_K_S 为大小/速度/质量最优。该模型为视觉模型，mmproj 文件放在静态仓库中，静态量化版本另行提供。

  18. Hugging Face · 新模型：abliterated70

    BoldingBuilds 发布 Muse Spark Open 816B 的无审查 GGUF 版本

    BoldingBuilds 发布 Meta Muse Spark Open（816B 总参数 / 42B 激活）的无审查 abliterated 版本，直接在 Unsloth UD-IQ1_S GGUF 上原位编辑，全程不做 BF16 反量化。拒绝率从原版 85.06% 降到 1.30%（StrongREJECT 留出集），ForbiddenQuestions 上从 60.00% 降到 0.00%，XSTest 过度拒绝保持 0%，MATH-30 为 25/30 对原版 26/30。方法为对 62 层中第 10-53 块做读写侧投影（λ=1.0，每块单独估计拒绝方向，共 61 个方向），编辑 309 个张量、256 个路由专家未动，λ=0 时输出与输入字节一致作为自检门槛。

    推荐理由：原文给出拒绝率前后对照与逐块方向估计方法，读者可据此判断这个去对齐版本实际去掉了多少、代价多大。

  19. Hugging Face · 新模型：abliterated22

    mradermacher/Vietnamese-4B-Chat-abliterated-GGUF 模型使用指南

    mradermacher/Vietnamese-4B-Chat-abliterated-GGUF 是一个 abliterated 版本的越南语 4B Chat 模型 GGUF 量化仓库，提供 Q4_K_M 等量化版本。该模型可通过 llama.cpp 在 macOS、Linux、Windows 上运行，支持启动 OpenAI 兼容的本地服务器或终端直接推理，也可通过 Ollama、Docker Model Runner、LM Studio、Jan 等工具加载，并可接入 Pi、Hermes、OpenClaw 等 Agent 工具。