跳到正文
#Hugging Face
10月17日周六
  4. Hugging Face · 新模型：abliterated20

    huihui-ai 发布 Huihui-Qwen3.8-Flash-Next-abliterated-v2-GGUF 去审查版本

    huihui-ai 基于 Qwen/Qwen3.8-Flash-Next 通过 abliteration 技术移除拒绝行为，发布去审查的 GGUF 版本 v2。相比第一版调整了消融重点，且未对专家（experts）进行消融，适合小说写作和编程。该版本安全过滤大幅降低，建议用于研究、测试或受控环境，支持最新 llama.cpp，示例命令上下文长度为 262144。

  9. Hugging Face · 趋势模型73

    腾讯混元发布 Hy-Memory-30B-A3B 专用长期记忆写入模型

    腾讯混元发布 Hy-Memory-30B-A3B，一个约 3B 激活参数的长期记忆写入模型，可直接替换 Mem0、MemOS、Hy-Memory 等外部记忆框架中的通用 LLM。训练分两阶段，先做 Memory On-Policy Distillation 再做归因记忆强化学习，可零改动迁移到未参与训练的 EverMemOS。在固定 20% 基准子样本的四框架宏观平均分上得 55.49，超过 Claude Opus 5（54.62）和 DeepSeek V4.1 Flash（53.64）。权重、框架代码和技术报告均已开源。

    推荐理由：原文给出了固定基准矩阵上与多个通用大模型的横向对比，可以评估这个小模型在记忆写入上的性价比。

  10. GitHub · 灵魂体仓库55

    minicpm-webapp：基于本地 MiniCPM-V 4.7 的图像分析与网站健康监控工具

    shank15217 在 GitHub 发布 minicpm-webapp，一个用本地 llama.cpp 运行 MiniCPM-V-4.7-1B 多模态模型的 FastAPI 应用，可描述分类图像并通过与基线截图比对检测网页篡改。判定由确定性的 dHash64+MAE 像素比对拥有，VLM 只对被标记的波段做单图旁白；支持 detail（f16，640×480 约 832 token）和 fast（-4x 下采样，约 223 token）双视觉模式，附 U1–U6 测试计划和 W1–W11 已知弱点清单（如亚 1% 面积改动可过阈值、存在 SSRF 缺陷建议仅限局域网部署）。

    推荐理由：用确定性像素比对拥有判定权、VLM 仅做旁白的架构做网站篡改检测，还公布了已知弱点清单和实测 token 数，部署细节可迁移。

  11. Hugging Face · 新模型：abliterated28

    irwanworld 发布 Irwan-LightOnOCR-3-0.8B-abliterated：去除拒绝倾向的 OCR 视觉语言模型

    irwanworld 在 Hugging Face 发布 Irwan-LightOnOCR-3-0.8B-abliterated，基于 lightonai/LightOnOCR-3-0.8B（Qwen3.5-VL 0.8B 架构的 OCR 微调模型），通过从 huihui-ai/Huihui-Qwen3.5-0.8B-abliterated 提取权重差值（alpha=1.0、bfloat16）做 abliteration transfer，去除面对显式内容时的拒绝倾向，同时保留 OCR 能力。用法与原模型一致，无 API 变更；CPU 推理仅约 0.3 token/秒，生产环境建议用 GPU，OCR 质量尚未正式评测。

  14. Hugging Face · 新模型：uncensored28

    VicTeam Agency 发布 Qwen3.8-27B-Uncensored GGUF 量化版

    VicTeam Agency 基于 Alibaba Qwen 的 Qwen3.8-27B（Apache 2.0）发布去审查版 GGUF 模型，采用 huihui-ai 社区的 abliteration 去除拒答、Unsloth 动态量化，面向单显卡本地智能体开发。提供 Q4_K_XL（约 17.4 GB，质量优先）和 IQ4_XS（约 14.4 GB，可完整装入 16 GB 显存、速度更快）两种量化，可通过 llama.cpp（llama-server --jinja）和 llama-swap 运行。

  16. Hugging Face · 新模型：uncensored60

    tatekuperus 发布 Qwen3.6-27B-Fable-Fusion-711 无对齐 GGUF 量化版

    tatekuperus 在 Hugging Face 发布基于 Qwen/Qwen3.6-27B 的多阶段微调与合并模型 Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic GGUF 量化版，作者称其为首个在 8bit 和 4bit 下 ARC-C 超过 700 的该规模微调。去审查由 trohrbaugh 用 Heretic v1.2.0+custom 的 Arbitrary-Rank Ablation 方法完成，拒绝率从原版 99/100 降至 4/100，KL 散度 0.0469；作者给出的基准显示该模型在 7 项基准中 6 项超过 Qwen3.6-27B 基座。

    推荐理由：作者给出 Heretic 消融方法与去审查前后拒绝率对比，并附多组基准和第三方实测数据，可核对去对齐是否损伤模型能力。

  18. Hugging Face · 新模型：uncensored18

    FrosT-LyRo 发布 Qwen3.5-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking 的 i1-GGUF 量化版本

    FrosT-LyRo 在 Hugging Face 发布 Qwen3.5-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking 的 imatrix 加权 i1-GGUF 量化版本，提供从 i1-IQ1_S（8.8 GB）到 i1-Q6_K（32.2 GB）的多档量化文件，其中 Q4_K_S 被标注为大小、速度与质量的最优平衡，Q4_K_M 为推荐选项。该模型为视觉模型，mmproj 文件放在单独的 static 仓库中，静态量化版本另行提供。

  19. Hugging Face · 新模型：abliterated52

    distributedcognition 发布 humanizer-abliterated 去对齐版

    distributedcognition 在 Hugging Face 发布 jialinyyzz/humanizer（gemma-4 12B 微调的 AI 文风改写模型）的 abliterated 变体，用投影式 writer 级消融在 32 层移除拒绝方向，alpha 0.8。实测基座模型在 104 个有害改写提示上拒绝率仅 2/104，消融后拒绝率不变，MMLU-2280 仅降 0.04pp，GSM8K 持平；refusal_directions.pt 支持任意强度秒级重新消融，附 GGUF 量化可在 llama.cpp、Ollama 等运行，Apache 2.0。

    推荐理由：原文给出完整的消融方法、拒绝率与 MMLU 前后对比，并诚实指出基座模型本就几乎不拒绝，读者可据此判断去对齐的实际意义。

10月16日周五
  1. GitHub · 3D 生成新仓库35

    SleepTCN 睡眠质量分期检测项目：用 31.4 万参数模型自动生成睡眠报告

    一个开源睡眠分期项目用自研 SleepTCN（Temporal Convolutional Network，314,019 参数）读取原始 EEG 和 EOG 信号，将每 30 秒 epoch 分类为 Wake、NREM 或 REM。在 SHHS2 的 52 名留出受试者上验证准确率达 87%，Wake 与 NREM 的 F1 分别为 0.91 和 0.90，REM 仅 0.70。指标经 Mistral 7B Instruct v0.2 以 4-bit 量化生成结构化临床摘要，整个流程可在单个免费级 GPU 上训练。

  2. Hugging Face · 新模型：uncensored52

    Qwen3.8-27B TURBO 微调版发布 GGUF 权重，ARC-C 达 735 并大幅压缩思考 token

    TTPPCC121 等多人协作发布基于 Qwen3.8-27B 的多阶段微调 GGUF 版本，8bit ARC-C 735、ARC-E 882，4bit ARC-C 719，均高于原版 Qwen3.8-27B（8bit ARC-C 0.591）。模型用 Heretic v1.2.0+ARA 方法去对齐，Stage 1 拒绝率从 99/100 降到 0/100，KL 散度 0.0535；思考 token 减至原版的 1/2 到 1/10。提供常规与 MTP 两种 GGUF，Q4_K_S 下常规约 75 t/s、MTP 可超 90 t/s（5090、LMStudio 实测），支持 256k 上下文与视觉（需另下 mmproj 文件）。

    同一新闻，精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版，ARC-C 达 735》

  3. Hugging Face Blog75

    Reflection 发布开源 MoE 模型 Beam 501B，Hugging Face 提供推理与训练全流程支持

    Reflection 新实验室的首个模型 Beam 在 Hugging Face 开源，为 501B 参数 MoE（每 token 激活 23B），支持 1M token 上下文，采用 Apache 2.0 许可，主打编码与智能体场景。提供 BF16、FP8、NVFP4 三种检查点，transformers、vLLM、SGLang 均已 day-0 支持，并附 LoRA SFT 与 Miles GRPO 训练配方；Hub 上分享用 Beam 构建的项目可竞争 10,000 美元额度。

    推荐理由：官方博客给出架构细节、三档精度的实测跑分和从推理到 SFT、RL 的完整部署与训练配方，便于评估上手成本。

  4. GitHub · 去对齐工具与仓库38

    GhanaOpenAI 开源 gloss-mt：用工具调用加推理微调 Gemma 4 实现英译 Twi 翻译

    GhanaOpenAI 发布 gloss-mt，基于 google/gemma-4-E4B-it（4B 参数）做 LoRA 微调，让模型通过 lookup_twi_translation 工具查询 478,822 条离线英→Twi 词典后再推理翻译。训练数据含 15,134 条带工具调用的样本，配套数据集、微调与评测脚本及部署运行时已开源，支持 transformers 与 vLLM，并提供 Hugging Face Spaces 在线演示。

  6. Hugging Face · 新模型：abliterated24

    Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 韩语校准 3.7bpw GGUF 量化版发布

    donghanasd 在 Hugging Face 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的韩语校准混合精度 GGUF，约 12.60 GB、3.69 bits per parameter，从上游 BF16 GGUF 直接量化。量化使用 708 个 512 token 块收集的 importance matrix，张量精度分配沿用 Qwen3.8-27B-Ridge-GGUF，保留 tokenizer、chat template 和 MTP tensors，未做韩语额外训练也未验证韩语质量提升。

  7. Reddit · r/LocalLLaMA29

    无人谈论的 Qwen Flash Next：潜在 SOTA 级 Q2 量化

    Reddit 用户实测 Agantai 的 GYRO 系列量化 GYRO-M，称其在 KLD、top 1 和体积上同时优于 ISTA-lab 的量化。3 天测试中未出现循环问题，最长自主运行 2-3 小时，速度与 ISTA 2 bit 量化相当，整体接近 ISTA q3 水平但体积更小，仅在西里尔文本编辑上偶有出错。

  8. Hugging Face · 新模型：uncensored18

    bappi/gemma-4-E2B-uncensored-coder-fable5-composer2.5 模型上线 Hugging Face

    多模态模型 bappi/gemma-4-E2B-uncensored-coder-fable5-composer2.5 在 Hugging Face 发布，支持 image-text-to-text 任务，可通过 Transformers 的 pipeline 或 AutoModelForMultimodalLM 加载。模型同时提供 vLLM、SGLang 部署方式及 OpenAI 兼容 API，并可用 Docker Model Runner 运行。

  10. Hugging Face · 新模型：abliterated25

    Hugging Face 上架 huihui-ai/Huihui-MiniCPM5-1B-abliterated：MiniCPM5-1B 去审查版本

    huihui-ai 发布 openbmb/MiniCPM5-1B 的 abliterated 去审查版本 Huihui-MiniCPM5-1B-abliterated，通过 abliteration 技术移除模型拒绝回答行为，无需 TransformerLens。模型安全过滤大幅降低，可能生成敏感或不当内容，官方建议仅用于研究、测试或受控环境，避免直接用于生产或面向公众的商业应用。

  11. Hugging Face · 新模型：uncensored66

    OS-Software 发布 LFM2.5-24B-A2B-Uncensored-Heretic 去对齐版本

    OS-Software 基于 LiquidAI/LFM2.5-24B-A2B 发布去对齐版本，用自研 Heretic fork 只改动 layers 18、22、26 的 self_attn.out_proj 权重并烘焙进 BF16。实测 100 条日语有害提示词的拒绝率从原版 94-99/100 降到 0-1/100，QAD Q4_0 的 MMLU 为 55.35%（较原版 -0.62），并提供 Q4_0 到 Q8_0 多档 GGUF；模型仍会先思考再回答，输出偏长，建议 8k 以上输出预算，仅供研究实验用途。

    推荐理由：作者给出了各量化档位的拒绝率前后对比和 KL 散度、MMLU 数据，可以据此评估这个去对齐版本改动幅度与能力损失。

  12. Hugging Face · 新模型：uncensored64

    OS-Software 发布 LFM2.5-24B-A2B 去对齐 GGUF 版，拒绝率从 99/100 降至 0/100

    OS-Software 在 Hugging Face 发布 LiquidAI/LFM2.5-24B-A2B 的去对齐 GGUF 版本，使用 Heretic 的自定义 fork，仅改动第 18、22、26 层的 attention output projections。实测 100 条日语有害提示词的拒绝率从原版 94-99/100 降至 0-1/100，QAD Q4_0 的 MMLU 为 55.35%（原版 55.97%）。提供 Q4_0 到 Q8_0 多个量化档位，模型仍会先思考再回答，作者建议输出预算设 8k token 以上，仅供研究实验使用。

    同一新闻，精选展示《OS-Software 发布 LFM2.5-24B-A2B-Uncensored-Heretic 去对齐版本》

  13. Hugging Face · 趋势模型64

    ornith-ai 发布端到端自我改进的 Ornith-1.5-122B 开源模型

    ornith-ai 发布 Ornith-1.5-122B，一个 122B MoE 模型，将 Ornith-1.0 的自我改进循环扩展到联合优化任务生成、scaffold 构建和解题 rollout，通过强化学习持续生成训练任务并改进策略。模型支持 262,144 tokens 上下文（YaRN 缩放后约 1M），可单张 80GB GPU 部署，并提供量化 Mobile 变体。基准中 SWE-bench Verified（non-hack）84.5、TerminalBench 2.1 为 81.2，评测采用防 reward hacking 措施并以 Claude Opus 作为 judge。

    推荐理由：模型卡同时给出多基准成绩与防 reward hacking 的评测细节，读者可对照同参数量级模型比较编码与智能体表现。

  15. Hugging Face · 新模型：uncensored18

    Hugging Face 上架 dolor4dollar/supergemma4-26b-uncensored-gguf-v2 GGUF 模型

    Hugging Face 发布 uncensored 模型 dolor4dollar/supergemma4-26b-uncensored-gguf-v2 的 GGUF 版本，提供 Q4_K_M 量化。该模型可通过 llama.cpp、vLLM、Ollama、Docker Model Runner、Lemonade 等工具本地运行，支持启动 OpenAI 兼容 API 服务器或在终端直接推理，并可接入 Pi、Hermes Agent、OpenClaw 等智能体工具。

  16. Hugging Face · 新模型：uncensored74

    LFM2.5-24B-A2B 去对齐版发布，英文拒绝率从 96.3% 降到 1.2%

    AtomicChat 发布 Liquid LFM2.5-24B-A2B 的去对齐版本，仅编辑 blocks 14-39 的 52 个矩阵，英文拒绝率从 96.3% 降至 1.2%，俄语从 62% 降至 0%，思考模式下从 30/30 降至 0。MMLU 从 64.40% 到 65.55% 基本不变，提供 6 个 GGUF 量化版本和一个 24 MB LoRA 适配器（可用 --lora-scaled 加载，推荐 scale 1.75），方法基于 Arditi et al. 2024 的单方向拒绝机制研究。

    同一新闻，精选展示《LFM2.5-24B-A2B 去对齐版发布：英文拒绝率从 96.3% 降到 1.2%》

  18. Hugging Face · 新模型：uncensored56

    HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版，附 FastMTP 加速

    HauhauCS 在 Hugging Face 发布 Qwen3.8-27B 的无对齐 Aggressive 变体 GGUF 量化，实测 0/465 次拒绝，直接作答且几乎无前导语。全系列保留原生 NextN 头并附带 FastMTP 32K 加速 sidecar，在 Q8_K_P 上文档 TG 最高达非 MTP 的 3.02x、推理 TG 1.93x，比标准内嵌 MTP 再快 35.2%/21.1%；提供 Q8_K_P 到 IQ2_M 多档量化与 BF16 视觉 projector，基于 Apache 2.0 许可，需 llama.cpp 补丁启用 FastMTP。

    同一新闻，精选展示《HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版》

  19. Hugging Face · 新模型：abliterated22

    eccentricorbit 发布 Qwen3-4B-Instruct-2507-abliterated 去审查模型

    eccentricorbit 基于 Qwen/Qwen3-4B-Instruct-2507 用 Heretic 制作了 abliterated 版本，通过 directional ablation 直接修改权重移除模型的拒绝行为，未做新数据微调，知识与通用能力接近原版。模型为 4B 参数、262k 原生上下文的非思考 instruct 模型，BF16 safetensors 格式，Apache 2.0 许可，可在 vLLM 和 Transformers 中使用，无内置安全护栏。