Nanbeige4.3-33B 开源模型登陆 Hugging Face
Nanbeige4.3-33B 现已上线 Hugging Face，官方称其在多项 benchmark 上强于 Qwen3.8-27B。该模型还将作为基础，用于即将开展的小模型知识蒸馏管线，例如蒸馏出 Nanbeige4.3-3B，未来可能扩展到其他尺寸。
#蒸馏
新闻、仓库与研究，按时间排列。
Reddit · r/LocalLLaMAAI 评分3131 Reddit · r/LocalLLaMA精选AI 评分6060 
Lure-TTS 与 Lure-Turbo：600M 语音模型跑出 4 倍实时速度，训练成本不到 $200
/u/smirkishere 基于 Qwen3-TTS 0.6B 微调出 Lure-TTS 和 Lure-Turbo 两个语音模型，支持内联标签、语音方向控制和音色克隆，训练成本不到 $200。Turbo 的 RTF 为 0.14，对比 5B Fish S2 Pro 的 0.195，同时保持相同说话人相似度（ECAPA 0.699）。作者还发布了 Lure-TTS 推理引擎，基于 faster-qwen3-tts（CUDA）、mlx-audio（Mac）和 audio.cpp（CPU），在 4090 上首音频输出 0.17s（参考代码为 10.6s），整体快约 5 倍（RTF 0.53 vs 2.54），支持流式 0.32s 分块、CUDA graphs 和最多 8 路并发。
推荐理由：作者公开了训练流程、RTF 与 ECAPA 对比数据和训练代码，可复现的低成本 TTS 微调路线有参考价值。
GitHub · 去对齐工具与仓库AI 评分3030 Tyler-LLM：1.7B–32B 本地隐私小模型系列在 GitHub 开源
Tyler Greaux 发布的 Tyler-LLM 是一系列 1.7B–32B 的本地小型模型，经前沿模型知识蒸馏而来，提供 GGUF 与 NVFP4 格式并内置 agent，无需云端、无遥测，采用 Apache-2.0 许可开源。
Hugging Face · 趋势模型AI 评分5050 MOSS-Image-SFT 8 步 data-space DMD 蒸馏版上线 Hugging Face
OpenMOSS 团队将 MOSS-Image-SFT（50 步、CFG 3）蒸馏为 8 步无 CFG 的生成模型，采用 data-space DMD 方法，checkpoint 为 update 2600（EMA）float32 权重。模型提供 lora.safetensors（推荐强度 1）与 lora_latest.safetensors（推荐强度 0.7）可直接加载到 ComfyUI LoRA loader，transformer 必须以 fp32 运行，蒸馏 delta 小于 bf16 舍入步长，转 bf16 会丢失大部分蒸馏效果。当前为进行中的工作。
GitHub · 3D 生成新仓库精选AI 评分7171 DMAD 发布：把分布匹配蒸馏改写为对抗蒸馏，4 步生成 MiniMax-H3 音视频
Texas A&M 与 ByteDance 团队发布 DMAD（Distribution Matching as Adversarial Distillation）仓库及论文（arXiv:2610.02188），将分布匹配蒸馏重构为分类问题，用共享骨干上的两个判别头直接学习 log-density ratio，免去 DMD 所需的辅助扩散模型。基于 MiniMax-H3（33B，文生音视频）训练的 rank-128 LoRA 可将 50 步 teacher 压缩为 4 步生成 1344x768、124 帧、32 kHz 立体声视频；4 步 student 在人类偏好上对 DMD2 达 79.1%、对 rCM 达 84.6%（不含平局）。
推荐理由：作者把分布匹配蒸馏改写成判别式对抗训练，省掉辅助扩散模型，并给出从 8 GB 消费级 GPU 到 H200 的显存与速度实测数据。
Reddit · r/LocalLLaMA精选AI 评分6262 QUASAR 发布 Qwen3.5、Gemma 4 与 Muse Glimmer 的 4-bit QAT 权重，KL 距离低于 Google 与 NVIDIA 官方 4-bit 版
QUASAR 团队发布多款模型的 4-bit QAT 量化权重，包括 Qwen3.5-4B、Gemma 4 E4B 与 12B、Muse Glimmer 30B，提供 NVFP4（vLLM）和 Q4_0 GGUF（llama.cpp / Ollama / LM Studio）格式，代码与项目页已公开。方法为量化感知蒸馏，以原 BF16 模型为教师在其自身回复上修复量化损失；在 held-out 提示上的 KL 距离普遍低于 Google QAT、NVIDIA NVFP4 等参考版本。
推荐理由：原文给出与官方 4-bit 版本的 KL 距离和基准对比数据，读者可以据此判断这套 QAT 权重的实际损失有多大。
Hugging Face · 新模型：uncensoredAI 评分3030 
Haiseni 发布 UncensoredLM-DeepSeek-R1-Distill-Qwen-14B 实验预览版
Haiseni 在 Hugging Face 上推出 UncensoredLM-DeepSeek-R1-Distill-Qwen-14B 实验预览版，这是一款带推理能力的去审查模型，基于 DeepSeek-R1-Distill-Qwen-14B。模型采用固定的提示词模板（含 instruction、input、output 字段），作者称拒绝对齐边界清晰，并征集用户反馈以持续改进。
Reddit · r/LocalLLaMAAI 评分4848 
微软开源 UserRepGen-4B：基于 Qwen3.5-4B 微调的用户表示生成模型
微软发布 UserRepGen-4B，一个基于 Qwen3.5-4B 微调的模型，可从多轮用户-助手对话中生成包含任务描述与行为描述的结构化自然语言用户表示，用于条件化独立的 LLM 用户模拟器。与 UserLM-8b 和 UserLM-2.0 生成用户话语不同，它只生成表示，不执行任务也不充当模拟器。该模型通过 hindsight distillation 的在线监督微调训练，推理时无需模拟 rollout 即可直接生成表示。
Hugging Face · 趋势模型同新闻AI 评分6969 
Liquid AI 发布 LFM2.5-24B-A2B：24B 参数仅 2B 激活的端侧推理模型
Liquid AI 在 Hugging Face 发布 LFM2.5-24B-A2B，一个 24B 总参数、2.45B 激活参数的纯推理模型，主打设备端私有 Agent，上下文 131,072 tokens，支持 16 种语言。该模型在 LiveClaw 上得 48.09 分，超过参数量多约 50% 的 Qwen3.6-35B-A3B（38.19）；在 Apple M5 Max 上解码 184 tok/s，单张 NVIDIA B300 GPU 高并发下超 21K 输出 tok/s。官方同步提供 FP8、GGUF、ONNX、MLX-4bit 等多格式权重，并给出与 vLLM、SGLang、llama.cpp、Transformers 的部署指南及 Agent Harness 配置示例。
Reddit · r/LocalLLaMAAI 评分4242 后续：将稠密模型转换为 Mixture-of-Experts，新模型 Qwen2.5-1.5B-MoE-A0.9B 首次在 GPU 上也明显提速
用户 Bayliner1980 继续稠密模型转 MoE 的转换工作，发布 Qwen2.5-1.5B-MoE-A0.9B，并放出 0.5B 与 1.5B 两款 GGUF 版本。Q4_K_M 下 GPU 生成速度提升 32%、CPU 提升 41%，是首次在 GPU 上也明显快于稠密模型的转换；代价是 WikiText-2 困惑度升高约 41%，ARC 下降最多，GGUF 体积也更大（1.1 GB vs 0.9 GB）。作者称此为概念验证，该方法在 MLP 占比更大的大模型上应更划算。
Hugging Face · 新模型：uncensoredAI 评分2121 Sulphur-2-Prompt-Enhancer-Uncensored-GGUF 模型使用指南
Hugging Face 上的 BOBBYBONKERSBFD/Sulphur-2-Prompt-Enhancer-Uncensored-GGUF 提供了多种部署方式：可配合 LTX-2 视频生成管线（需搭配 google/gemma-3-12b 文本编码器，支持文生视频与图生视频），也可用 llama.cpp、vLLM、Ollama 等工具以 IQ4_NL 量化版本运行，支持 OpenAI 兼容 API 的本地服务器。
Hugging Face · 趋势模型精选AI 评分5252 LiquidAI 发布 LFM2.5-24B-A2B 的 GGUF 量化版本
LiquidAI 在 Hugging Face 上发布 LFM2.5-24B-A2B 的 GGUF 量化版本，该系列是面向边缘 AI 与端侧部署的混合架构模型。仓库中的 Q4_0 版本是量化感知蒸馏（QAD）checkpoint，训练用于恢复 Q4_0 量化损失的精度；各 GGUF 内置 general.sampling.* 元数据，llama.cpp 默认应用推荐采样参数（--temp 0.1 --top-k 50 --repeat-penalty 1.05）。
推荐理由：官方说明 Q4_0 版本采用量化感知蒸馏来恢复精度损失，并给出 llama.cpp 的推荐采样参数，便于本地部署复现。
Reddit · r/LocalLLaMAAI 评分3737 
Qwen-Image-2.1-Turbo 发布，8 步去噪生成 2K 图像
千问（Qwen）发布图像模型 Qwen-Image-2.1-Turbo，权重已开放。该模型基于 Qwen-Image-2.1 的 7B 视觉生成架构，仅需 8 步去噪即可生成 2K 图像，并支持通过自然语言编辑进行持续创作。用户可在 Hugging Face 上用 Diffusers 加载 QwenImage21Pipeline，直接使用推荐的 8 步采样方案。
Hugging Face · 趋势模型精选AI 评分6363 NVIDIA 发布 Qwen3.8-Flash-Next-FP4-Local 量化版，支持单卡本地部署
NVIDIA 在 Hugging Face 发布 Qwen3.8-Flash-Next-FP4-Local，是用 Model Optimizer 量化感知蒸馏（QAD 1.0，nvidia-modelopt v0.47.0）制作的 Qwen3.8-Flash-Next FP4 量化版，checkpoint 约 96 GiB。模型总参数 125B、激活 6B，另有 51B n-gram embedding 和 4B MTP，原生上下文 262K 可扩展至 1M tokens；精度上 GPQA Diamond 从 BF16 的 92.2% 降至 91.5%，ToolEvalBench 从 89.4% 降至 88.7%。
推荐理由：官方模型卡给出了 FP4 量化方法、精度损失对照和两套本地硬件的部署方案，量化细节可参考。
Hugging Face · 新模型：uncensoredAI 评分4040 JevStyle-9B-Decision-Uncensored-v1 发布：基于 Qwen3.5-9B 的去审查决策模型
独立研究项目 JevStyle-9B-Decision-Uncensored-v1 发布，基于 wangzhang/Qwen3.5-9B-abliterated 冻结底座，通过 LoRA（r=16）加决策头实现单次前向输出最多 24 个选项的校准概率分布，可部署增量约 145–165 MB。模型采用软标签 KL 蒸馏训练，公开 holdout 硬命中率 100%，敏感项安全类一致率 92.6%（后续 v5 软优化达 98.2%），权重以 Apache-2.0 发布，与 TypeSafe AI 或 Jev 无官方关联。
Hugging Face · 趋势模型精选AI 评分7272 Viggle 发布 Qwen-Image-2.1 蒸馏加速版 turbo，6 步生成比 40 步基座快约 5 倍
Viggle 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的少步蒸馏版本 Qwen-Image-2.1-viggle-turbo，以 LoRA 形式实现 6 步生成替代 40 步，无需 CFG，端到端约快 5 倍，质量与基座接近。
推荐理由：原文给出蒸馏步数、速度倍数、各量化格式的 LPIPS 对比和已知短板，读者可据此判断该 LoRA 是否适合自己的部署场景。
Hugging Face · 趋势模型精选AI 评分6767 
Lightricks 开放 LTX-2.5 音视频生成模型权重
Lightricks 在 Hugging Face 开放 LTX-2.5 权重，这是一个可本地执行与微调的开放世界模型，可从文本、图像和视频输入生成同步的高保真视频与音频。
推荐理由：官方模型卡完整列出了各组件权重文件、量化变体与运行约束，读者可直接比对 22B 蒸馏与完整版的使用路径和 ComfyUI 兼容性。
Reddit · r/LocalLLaMAAI 评分3636 
Update #4：从零后训练 yandex/AliceAI-80B-A3B（instruct 版）进展
Reddit r/LocalLLaMA 用户汇报 AliceAI-80B-A3B-Base 的 instruct 微调进展：第 1 轮 SFT 完成，模型初步学会链式推理和对话，但 500 万 token 训练数据广度不足，checkpoint #1 严重欠拟合并暂不发布。