jingamin 发布 Qwen3.6-27B-Heretic2-Uncensored-Finetune-Thinking 的 GGUF 量化版本（Q5_K_M）
jingamin 在 Hugging Face 上提供 Qwen3.6-27B-Heretic2-Uncensored-Finetune-Thinking 的 i1-Q5_K_M GGUF 量化模型，该模型为无审查微调版本且支持思考（Thinking）。
#量化
新闻、仓库与研究，按时间排列。
Hugging Face · 新模型：uncensoredAI 评分2828 Hugging Face · 新模型：abliteratedAI 评分2626 jingamin/Huihui-Qwen3.8-27B-abliterated-Q5_K.gguf 上架 Hugging Face
abliterated 版 Huihui-Qwen3.8-27B 的 Q5_K 量化 GGUF 模型已在 Hugging Face 发布，基于 Qwen3.8 27B。该页面给出在 llama.cpp、Ollama、LM Studio、Docker Model Runner、Lemonade 等工具中的使用方法，可通过 llama serve -hf 启动本地 OpenAI 兼容服务器并直接推理。
Hugging Face · 新模型：uncensoredAI 评分1515 abalogh 发布 Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored-oQ4e-mtp 量化模型
Hugging Face 上架 abalogh 发布的 Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored-oQ4e-mtp 无审查模型，为 Safetensors 格式。模型规模 28B 参数，张量类型为 U32 · BF16，目前无模型卡片、未部署到任何 Inference Provider。
Hugging Face · 趋势模型精选AI 评分6464 
nerkyor 发布 Qwen3.8-27B-Coder390 微调版，修复不停止推理问题并放出十余档量化权重
nerkyor 在 Hugging Face 发布基于 Qwen3.8-27B-EfficientThink 的多轮 SFT 与 RLOO 后训练模型 Qwen3.8-27B-Coder390-EfficientThink，目标是修复原模型已有答案却反复推导直至撞上 94K 上限导致空答案的习惯。GPQA 178/198、MMLU 450/500、LCB 90/100（静态 FP8，原模型为 177/444/83），94K 截断从 GPQA 4 降到 1、LCB 13 降到 3。仓库提供 BF16、静态 FP8、NVFP4、INT8、INT4、GGUF Q2 至 Q8_0 等多档权重，均含内置 MTP，支持 SGLang 免补丁加载，并给出 DFlash2 与 MTP 两种投机解码的测速建议。
推荐理由：从模型卡给出多档量化的完整三套评测与截断对比，读者可据此判断修复后模型在精度和速度上的实际表现。
Hugging Face · 新模型：uncensoredAI 评分2222 jingamin/gemma-4-31B-it-The-DECKARD-HERETIC-UNCENSORED-Thinking.i1-Q5_K_M.gguf 模型在 Hugging Face 发布
Hugging Face 上架了 jingamin 的 gemma-4-31B-it-The-DECKARD-HERETIC-UNCENSORED-Thinking 量化版 GGUF 模型（Q5_K_M）。
Hugging Face · 新模型：uncensored精选AI 评分6363 Gokugamer 发布 Qwen3.8-27B-Uncensored-HauhauCS-Aggressive GGUF 量化版
Gokugamer 在 Hugging Face 发布 Qwen3.8-27B 的 HauhauCS Aggressive 无对齐 GGUF 量化版，实测 0/465 次拒绝，直接作答、几乎无前导语。
推荐理由：原文给出各量化的拒绝数与 FastMTP 加速实测数据，读者可据此判断该去对齐版本的实际表现。
Hugging Face · 新模型：uncensoredAI 评分2727 
mradermacher 发布 Qwen3.5-27B-uncensored-heretic-v1 的 GGUF 静态量化版本
mradermacher 在 Hugging Face 上发布 Qwen3.5-27B-uncensored-heretic-v1 的 GGUF 静态量化版本，提供从 Q2_K（10.8GB）到 Q8_0（28.7GB）的多种量化文件，其中 Q4_K_S（15.7GB）和 Q4_K_M（16.6GB）被标注为快速且推荐，Q8_0 质量最佳。
Hugging Face · 新模型：abliteratedAI 评分3232 Huihui-Qwen3.8-27B-abliterated-AWQ-MTP：基于 Qwen3.8-27B 的去审查 AWQ 版本
Hugging Face 上发布 Huihui-Qwen3.8-27B-abliterated-AWQ-MTP，这是用 abliteration 技术对 Qwen/Qwen3.8-27B 去除拒绝行为后的无审查版本。模型支持 AWQ Marlin kernel 和 MTP 投机解码，在单张 A800 80GB 上（vLLM 0.21.0、MTP 开启、fp8 KV cache）达到 110+ tok/s，支持 65536 上下文长度。发布方警告安全过滤大幅减弱，仅建议用于研究和受控环境。
Hugging Face · 新模型：uncensoredAI 评分3232 mradermacher 发布 Qwen3.6-35B-A3B-Uncensored-Genesis-Final-Safetensors GGUF 版本
mradermacher 的 Qwen3.6-35B-A3B-Uncensored-Genesis-Final-Safetensors GGUF 量化模型现已在 Hugging Face 上线。
Hugging Face · 新模型：abliteratedAI 评分3131 AX1Y2JP/UniPercept-abliterated-GGUF 模型上线 Hugging Face
Hugging Face 新增模型 AX1Y2JP/UniPercept-abliterated-GGUF，提供 Q4_K_M 量化版本。该 GGUF 格式模型可通过 llama.cpp、Ollama、Docker Model Runner、Lemonade 等工具本地运行，也支持在 LM Studio、Jan 中加载。llama.cpp 可启动 OpenAI 兼容的本地服务器并提供 Web UI，也可直接在终端执行推理。
Hugging Face · 新模型：abliteratedAI 评分2323 mradermacher 发布 Abliterated-Dolphin3.0-R1-Mistral-24B GGUF 静态量化版本
mradermacher 在 Hugging Face 上发布了 Abliterated-Dolphin3.0-R1-Mistral-24B 的 GGUF 静态量化版本，提供从 Q2_K（9.0GB）到 Q8_0（25.2GB）的多种规格，其中 Q4_K_S、Q4_K_M 标注为快速且推荐使用，Q8_0 质量最佳。weighted/imatrix 量化版本可在模型页面另行获取。
Hugging Face · 新模型：abliteratedAI 评分2828 mradermacher 发布 Qwen3.8-cyber-RedTeam-Surgical-Abliterated-GGUF 量化模型
Hugging Face 上线 mradermacher/Qwen3.8-cyber-RedTeam-Surgical-Abliterated-GGUF 量化模型页面，提供 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner、Lemonade 等多种运行方式。
Hugging Face · 新模型：abliteratedAI 评分2828 mradermacher 发布 Qwopus3.8-27B-Flash-V2-abliterated 的 i1-GGUF 量化版本
mradermacher 在 Hugging Face 上发布 Qwopus3.8-27B-Flash-V2-abliterated 的 i1-GGUF 量化版本。
Hugging Face · 新模型：abliterated精选AI 评分8282 
BoldingBuilds 发布 Qwen3.8-27B Abliterated ThinkFix GGUF 无对齐版本
BoldingBuilds 在 Hugging Face 发布 Qwen3.8-27B-Abliterated-ThinkFix-GGUF，在移除拒绝行为之外增加一处权重行编辑，使模型完成思考后更快给出答案。
推荐理由：原文给出多种敏感提示词与代理任务的实测对照数据，可据此评估这个去对齐加推理修复版本的实际取舍。
Hugging Face · 新模型：abliterated精选AI 评分5656 Qwen3.8-Flash-Next GSQ-RCO 量化包发布，附运行时去拒绝方向向量与实测数据
alesha-pro 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 GSQ-RCO 量化包，收录 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档 GGUF（逐字节复制并校验 SHA256），另附一个 480 KB 的拒绝方向向量文件，可在 Strata 引擎中运行时投影去除拒绝行为，权重保持原样。
推荐理由：原文保留原始量化权重并给出拒绝率、KL 散度和解码速度的实测数据，读者可据此评估运行时去拒绝向量对输出的实际影响。
Hugging Face · 新模型：abliteratedAI 评分1818 mradermacher 发布 Qwen3-4B-F32-BF16-3MPER0RR-abliterated 的 i1-GGUF 量化版本
mradermacher 在 Hugging Face 发布 Qwen3-4B-F32-BF16-3MPER0RR-abliterated 的 imatrix 加权 i1-GGUF 量化系列，共 20 余个版本，大小从 1.2GB（i1-IQ1_S）到 3.4GB（i1-Q6_K）不等，并提供 0.1GB 的 imatrix 文件供用户自行创建量化。
Hugging Face · 新模型：abliterated精选AI 评分8080 TechPrototyper 发布 Qwen3.8-27B GridBook 13GB 视觉版 abliterated 权重
TechPrototyper 发布了基于 rdtand 的 GridBook 13GB 量化版 Qwen3.8-27B 的 abliterated 变体，通过将 BF16 消融供体权重移植进已有量化 checkpoint 并按原量化网格重编码，不重新量化，仅改动 1363 个张量中的 113 个。
推荐理由：原文给出在量化格式内做消融的完整方法与拒绝率、工具调用前后对比，读者可据此判断这种不重新量化的去对齐做法是否可靠。
Hugging Face · 新模型：abliteratedAI 评分2222 mradermacher 发布 Qwen3-4B-F32-BF16-3MPER0RR-abliterated GGUF 静态量化版本
mradermacher 在 Hugging Face 发布 Qwen3-4B-F32-BF16-3MPER0RR-abliterated 的静态 GGUF 量化版本，提供从 Q2_K（1.8GB）到 f16（8.2GB）的多档量化文件，其中 Q4_K_S、Q4_K_M 被标注为快速推荐档位，Q8_0 为最高质量档位，weighted/imatrix 量化另有单独发布。
Hugging Face · 新模型：abliteratedAI 评分2424 calclout 发布 Qwen3.8-Flash-Next-Abliterated 的 AWQ W4A16 量化版
calclout 在 Hugging Face 上传了 Qwen3.8-Flash-Next-Abliterated 的 AWQ W4A16 量化模型，模型规模为 72B 参数，采用 Safetensors 格式，张量类型包含 I32、BF16 和 I64。该模型暂无模型卡，上月下载量为 11，且尚未被任何 Inference Provider 部署。
arXiv · cs.CL精选AI 评分7070 arXiv论文：激进GGUF量化的语言模型仍能写出已无法定义的生僻词
arXiv论文2610.04403审计27个GGUF量化产物，覆盖13个模型族、0.35B-14B参数，用429个低频英文词测试写词与定义两种探针。发现Q2_K下三种状态：完全崩溃、2B以下模型出现严重语义脱节（定义能力比基线低20-67%）、约3B以上基本保持；词表大小不预示损伤（rho=0.12），参数量主导（rho=0.72），Q4_K_M在1B以上词汇无损，且WikiText-2困惑度无法校准该损伤，需逐产物验证。
推荐理由：论文用429个低频词实测27个GGUF量化产物，指出WikiText-2困惑度无法预警语义损伤，对本地部署有直接参考。
Hugging Face · 新模型：abliteratedAI 评分3434 mradermacher 发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 i1-GGUF 量化版本
mradermacher 在 Hugging Face 发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 imatrix 加权 i1-GGUF 量化版本，提供从 i1-Q2_K（80.5GB）到 i1-Q6_K（167.7GB）的多档量化文件，其中 i1-Q4_K_M 为推荐档位，i1-Q4_K_S 兼顾体积、速度与质量。
arXiv · cs.AIAI 评分4646 AutoTarget：面向少步扩散 Transformer 的求解器感知缓存目标选择方法
arXiv 论文提出 AutoTarget，为少步蒸馏后的 Diffusion Transformer（DiT）选择缓存复用张量，以降低采样误差。方法用少量无缓存运行测量各候选张量的复用误差并选取最低者；在 PixArt-LCM 与 FLUX.1-schnell 上的实验表明最佳缓存目标随模型、分辨率和求解器变化，校准排序与留出缓存运行一致，在减少评估次数的同时保持接近无缓存的生成质量。
arXiv · cs.CL精选AI 评分5555 KV$^2$：一种自精炼 KV cache 压缩方法发布于 arXiv
论文提出 KV$^2$，一种基于选择性重构的 query 无关 KV cache 压缩方法，先用轻量代理评分器筛选上下文中的有效 token，再仅对该子集重新计算最终淘汰分数。
推荐理由：论文给出 KV$^2$ 在 RULER 和 LongBench 上随预算收紧而扩大的对比数据，可复用的 KV cache 压缩不必重处理全上下文。
Hugging Face · 趋势模型精选AI 评分6868 
SC117 发布 Qwen3.8-Flash-Next GSQ-RCO 消融版 GGUF，144 张量移植保留原始量化
SC117 在 Hugging Face 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF，通过对已量化 GGUF 做 144 个残差流投影张量的字节级移植实现去拒绝，不重算任何 GSQ 学到的量化值。IQ3_S 版经逐张量 blake2b 校验，1223 个张量中 1079 个与上游逐字节一致，decode 速度仅降 0.1%，四个量化档位体积仅比上游多 0.25 至 0.44 GB，行为抽查显示上游拒答的绕过付费墙请求该版本会详细回答。作者提示模型无内置安全护栏，需自行部署审核与访问控制。
推荐理由：作者用逐张量 blake2b 校验和性能对照说明直接移植已量化张量做消融的代价，方法可复用到其他 GGUF 模型。
Hugging Face · 趋势模型AI 评分4848 
EMA Lightning：8.6M 参数的开源土耳其语文本转语音模型，WER 低至 0.92%
EMA Lightning 是一个开源（Apache 2.0）的土耳其语文本转语音模型，由 5.6M 参数 DiT 声学模型和 3M 参数 vocoder 组成，总计仅约 34 MB。在 Freya-TR-Eval 上 WER 为 0.92%，低于 ElevenLabs v4、Gemini 3.8 和 2.38B 参数的 Trendyol-TTS 等所有被测系统；在 RTX 4090 上首批音频仅需 3.86 ms，比实时快 440×（批处理达 1,316×）。模型可完全离线运行于 GPU 或 CPU，无需 API key，文本和音频不离开本机，成本约 $0.0085 per million characters。
Hugging Face · 趋势模型精选AI 评分5252 Cactus Compute 发布端侧语音识别模型 Whistle，整个模型仅 16.9 MB
Cactus Compute 团队发布面向手机、可穿戴、机器人、智能家居、汽车和微控制器的端侧语音识别模型 Whistle，整个模型为单个 16.9 MB 文件，无需 GPU 和外部依赖，与 Needle 共用同一运行时。支持英德法西意荷波七种语言的转写（单次最长 30 秒）、词级时间戳和语音嵌入，静音返回空文本而非编造句子。WER 基于 86,174 条语音实测，并用与 Whisper、Moonshine 已发布数据对比；精度为 Whistle 2 至 4 bit，Whisper fp32，Moonshine int8。
推荐理由：原文给出了完整的 WER 基准、精度设置和与 Whisper、Moonshine 的对比口径，读者可以据此评估端侧语音识别的实际表现。
Hugging Face Blog精选AI 评分6363 
LiquidAI 发布 LFM2.5-VL-3B 的 DSpark 草稿模型，解码加速最高 3.13x
LiquidAI 发布视觉语言模型 LFM2.5-VL-3B 的实验性 DSpark 草稿模型，通过投机解码在不改变输出质量的前提下换取推理提速。解码加速在端侧最高 3.13x、H100 上最高 2.66x，端到端延迟分别提升 1.56x-2.62x 和 1.64x-2.27x；草稿模型约 280M 参数，仅增加 8.9% 参数量。
推荐理由：原文给出4层注意力 drafter 的结构与分任务实测加速数据，并解释预填充阶段为何限制端到端收益。
Hugging Face · 趋势模型精选AI 评分5959 HauhauCS 发布 Qwen3.8-27B Aggressive 无对齐 GGUF 量化版并附带 FastMTP 加速方案
HauhauCS 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的 Aggressive 无对齐 GGUF 量化系列，实测拒绝率 0/465，保留文本、推理、Agent 及图像视频能力。全套量化提供 K_P 自定义档位，附带的 FastMTP 32K 加速 sidecar 相比无 MTP 最高达 3.02x 文档 TG 和 1.93x 推理 TG，比内嵌 MTP 最高快 35.2%/21.1%，实测基于 RTX PRO 6000 Blackwell 96GB。需配套 llama.cpp 补丁，vision 需单独 BF16 projector，原生上下文 262,144 token，可扩展至 1,000,000。
推荐理由：原文给出了0/465拒绝实测和完整量化档位的MTP加速对比数据，读者可据此判断去对齐程度和各档位实际推理速度。
ComfyUI Releases · 图像工作流精选AI 评分6363 ComfyUI v0.27.0 发布，新增 int8 模型支持
ComfyUI 发布 v0.27.0，主要变更是新增对 int8 模型的支持，包括 int8 lora 应用优化、turing GPU 支持及内存泄漏修复。此外新增 Alibaba HappyHorse 1.1、ByteDance SeeDance-2.0-Mini 与 4K SeeDance 2.0、Google Nano Banana 2 Lite 与 Gemini Video Omni 等合作节点，并为 Grok Image 节点添加 1080p 分辨率，加入 krea 2 模型合并节点、ConditioningMultiply 节点及 bounding box canvas 与 Ideogram JSON prompt 功能。完整变更见 v0.26.0...v0.27.0。
推荐理由：ComfyUI 版本更新说明列出了 int8 支持和多个合作节点改动，读者可快速判断升级是否影响自己的工作流。
Ollama Blog精选AI 评分7373 Ollama 0.31 通过多 token 预测让 Gemma 4 在 Apple Silicon 上生成速度提升近 90%
Ollama 0.31 通过多 token 预测（MTP）让 Gemma 4 在 Apple Silicon 上生成速度平均提升近 90%，基于 Aider Polyglot 基准在 M5 Max 上实测。
推荐理由：原文讲清了 MTP 投机解码的三个实现环节和 Aider polyglot 实测数据，并指出新内核可被其他模型复用。
Ollama Blog精选AI 评分7171 Ollama 更新 MLX 引擎，Apple Silicon 性能提升并支持 NVFP4 量化
Ollama 更新其 MLX 引擎，称在 Apple Silicon 上实现迄今最高性能，支持 NVIDIA 的 NVFP4 量化格式：在 Gemma 4 12B 上相对 q4_K_M 大约将 4-bit 量化的质量损失减半，输出速度在 8,300-token 输入下快约 20%。
推荐理由：官方给出了 NVFP4 相对 q4_K_M 的困惑度对比和快照缓存对 Agent 工作流的处理方式，数据与方法都可直接参考。
ComfyUI Releases · 图像工作流精选AI 评分6363 ComfyUI v0.18.0 发布：多处 VAE 与显存内存优化
ComfyUI 发布 v0.18.0，合并了从 v0.17.0 以来的大量改动，包括 LTX 与 WAN VAE 降低 VRAM 与峰值 RAM 占用、支持 mxfp8、新增 --fp16-intermediates 与 --enable-dynamic-vram 启动选项。其他更新包括 FP4/8/16 原生 dtype 训练支持、AMD gfx1150（Strix Point）启用 Pytorch Attention、userdata 原子写入防崩溃丢数据，以及新增 Quiver SVG 节点并将 seedream-3-0-t2i 和 seedance-1-0-lite API 节点标记为弃用。
推荐理由：这份官方更新日志集中列出了内存与显存优化、量化训练支持等具体改动，想了解该版本实际改了什么的读者可对照查阅。