HauhauCS发布Qwen3.8-27B无对齐GGUF量化版,社区实测单卡4090可跑262K上下文
先了解这件事
HauhauCS 在 Hugging Face 发布了基于 Qwen/Qwen3.8-27B 的无对齐 Aggressive GGUF 量化版,称实测拒绝率为 0/465,定位为直接给答案、无拒绝行为、极少前导语的变体。该版本沿用原模型 Apache 2.0 许可,保留文本、推理、agentic 及图像与视频能力;视觉功能需另行下载单独的 BF16 projector。量化版保留原生 MTP/NextN 头和 262,144-token 原生上下文(可扩展至 100 万),另提供可选的 FastMTP 32K 加速 sidecar 与 llama.cpp 补丁,官方称在 RTX PRO 6000 Blackwell 上 Q8_K_P 达到对关闭 MTP 最高 3.02x 文档生成速度和 1.93x 推理生成速度。 社区方面,Reddit 用户 /u/Distinct-Pie2389 将该 GGUF 转换为其自研 C++/CUDA 引擎 NInfer 的格式,在单张 RTX 4090 上以 E8 4Bit 量化跑出 262K 全原生上下文、约 130 tok/s 解码速度(MTP3,70.8% 接受率),9K 提示词下预填充 3,591 tok/s,Perplexity 与官方产物差距在 1.3% 以内,视觉与工具调用仍可用。
AI 根据报道生成 · 15 小时前更新
事件进展
2 个进展
- 10月9日 13:27 · 1 篇报道NInfer 格式转换后 27B 模型跑满 262K 上下文Reddit · r/LocalLLaMA:在 RTX 4090 上以 262K 上下文和约 130 tok/s 运行无审查版 Qwen3.8-27B(HauhauCS)
- 10月6日 21:36 · 8 篇报道HauhauCS发布Qwen3.8-27B去审查Aggressive GGUFHugging Face · 新模型:uncensored:HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版
报道时间线
沿着报道,了解事件的不同侧面。
- Hugging Face · 新模型:uncensoredQwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP GGUF 发布
HauhauCS 发布 Qwen3.8-27B 无审查 Aggressive 变体的 GGUF 量化版本,0/465 拒答,直接作答且几乎无前导语。该版本附带 HauhauCS FastMTP 32K 加速 sidecar,在 Q8_K_P 下相比禁用 MTP 最高达 3.02x 文档 TG 和 1.93x 推理 TG,比标准内嵌 MTP 高 35.2% 和 21.1%。模型保留文本、推理、agentic、图像与视频能力,原生 262,144-token 上下文,可扩展至 1,000,000,兼容 llama.cpp 等标准 GGUF 运行时。
- Hugging Face · 新模型:uncensored精选Qwen3.8-27B Uncensored Aggressive GGUF 量化版发布,附 FastMTP 加速方案
HauhauCS 发布 Qwen3.8-27B 的 Aggressive 去对齐 GGUF 量化版,实测 465 次测试中 0 次拒绝,保留文本、推理、Agent 及图像视频能力。附带 FastMTP 32K 加速 sidecar,在 Q8_K_P 下文档生成速度达非 MTP 的 3.02 倍、推理生成 1.93 倍,比内嵌 MTP 再快 35.2% 和 21.1%;数据基于 RTX PRO 6000 Blackwell 96 GB、204800 上下文测得。需 llama.cpp 打补丁运行,视觉输入需单独 BF16 projector,沿用 Apache 2.0 许可。
- Hugging Face · 新模型:uncensored精选HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版,附 FastMTP 加速
HauhauCS 在 Hugging Face 发布 Qwen3.8-27B 的无对齐 Aggressive 变体 GGUF 量化,实测 0/465 次拒绝,直接作答且几乎无前导语。全系列保留原生 NextN 头并附带 FastMTP 32K 加速 sidecar,在 Q8_K_P 上文档 TG 最高达非 MTP 的 3.02x、推理 TG 1.93x,比标准内嵌 MTP 再快 35.2%/21.1%;提供 Q8_K_P 到 IQ2_M 多档量化与 BF16 视觉 projector,基于 Apache 2.0 许可,需 llama.cpp 补丁启用 FastMTP。
- Hugging Face · 新模型:uncensored精选HauhauCS 发布 Qwen3.8-27B Aggressive 无对齐 GGUF 量化并附 FastMTP 加速方案
HauhauCS 在 Hugging Face 发布基于 Qwen3.8-27B 的 Aggressive 无对齐 GGUF 量化系列,测得 0/465 次拒绝,主打直接作答、无拒绝行为。每个文本 GGUF 保留原生 NextN/MTP 头,配套 FastMTP 32K 草稿侧车在 Q8_K_P 下实现文档 TG 3.02x、推理 TG 1.93x(对比关闭 MTP),并提供 llama.cpp 补丁、部署命令、Ed25519 签名清单与 RTX PRO 6000 Blackwell 及 RTX 6000 Ada 的实测速度表。
- Hugging Face · 新模型:uncensored精选HauhauCS 发布 Qwen3.8-27B Uncensored Aggressive 变体的 GGUF 量化与 FastMTP 加速方案
HauhauCS 在 Hugging Face 发布基于 Qwen3.8-27B 的 Uncensored Aggressive 无对齐变体 GGUF 量化,实测 0/465 次拒绝,无前导客套地直接回答。所有文本 GGUF 保留原生 NextN/MTP 头,并附带 HauhauCS FastMTP 32K 加速 sidecar,在 RTX PRO 6000 上对比关闭 MTP 时文档 TG 最高达 3.02x、推理 TG 最高 1.93x,Q8_K_P 档位比标准内嵌 MTP 快 35.2%/21.1%;提供 Q2 至 Q8 及 IQ 系列量化、BF16 视觉 projector、llama.cpp 补丁与部署命令,附 Ed25519 签名清单校验。
- Hugging Face · 新模型:uncensored精选HauhauCS 发布 Qwen3.8-27B Aggressive 无审查 GGUF 量化版
HauhauCS 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的 Aggressive 无审查量化版,标注 0/465 次拒绝,保留文本、推理、Agent 和图像视频能力,许可证沿用 Apache 2.0。附带自研 FastMTP 32K 草稿加速边车与 llama.cpp 补丁,在 RTX PRO 6000 Blackwell 上 Q8_K_P 达到对关闭 MTP 最高 3.02x 文档 TG 和 1.93x 推理 TG,并给出各档位实测速度与签名校验清单。
- Reddit · r/LocalLLaMA精选在 RTX 4090 上以 262K 上下文和约 130 tok/s 运行无审查版 Qwen3.8-27B(HauhauCS)
作者将 HauhauCS 发布的无审查 Qwen3.8-27B(GGUF 格式)转换为自研 C++/CUDA 推理引擎 NInfer 的格式,在单张 4090 上跑出 262K 全原生上下文、约 130 tok/s 解码速度(MTP3,70.8% 接受率)、9K 提示词下 3,591 tok/s 预填充,Perplexity 与官方产物差距在 1.3% 以内,视觉和工具调用仍可用,采用 E8 4Bit 量化。转换器与说明见 https://github.com/T-Crypt/ninfer-4090/pull/4,仓库为 ninfer。
- Hugging Face · 新模型:uncensored精选HauhauCS 发布 Qwen3.8-27B-Uncensored Aggressive 激进去对齐 GGUF 量化版
HauhauCS 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的 Aggressive 无对齐 GGUF 量化版,实测 0/465 拒绝,定位为直接给答案、极少前置说明的变体。全部量化保留原生 MTP/NextN 头和 262,144-token 原生上下文(可扩展至 1,000,000),支持文本、图像和视频输入,需另下 BF16 projector。
- Hugging Face · 新模型:uncensored精选HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版
HauhauCS 在 Hugging Face 发布 Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF,实测拒绝率 0/465,主打直接回答、无拒绝行为和最少前导语。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 910月21日 19:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。