模型与平台
阿里千问系列的开源权重发布、量化版与社区衍生变体。
143 条精选近 30 天 112 条共收录 557 条
alesha-pro 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 GSQ-RCO 量化包，收录 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档 GGUF（逐字节复制并校验 SHA256），另附一个 480 KB 的拒绝方向向量文件，可在 Strata 引擎中运行时投影去除拒绝行为，权重保持原样。
推荐理由：原文保留原始量化权重并给出拒绝率、KL 散度和解码速度的实测数据，读者可据此评估运行时去拒绝向量对输出的实际影响。
TechPrototyper 发布了基于 rdtand 的 GridBook 13GB 量化版 Qwen3.8-27B 的 abliterated 变体，通过将 BF16 消融供体权重移植进已有量化 checkpoint 并按原量化网格重编码，不重新量化，仅改动 1363 个张量中的 113 个。
推荐理由：原文给出在量化格式内做消融的完整方法与拒绝率、工具调用前后对比，读者可据此判断这种不重新量化的去对齐做法是否可靠。
HauhauCS 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的 Aggressive 无对齐 GGUF 量化系列，实测拒绝率 0/465，保留文本、推理、Agent 及图像视频能力。全套量化提供 K_P 自定义档位，附带的 FastMTP 32K 加速 sidecar 相比无 MTP 最高达 3.02x 文档 TG 和 1.93x 推理 TG，比内嵌 MTP 最高快 35.2%/21.1%，实测基于 RTX PRO 6000 Blackwell 96GB。需配套 llama.cpp 补丁，vision 需单独 BF16 projector，原生上下文 262,144 token，可扩展至 1,000,000。
推荐理由：原文给出了0/465拒绝实测和完整量化档位的MTP加速对比数据，读者可据此判断去对齐程度和各档位实际推理速度。