跳到正文
10月10日周六
  1. Hugging Face · 新模型:abliterated17

    Longleaf-35B-A3B-Abliterated 上架 Hugging Face:仅有元数据的开发预览,权重未发布

    redhillsmediafl 在 Hugging Face 上架 Longleaf-35B-A3B-Abliterated 开发预览页,目前仅有元数据,尚无权重或已接受的 abliterated 版本。该模型是基于 Qwen3.6-35B-A3B(Apache-2.0 上游许可)的计划版本,面向编程和 agent 工作流,目标设备为 Mac Studio(M1 Ultra、64 GB 统一内存),以 Q4 为目标。当前版本的质量、速度和内存均未测得,无 SWE-bench 或 Terminal-Bench 等声明。

  2. Hugging Face · 新模型:uncensored54

    YueFong 发布 Qwen-Image-2.1 Uncensored GGUF 量化版

    YueFong 在 Hugging Face 上发布基于 Qwen/Qwen-Image-2.1 原始权重的 Uncensored GGUF 量化版,用于本地图像生成。该版本移除内置安全检查器,可直接生成成人及敏感图像而不出现提示词拒答或黑图;提供 BF16 到 Q4_0 等多档量化(如 Q4_K_M 为 4.60 GB),并附配套文本编码器 qwen3vl_8b 与 VAE 文件、ComfyUI 及 ComfyUI-GGUF 的部署与低显存配置说明。

    推荐理由:原文列全了各量化档位的文件体积与显存占用,还给出 ComfyUI 的部署步骤和文本编码器卸载方案,照做即可跑通本地生图。

  3. Hugging Face · 新模型:uncensored67

    YueFong 发布 Qwen-Image-2.1-Turbo 去拒绝文本编码器 GGUF,英文拒绝率从 88.9% 降至 1.2%

    AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored-GGUF,将 Qwen-Image 的文本编码器 Qwen3-VL-8B-Instruct 的拒绝方向投影移除,作为 stable-diffusion.cpp 的 --llm 使用。编码器作为聊天模型时,英文拒绝率从 88.9% 降至 1.2%,俄语从 38% 降至 0%,MMLU 保持 77.35% 不变;实测显示 Qwen-Image 开源管线本就无过滤,45 条敏感提示词的结果一条都没有改变,图像仅有约 0.088 的 LPIPS 偏移。

    同一新闻,精选展示《AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF 文本编码器,拒绝率从 88.9% 降至 1.2%》

  4. arXiv · cs.AI54

    WorkBorne 论文提出以工件转变为 primitive 合成 Agent 任务

    arXiv 论文 WorkBorne 提出以 artifact transitions(工件转变)为核心 primitive 合成长时程终端 Agent 任务的框架,并构建了 1,061 个工件语料和 7,882 个任务环境,产出 15,485 条高质量轨迹,其中 53.6% 超过 30 个 assistant turns。

    推荐理由:原文给出了任务合成的具体数据规模和 Terminal-Bench 2.1 的前后对比,读者可评估该方法对训练终端 Agent 的实际增益。

  5. Hugging Face · 新模型:abliterated57

    swdq 发布 Huihui-Qwen3.6-35B-A3B-abliterated 的 MLX 4-bit 量化版

    swdq 在 Hugging Face 放出 huihui-ai/Huihui-Qwen3.6-35B-A3B-abliterated 的 MLX affine 4-bit 权重,并把检查点自带的 MTP 头量化为 mtp-4bit.safetensors,供 TensorFold 的 Qwen3.6 MoE CUDA 家族使用。在一台 NVIDIA DGX Spark(GB10)上用 TensorFold 0.6.6、--mtp-drafts 2 --prefill-f8 实测,8k tokens 预填充 5,700–7,200 tok/s、解码 98–128 tok/s;相比之下 BF16 检查点在 vLLM 0.29 加 FP8 在线量化加 MTP 2 下解码约 53/69 tok/s。

    推荐理由:原文给出了完整的量化方法、实测吞吐数据和复现命令,读者可以直接拿来在单机上部署这个 4-bit 版本。

  6. arXiv · cs.AI38

    TQG-Exp:用轨迹质量反馈改进大语言模型智能体的经验学习

    论文提出 TQG-Exp,一个以轨迹质量为导向的经验学习框架,通过引入 Trajectory Quality Loss(TQL)将任务完成度与过程质量共同作为学习信号,并利用成对 rollout 估计检索经验的贡献以优化经验效用与检索。在 ALFWorld、WebShop 和 ScienceWorld 三个基准上,TQG-Exp 的 Avg.@3 较最强基线在 DeepSeek-V4-Flash 与 Qwen3.5-Flash 上分别提升 4.50 和 8.55 个百分点。

  7. Hugging Face · 新模型:uncensored76

    AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF 文本编码器,拒绝率从 88.9% 降至 1.2%

    AtomicChat 在 Hugging Face 发布去对齐版 Qwen-Image-2.1-Turbo 文本编码器 GGUF,将 Qwen3-VL-8B-Instruct 的拒绝方向从权重中投影去除。作为聊天模型,英文拒绝率从 88.9% 降到 1.2%,俄语从 38% 降到 0%,MMLU 保持 77.35% 不变;45 条敏感图像提示词测试中无一翻转,图像输出仅有约 0.088 的 LPIPS 漂移。提供 BF16 到 Q2_K 量化分档,配 stable-diffusion.cpp 的 --llm 参数本地运行,方法基于 Arditi et al. 2024 的单方向拒绝机制研究。

    推荐理由:原文完整给出拒绝方向消融方法、拒绝率前后对照和量化分档对画面的影响,可据此自行评估这个去对齐编码器的实际改动幅度。

  8. Hugging Face · 新模型:uncensored43

    HauhauCS 发布 Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 去审查模型

    HauhauCS 在 Hugging Face 发布基于 Qwen3.6-35B-A3B 的去审查(abliterated)模型 Aggressive 版本,宣称 0/465 次拒绝,数据集和能力与原版完全一致。模型总参数 35B、每次前向激活约 3B(MoE),256 个专家中每个 token 路由 8 个,原生 262K 上下文,支持文本、图像、视频多模态。提供 K_P 自定义量化(等效提升 1-2 个量化等级、文件仅大 ~5-15%),兼容 llama.cpp、LM Studio 等 GGUF 运行时。

  9. Hugging Face · 趋势模型42

    vllm-sr/d3:Decision 3.0 的 27B 多模态决策模型发布

    vLLM Semantic Router 发布 27B 多模态基础决策模型 d3(Decision 3.0),参数 26.09B(含 0.46B 视觉编码器),一次调用回答 Choice、Yes/No、Score 类问题并返回每个选项的概率,不生成文本。Jev Decision Index 0.3.2 达 66.3 居官方文本榜第一,比 Decision 2.0 的 55.9 高 10.4;文本请求中位延迟 54.4 ms,Apache-2.0 开源,可用 vLLM Semantic Router 部署。

  10. Hugging Face · 新模型:uncensored56

    Qwen3.5-9B-Claude-4.6-HighIQ-INSTRUCT-HERETIC-UNCENSORED 微调模型发布,拒绝率从 100/100 降至 6/100

    cookies55 在 Hugging Face 发布了 Qwen3.5-9B 的去审查微调版,用 Unsloth 在本地硬件以 Claude 4.6 大型蒸馏数据集训练,经 Heretic 消融后拒绝率从 100/100 降到 6/100,KL 散度为 0.0793。该版本为 INSTRUCT 模式并修改了 jinja 模板,图像输入经测试可用,视频部分未测试,建议最低 q4ks(非 imatrix)或 IQ3S(imatrix)量化。

    推荐理由:作者给出了消融后的 KL 散度和拒绝率前后对比,以及七项基准分数变化,读者可自行判断去对齐的代价。

  11. Hugging Face · 新模型:uncensored60

    HauhauCS 发布 Qwen3.8-27B Uncensored Aggressive 变体的 GGUF 量化与 FastMTP 加速方案

    HauhauCS 在 Hugging Face 发布基于 Qwen3.8-27B 的 Uncensored Aggressive 无对齐变体 GGUF 量化,实测 0/465 次拒绝,无前导客套地直接回答。所有文本 GGUF 保留原生 NextN/MTP 头,并附带 HauhauCS FastMTP 32K 加速 sidecar,在 RTX PRO 6000 上对比关闭 MTP 时文档 TG 最高达 3.02x、推理 TG 最高 1.93x,Q8_K_P 档位比标准内嵌 MTP 快 35.2%/21.1%;提供 Q2 至 Q8 及 IQ 系列量化、BF16 视觉 projector、llama.cpp 补丁与部署命令,附 Ed25519 签名清单校验。

    同一新闻,精选展示《HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版》

  12. Hugging Face · 新模型:uncensored79

    Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100

    作者发布了 Qwen3.8-27B-Uncensored 的 GGUF 量化版本(IQ2_M 到 Q8_0),用 Heretic 移除拒绝方向,保留 MTP 头,拒绝行为显著减少但未消除,从 100 个有害提示中的 98 个降至 12 个。权重编辑带来约 0.043 的困惑度增加(相对约 0.7%),MMLU、ARC-Challenge、HellaSwag、Winogrande 四项基准平均下降 0.5 分且均在标准误内。模型卡同时给出 imatrix、自建低比特量化方法和 MTP 投机解码实测(n_max 1 时约 1.19x-1.28x 加速)。

    推荐理由:作者给出了 Heretic 消融方法、拒绝率从 98/100 降到 12/100 以及困惑度和基准的前后对照数据,可以据此判断权重编辑的实际代价。

  13. arXiv · cs.CL40

    Reward-Aligned Distillation(RAD):基于奖励对齐加权蒸馏信号提升 LLM 推理

    论文提出 Reward-Aligned Distillation(RAD),一种双层框架,通过预测每个 token 监督信号对学生模型更新后奖励的影响来加权 on-policy 蒸馏信号。在相同训练响应预算下,RAD 在六个竞赛数学基准上比最强基线提升 Qwen3-1.7B(non-thinking)6.5 个百分点、Qwen3-4B-Instruct-2507 2.5 个百分点;在 LiveCodeBench-v6 上,Qwen3-1.7B(non-thinking)与 OLMo3-7B-Instruct 分别达到 54.69% 和 58.67% pass@1,超过最强基线 8.7 和 6.4 个百分点。简化变体 RAD-Simple 在同等预算下取得相近数学准确率。

  14. Hugging Face · 新模型:uncensored63

    j-llm 发布 Qwen3.8-27B-Uncensored 的 OptiQ 混合 4/8-bit MLX 量化版

    j-llm 在 Hugging Face 发布 orcarouter/Qwen3.8-27B-Uncensored 的 OptiQ 混合 4/8-bit MLX 量化版,约 19.2 GB,5.13 bits/weight。该量化基于对 uncensored 权重直接测量的逐层 KL 敏感度分配精度,保留 BF16 视觉塔与 MTP head sidecar,262,144 token 上下文;Capability Score 88.86,高于参考版 mlx-community/Qwen3.8-27B-OptiQ-4bit 的 87.98。

    推荐理由:原文给出逐层 KL 敏感度测量和 6 项基准对比,读者可评估混合量化相对参考版的质量取舍。

  15. Hugging Face · 趋势模型71

    autotrust 发布 GLM5.3-Flash-E192-DGX-Spark 剪枝版,124 GiB 权重可单卡 B200 运行

    autotrust 在 Hugging Face 发布 zai-org/GLM-5.3-Flash 的非官方精简版 GLM5.3-Flash-E192-DGX-Spark,通过 NAS 每层保留 288 个路由专家中的 192 个、专家用 NVFP4 量化,每 token 仍激活 18B 参数,权重 124 GiB 为家族最小,单张 180 GB Blackwell GPU 可跑,双 DGX Spark 各承担约 62 GiB。

    推荐理由:作者用同一套评测跑出 E192/E224/E256 三档在显存、KV 容量和各基准上的差异,便于按硬件选型。

  16. Hugging Face · 新模型:uncensored52

    Qwen3.8-27B-Uncensored-Heretic GGUF 量化发布,为 12/16/24 GB 显卡保留原生 MTP 头

    codavidgarcia 发布 Qwen3.8-27B-Uncensored-Heretic 的 UD GGUF 量化,采用 Unsloth 逐张量配方,MTP 头(blk.64)在各档保持 q6_K/q8_0,使模型连同原生 MTP 完整装入 12/16/24 GB 显卡。实测 16 GB UD-IQ4_XS 的 KLD 比可容纳 MTP 的同类量化低 2.4 倍,RTX 4080 上开启 MTP 后代码生成 55 tok/s,约为关闭时的 1.9 倍;拒绝率数据来自 llmfan46 的 Heretic v2(3/100 拒绝),本仓库未复测。

    推荐理由:作者对每档量化都实测了 KLD、top-1 命中率和解码速度,并与同权重其他量化逐项对比,数据可直接用于选型。

  17. Hugging Face · 新模型:abliterated76

    Qwen3.8-27B abliterated 版本发布,权重级消融将拒绝率从 99.3% 降至 0%

    rajaykumar12959 在 Hugging Face 发布 Qwen/Qwen3.8-27B 的 abliterated 版本,用 difference-in-means 方向对每个残差写入权重矩阵做正交化,消融直接写入 checkpoint,无 runtime hook 和 LoRA,仅含语言模型部分(bf16,text-only,约需 55 GB 显存)。在 292 个 held-out 有害提示上拒绝率从 99.3% 降至 0%,覆盖全部 12 个类别;代价是 MMLU-Pro 从 65.1% 降至 61.8%(−3.3 pp),harmless 提示上的 KL 散度为 0.086 nats。

    推荐理由:给出了完整的消融方法、逐层扫描和拒绝率前后对比数据,读者可以据此评估这次去对齐的实际代价与副作用。

  18. Hugging Face · 新模型:abliterated23

    AtomicChat 发布 Qwen-Image-2.1-Turbo-Abliterated-Uncensored-GGUF 模型

    AtomicChat 在 Hugging Face 上发布 Qwen-Image-2.1-Turbo-Abliterated-Uncensored-GGUF 模型,提供 Q4_K_M 量化版本。文档给出 llama.cpp、Ollama、Docker Model Runner、Lemonade 等多种本地运行方式,包括启动 OpenAI 兼容服务器和终端直接推理的命令,并覆盖 Pi、Hermes Agent、OpenClaw 等工具的配置方法。

  19. Hugging Face · 新模型:uncensored39

    Swift-1.5-Qwen3.8-27B-Uncensored-MTP 的 VAL-APEX-I MiniPlus V3 GGUF 量化版发布

    IsValorum 在 Hugging Face 发布 Swift-1.5-Qwen3.8-27B-Uncensored-MTP 的 VAL-APEX-I MiniPlus V3 GGUF 量化版,文件大小 14.28 GB,whole-file BPW 为 3.93,WikiText-2 PPL 为 6.6669,比 GSQ-RCO IQ3_S 基线降低 5.70%。该模型基于 UkisAI 的 Swift-1.5 推理微调,内置 Multi-Token Prediction 投机解码头(blk.64.*,844M 参数),可在 llama.cpp 中直接加速推理,无需外部 draft 模型;同时保留高精度视觉编码器(mmproj-Q8_0.gguf),并维持法、西、德、中多语言语法完整性。

  20. Hugging Face · 新模型:uncensored42

    Swift-1.5-Qwen3.8-27B-Uncensored-MTP 发布 VAL-APEX-I NanoPlus V3 GGUF 量化版

    UkisAI 的 Swift-1.5-Qwen3.8-27B-Uncensored-MTP 推出 VAL-APEX-I NanoPlus V3 GGUF 量化版,文件仅 11.08 GB、整文件 BPW 2.85,WikiText-2 PPL 为 6.9102,比基线 GSQ-RCO IQ3_S 低 2.26%。模型基于 Qwen3.8-27B 的 27B MoE 推理微调,内置 Multi-Token Prediction 头(blk.64.*,15 个 tensors)可在 llama.cpp 中直接投机解码,并保留 mmproj-Q8_0.gguf 视觉编码器与法、西、德、中多语言语法完整性。

  21. Hugging Face · 新模型:uncensored29

    Ternary Bonsai 2 27B Uncensored Heretic v2 Compact MLX 2-bit 紧凑版发布

    3hs4n 在 Hugging Face 发布 Ternary Bonsai 2 27B Uncensored Heretic v2 的紧凑版 MLX 权重,将 27 个视觉 MLP expansion 层从 FP16 量化为原生 MLX affine 2-bit/group-128,权重文件从 8.60 GB 降至 8.37 GB,节省约 230 MB(2.68%)。全部 2,057 个语言张量逐字节不变,思考模板与 tool-call 格式保留,上下文上限 262,144 tokens。已在 LM Studio 0.4.26+4 验证通过,但推理质量未经 benchmark,视觉量化为有损。

  22. arXiv · cs.AI33

    语言模型能玩好维基百科游戏吗?

    一项 arXiv 研究用“维基百科游戏”评测语言模型的信息检索能力,要求模型仅通过文章链接到达目标条目。研究者在本地构建了大规模维基百科图谱和基于 OpenAlex 的论文引用图谱,对比了嵌入向量模型与 LLM 在五种语言和五个学术数据集上的表现,并与人类及 TF-IDF 基准比较。结果显示没有任何模型显著超越人类,但 GPT-o3 mini、GPT-4o、QwQ:32B 和 DeepSeek-R1:70B 达到了可比水平,且性能排名随语言和主题变化。

  23. arXiv · cs.CL40

    语言模型能否学会何时拒答?策略学习与校准答案选择研究

    一项 arXiv 研究在 Qwen3-14B 上探索让模型学会何时拒答,比较训练模型本身与训练独立答案选择器两种方法。在 TriviaQA 上,学习型选择器将平均覆盖率从 20.2% 提升到 30.9%,已评分答案的错误率从 23.0% 降至 14.5%;但测试的强化学习方法未带来一致增益,NQ-Open 上选择器仍不如始终拒答,跨数据集的可靠拒答仍未解决。

  24. Hugging Face · 新模型:uncensored42

    Ternary Bonsai 2 27B Uncensored Heretic v2 MLX 2-bit 社区转换版上线 Hugging Face

    Hugging Face 上线 Ternary Bonsai 2 27B Uncensored Heretic v2 的社区 MLX 2-bit 转换版,Safetensors 权重约 8.60 GB(含视觉塔),配置上下文上限 262,144 tokens,采用 Apache 2.0 许可。权重来自 Heretic v2 PQ2_0 模型,无损重打包为 affine 2-bit/group-128 存储且未做额外量化或训练。该模型需在 Apple Silicon Mac 上用 mlx-vlm 0.7.2 及支持 prism_hadamard_qwen35 架构的加载器运行,并提供 OpenAI 兼容 API。

10月9日周五
  1. Hugging Face · 趋势模型58

    千问发布 Qwen-Image-2.1-Turbo 8 步加速检查点

    千问(Qwen)发布 Qwen-Image-2.1-Turbo,这是 Qwen-Image-2.1 的加速检查点,支持 8 去噪步的文生图与图像编辑。模型沿用 7B 视觉生成架构,可通过 Diffusers 的 QwenImage21Pipeline 直接加载,采样日程随检查点自动加载,默认 CFG=1 并用 prefix KV caching 复用文本和参考图上下文。模型采用 Qwen Research License Agreement 授权。

    推荐理由:官方发布了 8 步加速版文生图与图像编辑权重,采样日程随检查点自动加载,附 Diffusers 用法,适合想在本地跑快速生成的读者。

  2. Hugging Face · 新模型:abliterated75

    Kujira 发布 Underdog Saluki 27B 1.0 MTP 去拒答 GGUF 版

    Kujira 在 Hugging Face 发布 Underdog-Saluki-27B-1.0-MTP 的 abliterated GGUF 版,仅改动第 35–36 层的 4 个张量,其余 862 个张量与原文件字节级一致,未做训练。有害提示词拒绝率从 99% 降到 1%(开思考时 78% 到 2%),英语困惑度上升 1.6%、日语上升 1.8%,速度和显存与 MTP 版相同,约 58–62 tok/s,12 GB 显卡可用 40K 上下文。消融方法未公开。

    推荐理由:原文列出消融改动的具体张量、拒绝率前后对比和困惑度变化,读者可以评估这个去对齐版本的代价。

  3. arXiv · cs.AI39

    OAL:基于分组二次核的离群维度感知注意力线性化方法

    研究者提出离群维度感知注意力线性化方法 OAL,指出少量离群维度贡献了 softmax 注意力线性化近似误差的主要部分。该方法通过 Hadamard 积形式与分组二次核保留离群维度的差异化处理,在 Qwen2.5-0.5B 上较 DiJiang 将冻结注意力输出的相对 MSE 降低约 8.9%;配合 LoRA 微调将 WikiText-103 困惑度从 31.71 降至 27.50,并提升 PIQA、HellaSwag 和 ARC-E 准确率。

  4. Hugging Face · 新模型:uncensored65

    HauhauCS 发布 Qwen3.8-27B Aggressive 无审查 GGUF 量化版

    HauhauCS 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的 Aggressive 无审查量化版,标注 0/465 次拒绝,保留文本、推理、Agent 和图像视频能力,许可证沿用 Apache 2.0。附带自研 FastMTP 32K 草稿加速边车与 llama.cpp 补丁,在 RTX PRO 6000 Blackwell 上 Q8_K_P 达到对关闭 MTP 最高 3.02x 文档 TG 和 1.93x 推理 TG,并给出各档位实测速度与签名校验清单。

    同一新闻,精选展示《HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版》

  5. arXiv · cs.AI29

    AudioTETRIS:基于过渡重要性信号消除 token,实现高效音频 LLM

    AudioTETRIS 是一个 training-free 的两阶段框架,利用音频编码器的表示几何作为声学先验,计算逐 token 融合分数并跨 decoder 层进行渐进式 top-k token 选择。在 Qwen2-Audio-7B、Phi-4-Multimodal 和 Audio Flamingo 3 上,仅用 25% 音频 token 即可在多项语音任务上保持接近未压缩的性能,并在中等压缩率下达到或超过全 token 准确率,持续优于现有 training-free 基线。

  6. Hugging Face · 新模型:abliterated21

    Qwen2.5-1.5B-Abliterated 上架 Hugging Face:基于权重正交化的教育性 abliteration 演示模型

    jaswanthsanjay88 在 Hugging Face 发布 Qwen2.5-1.5B-Abliterated,一个基于 Qwen2.5-1.5B-Instruct 的教育演示模型,采用 Arditi et al. (2024) 的权重正交化(abliteration)方法。干预作用于第 16 层 residual write projections,校准数据采样自 AdvBench harmful 和 Alpaca cleaned 数据集,用于大学教学中展示对齐模型的行为防护如何映射到 transformer 残差流中的线性子空间。

  7. Hugging Face · 新模型:uncensored37

    Qwen-Image-2.1 Uncensored GGUF 量化版本发布,支持 ComfyUI 本地图像生成

    Hugging Face 用户 robertbschuette 发布了 Qwen-Image-2.1 的 Uncensored GGUF 量化版本,提供从 BF16(14.23 GB)到 Q4_0(4.15 GB)等多种量化文件,推荐 Q4_K_M(4.60 GB)作为体积与质量的最佳平衡。该版本移除内置安全检查与内容过滤,可直接生成 NSFW 等敏感图像。模型可在 ComfyUI 中配合 qwen3vl_8b 文本编码器与 VAE 使用,文本编码器可卸载至系统内存,节省 9–17 GB 显存。

  8. arXiv · cs.AI46

    SWE-Critix:面向编程智能体轨迹评估的后训练通用验证器

    SWE-Critix 是一个用于训练编程智能体轨迹通用验证器的后训练 pipeline,结合 SFT 与 RL,基于 CodeForge-Preview 轨迹训练了 30B 模型,可预测任务完成标签并生成自然语言分析。在留出测试集上,分类准确率从基座 Qwen3-30B-A3B 的 57% 提升至 SFT 后的 66%、RL 后的 78%。模型、数据集与训练代码均已开源发布。

  9. arXiv · cs.CL48

    CAST:面向跨 Tokenizer 在策略蒸馏的信用对齐方法

    CAST(Chunk-aware credit Assignment with Selective Token Anchoring)是一种 shift-or-stay 框架,解决跨 tokenizer 在策略蒸馏中的信用分配问题:对已对齐 chunk 按预测不确定性和教师信号平滑度重新分配优势,对未对齐位置用 KL 惩罚将学生锚定在初始策略上。在六个数学、科学和代码 benchmark 上,CAST 从 Qwen3-8B 向 Mistral-7B 和 Llama-3.1-8B 跨 tokenizer 迁移时,平均分别超过最强基线 2.45 和 1.32 分,向共享 tokenizer 的 Qwen3-1.7B 迁移时超过 2.10 分。

  10. arXiv · cs.CL39

    S$^3$R:基于自稀疏投机解码的快速且忠实的 RL rollout 方法

    研究者提出 S$^3$R(Self-Sparse Speculative Rollouts),用稀疏注意力起草 token、全注意力验证与精确投机采样生成响应,响应组保持稠密策略分布,无需单独训练 drafter。在长上下文数学推理任务上,S$^3$R 在 Qwen3 模型上实现 1.39x~1.35x 的端到端训练吞吐提升,任务性能相当,并在消融实验中保持训练稳定。

  11. arXiv · cs.CL39

    PreSTO:预测式子树预取加速 LLM Power Sampling

    PreSTO 是一种预测式子树预取方法,通过批量预取未来 Metropolis–Hastings 提案来加速 PowerMH 采样器,且不改变其 MH 转移核。在 7 个数据集和 5 个基础 LLM 上,PreSTO 对 PowerMH、EntropyCut 和 MultiTryMH 分别取得中位 1.71×、1.91× 和 2.33× 加速,模型调用次数中位减少 3.9×,每次调用时长仅增至 2.1×。在 LCB V6 与 Qwen3.5-9B 上,预测式遍历规则比默认广度优先遍历再快 1.25×–1.37×。

  12. Hugging Face · 新模型:abliterated41

    Huihui-Qwen3.8-27B-abliterated GGUF 量化版本更新

    Huihui-ai 发布 Qwen/Qwen3.8-27B 的 abliterated 去审查版 GGUF 量化模型,多次更新新增 UD、UD-DW、GSQ-RCO、Ternary、Swift 等系列,其中部分版本仅消融第 22 至 52 层(0 起始索引)。模型提供 Q2_K_L 至 Q8_0_L 等量化格式,支持上下文长度 262144,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行。官方提示安全过滤已显著降低,建议仅用于研究和测试环境。

  13. Hugging Face · 新模型:abliterated33

    ThinkingCap-Qwen3.8-27B-abliterated UD-Q4_K_XL GGUF 量化版发布

    groxaxo 在 Hugging Face 发布 ThinkingCap-Qwen3.8-27B-abliterated 的 UD-Q4_K_XL GGUF 量化版,共 866 个张量,直接从 BF16 checkpoint 转换并采用 Unsloth 的张量布局与 imatrix。附带独立 MTP draft、视觉 mmproj 和 chat_template.jinja,支持 llama.cpp 的 --spec-type draft-mtp 投机解码、enable_thinking 以及 low/medium/xhigh 推理力度。模型采用 PolyForm Small Business License 1.0.0,仓库声明不提供新的质量基准。