跳到正文
10月9日周五
  1. arXiv · cs.CL42

    提示词优化器会破坏未被评分的要求吗?一项预注册研究

    一项预注册研究在 HotpotQA、SQuAD 2.0 和 IFEval 上测试 GEPA、MIPROv2 和 TextGrad,发现三者都会违反未被评分的要求,如 HotpotQA 上引用有效性净回归达 10.7 至 41.6 个百分点。事后分析显示,主要原因是优化后的提示词在要求的 JSON 对象前输出推理,在 200-token 输出上限下 13.9% 至 47.0% 的响应在给出答案前被截断。将上限提高到 1,024-token 后提取失败消失,内容回归低于 1 个百分点。

  2. arXiv · cs.AI41

    BoundaryEvo:面向长链推理蒸馏的能力边界数据-模型协同演化框架

    BoundaryEvo 提出一种两阶段数据-模型协同演化框架,用于从大模型蒸馏长链推理能力:先通过 Capability Priming 直接蒸馏少量教师长推理轨迹,再在 Capability-Boundary Co-Evolution 中持续选取学生未掌握但专家可解的题目并随学生能力演化更新训练数据。仅用 1,000 条训练样本,BoundaryEvo 在 11 个推理 benchmark 上超越静态和动态数据选择基线,将 Qwen3.5-4B 在 IMO-AnswerBench 上的准确率从 62.9 提升至 75.3,在 AMO-Bench 上从 26.8 提升至 46.0。代码与数据将开源。

  3. arXiv · cs.CL48

    CAST:面向跨 Tokenizer 在策略蒸馏的信用对齐方法

    CAST(Chunk-aware credit Assignment with Selective Token Anchoring)是一种 shift-or-stay 框架,解决跨 tokenizer 在策略蒸馏中的信用分配问题:对已对齐 chunk 按预测不确定性和教师信号平滑度重新分配优势,对未对齐位置用 KL 惩罚将学生锚定在初始策略上。在六个数学、科学和代码 benchmark 上,CAST 从 Qwen3-8B 向 Mistral-7B 和 Llama-3.1-8B 跨 tokenizer 迁移时,平均分别超过最强基线 2.45 和 1.32 分,向共享 tokenizer 的 Qwen3-1.7B 迁移时超过 2.10 分。

  4. arXiv · cs.CL45

    Vision Transformer 仅凭图像就能学会词义

    研究发现 DINOv3-H 和 DINOv3-7B 这两个视觉 Transformer 仅靠图像自监督预训练、无任何文本配对或标签监督,就能组织出词义结构。研究者通过词图像与匹配对照的嵌入差分分析发现,同行业品牌名、同语义域名词各自聚集,国家-首都词对呈现一致向量偏移,且与文本、语音编码器的表示结构相互对齐。这是已知首批展现出渲染文字语义结构的自监督视觉模型。

  5. arXiv · cs.AI24

    AMR 解析器输出有多可靠?AMR 解析的不确定性估计研究

    AMR 解析器性能虽已大幅提升,但何时可信任其输出仍缺乏研究。该工作首次在黑盒设定下,利用 top-k beam-search 候选的成对相似度进行不确定性估计,并用 Prediction Rejection Ratio 评估。实验分析了性能与不确定性的关系、beam 候选分布的可靠性及评测指标的影响,并找出性能与可靠性平衡最佳的解析器。

  6. arXiv · cs.AI30

    ReSFlow:在统计流形上校正类别流,实现一步生成

    研究者提出 ReSFlow(Rectified Statistical Flow)模型,借鉴 Rectified Flow 的“直且快”特性,在统计流形上显式学习测地线轨迹,实现离散数据的一步类别生成,降低多步数值积分的推理开销。理论证明校正后轨迹逼近测地线,在图像、文本和生物等生成任务上展现出更优的一步生成质量,代码已开源。

  7. arXiv · cs.CL39

    S$^3$R:基于自稀疏投机解码的快速且忠实的 RL rollout 方法

    研究者提出 S$^3$R(Self-Sparse Speculative Rollouts),用稀疏注意力起草 token、全注意力验证与精确投机采样生成响应,响应组保持稠密策略分布,无需单独训练 drafter。在长上下文数学推理任务上,S$^3$R 在 Qwen3 模型上实现 1.39x~1.35x 的端到端训练吞吐提升,任务性能相当,并在消融实验中保持训练稳定。

  8. arXiv · cs.AI32

    AdaC-GRPO:用自适应课程学习攻克长程视觉数独推理

    研究者提出自适应课程学习方法 AdaC-GRPO,并发布细粒度基准 FG-Sudoku,用于训练模型完成需要多步演绎推理的视觉数独任务。前沿 MLLM 在 9*9 这类长程依赖谜题上几乎全部失败,导致标准 RLVR 因奖励稀疏而停滞。AdaC-GRPO 通过在线 rollout 准确率追踪模型"最近发展区"动态构建训练批次,使 Qwen2.5-VL-7B 接近 Gemini-2.5-Flash 的表现,并弥补与 Gemini-2.5-Pro 62.2% 的准确率差距,方法在 InternVL-3.5 和 Qwen3-VL 上也得到验证。

  9. arXiv · cs.AI30

    RoleWorld:用功能角色抽象实现世界建模中的知识迁移

    研究者提出 RoleWorld,一种符号世界建模方法,用可复用的角色原型和环境特定参数值作为功能角色抽象来表示物体在交互中的行为。teacher LLM 从交互轨迹中提取角色原型和可执行转移规则,并生成指导 actor LLM 决策的技能;在目标环境中无需 teacher,即可通过交互在线修正角色分配与参数估计,且不更新 LLM 参数。在 MARS benchmark 上的实验显示,RoleWorld 能在物体行为显著变化的环境间实现稳健泛化。

  10. arXiv · cs.CL39

    PreSTO:预测式子树预取加速 LLM Power Sampling

    PreSTO 是一种预测式子树预取方法,通过批量预取未来 Metropolis–Hastings 提案来加速 PowerMH 采样器,且不改变其 MH 转移核。在 7 个数据集和 5 个基础 LLM 上,PreSTO 对 PowerMH、EntropyCut 和 MultiTryMH 分别取得中位 1.71×、1.91× 和 2.33× 加速,模型调用次数中位减少 3.9×,每次调用时长仅增至 2.1×。在 LCB V6 与 Qwen3.5-9B 上,预测式遍历规则比默认广度优先遍历再快 1.25×–1.37×。

  11. arXiv · cs.CL25

    SOAR:面向搜索智能体的源感知强化学习与精确信用分配方法

    研究者提出 SOAR(SOurce-Aware Reinforcement learning),通过 Source-Aware Workflow 将推理拆分为外部信息与内部知识两条可观测流,并用 Source-Consistent Reward 引导策略演进,解决搜索智能体绕过外部检索、编造答案的问题。在 3B 和 7B 底座上,SOAR 分别超过基线 7.3% 和 5.4%,证据捏造减少 74.8%,提升了知识密集型基准上的表现与推理的可靠性。

  12. arXiv · cs.AI35

    面向 LLM 多智能体系统的能力感知编排方法

    一项 arXiv 研究提出两阶段能力感知框架,自动编排 LLM 多智能体系统协作,根据 backbone 对当前 query 的能力动态调整角色激活与通信图。该方法在六个 benchmark 上平均得分 93.81%;对高能力 backbone 将平均准确率从 87.22 提升至 89.97,同时降低 36.26% 的 token 成本;对低能力 backbone 较现有方法平均再提升 4.58 分,且趋势在未见过的 backbone 上同样成立。

  13. arXiv · cs.CL28

    Neurograf v1:面向罗马尼亚语的首个端到端语言模型家族

    研究者推出 Neurograf v1,一套从零训练的罗马尼亚语优先端到端语言模型管线,含 635 GB 语料 RoSfera(1.757 亿文档)、80k byte-level BPE 分词器、160M 至 6B 参数的五个 decoder-only 模型(共训练 131 billion tokens)、三个指令微调助手和两个对比训练嵌入模型。在 1,000 题 WWTBM 基准上,Neurograf-6B 在罗马尼亚语语境问题达 69.89% 准确率,Neurograf-3.2B 达 67.38%。该模型家族定位为实验性演示而非生产系统。

  14. arXiv · cs.CL22

    从 210 万小时广播音频构建芬兰语语音 SSL 模型:置信度过滤与架构对比分析

    一项大规模芬兰语语音 SSL 研究从 210 万小时无约束广播音频出发,提出用 ASR 置信度作为预训练数据质量的代理指标。相比基于 LID 的过滤,该方法在训练集更小的情况下仍带来 3-7% 的相对 WER 提升。研究还在相同参数预算下对比了 Transformer、Macaron-Net、Conformer 和 E-Branchformer 四种架构,模型在 Base 规模和域外场景优于此前芬兰语 SSL 基线。

  15. Hugging Face · 新模型:uncensored60

    GLM-5.3-UNCENSORED 的 EXL3 3.0bpw 量化版发布

    gopiprakan 发布了 GLM-5.3-UNCENSORED-FP8 的 EXL3 量化版本(平均 3.04 bpw,273 GiB),上游是 dealignai 对 zai-org/GLM-5.3 做权重编辑得到的无微调变体,编辑记录保存在 CRACK_SURVEY. 同目录的 CRACK_SURGERY.。量化版在 wikitext-2 上相对 FP8 源的 KL 散度为 0.089/0.097,perplexity 3.440 对 3.302;tau2-bench 实测中 airline 和 retail 两域与原版 GLM-5.3 FP8 的差异分别为 -0.070 和 -0.022,样本量下不具统计显著性。

  16. arXiv · cs.CL49

    ReTRAIL:面向长程智能体的回溯探索与演化框架

    arXiv 论文提出 ReTRAIL 框架,让大语言模型智能体在长程任务中将环境回退到早期状态,同时保留有效进展并携带从放弃探索中习得的知识。该方法用 State-Anchored GRPO 和分支推进奖励训练共享策略。在 MineSweeper、Sokoban、ALFWorld 和 ScienceWorld 四个交互式 benchmark 上,仅添加回退原语收益有限甚至降低性能,而 ReTRAIL 能复用废弃分支的经验指导后续探索。

  17. arXiv · cs.CL34

    CoBe:会话式反事实文本编辑基准发布,前沿模型平均仅得 58.05%

    研究者推出反事实文本编辑基准 CoBe,测试模型在对话式提示下零样本修改文本场景、同时保留未受因果影响事实的能力。基准含 2000 道题,覆盖医疗、科学与工程、商业及日常场景;前沿模型平均得分 58.05%,且常退化为关联式生成而非保留因果结构。性能与模型规模及输出 token 长度均不一致相关,表明问题可能源于训练目标而非模型容量不足。

  18. arXiv · cs.CL33

    RAMP:面向循环深度语言模型高效 prefill 的循环自适应混合精度方法

    RAMP(Recurrent Adaptive Mixed Precision)是一种针对循环深度语言模型长上下文 prefill 的自适应混合精度方法。研究发现循环深度早期引入的量化误差会被后续更多循环步骤衰减,因此对低精度计算前置、末端恢复高精度。在最长 4K 上下文上,RAMP 在 NVIDIA H100 上实现最高 1.16x 端到端首次 prefill 加速,延迟降低 13.9%,同时保持接近全精度的质量。

  19. arXiv · cs.AI22

    AdaCast:用条件参数生成实现自适应时间序列预测

    AdaCast 是一个时间序列预测的条件参数生成框架,由生成器为冻结的预训练时间序列基础模型产出针对每个输入的低秩参数更新。相比现有一次性方法只学习单一数据集级参数更新的静态适配方式,AdaCast 在训练和推理阶段都能按输入适配模型参数。在六个公开基准上,AdaCast 在域内预测中持续超越静态适配基线,并提升了跨域留出数据集的 zero-shot 泛化能力。

  20. arXiv · cs.AI27

    Batch Before You Lift:Cluster-TNN 实现大规模图上的可扩展拓扑深度学习

    研究者提出 Cluster-TNN,一种领域无关的拓扑深度学习框架,通过预处理划分图、运行时动态采样节点簇并在 mini-batch 内局部执行 graph lifting,避免全图提升带来的计算瓶颈。在与全图执行的 21 组对比中,Cluster-TNN 在所有配置下都降低峰值 GPU 显存,平均降幅 83.2%,同时保持有竞争力的预测性能。这一方法据作者所知首次使多种高阶 Topological Neural Networks 能在 Reddit(233k 节点、57.3M 边)和 OGBN Products 等大数据集上训练。

  21. arXiv · cs.AI34

    ARGUS 智能体框架:用证据约束的大语言模型解读基因组调控区变异

    ARGUS(Agentic Regulatory Genomics for an Uncertainty-aware Scientist)提出一个证据约束的智能体框架,将确定性生物计算与 LLM 推理分离,用于解读非编码调控区的单核苷酸变异。框架封装 458 个基于 DNABERT 的转录因子结合模型,在假设驱动的调查循环中由 planner 选择证据源、verifier 确定性解读观察结果。在 8q24 癌症风险位点变异 rs6983267 上,对 FOXA1、KLF6、RAD21、SP1 四个转录因子给出不同判定,所有观察均来自真实 ADASTRA、JASPAR 和 ENCODE cCRE 查询。该工作已被 NeurIPS 2026 AgenticLS 工作坊接收。

  22. arXiv · cs.AI23

    grasp:用函数梯度引导 LLM 学习概率逻辑程序

    研究者提出神经符号框架 grasp(Gradient-boosted Synthesis of Probabilistic logic programs),将关系结构学习转化为函数梯度提升,弱学习器为一阶规则,难解的内部符号搜索交给 LLM 提议预言机。在 Tox21 分子毒性预测、诱变性和 Cora 引用匹配四个关系型 benchmark 上,grasp 超越纯符号、神经网络及基于 LLM 的基线,同时生成可解释的加权规则集成。

  23. arXiv · cs.AI43

    LLM 内部结构研究:小世界连接性可作为推理能力的结构签名

    arXiv 论文提出以小世界指数(SWI)作为 LLM 推理能力的结构签名:基于注意力头激活相似度构建功能图,发现 SWI 越高越能预测流动推理表现。据此提出的层级稀疏分配方法 Small-World Allocation(SWA)在 6 个 LLM 上比其他分配策略更好地保留小世界组织与性能,将 WikiText 困惑度最多降低 20%。

  24. arXiv · cs.AI35

    LLM 适配 Neural Operator 时靠先验还是反馈?arXiv 论文的干预实验给出答案

    arXiv 论文研究 LLM 智能体在神经算子微调配置选择中如何决策:在 PDE 族间迁移的匹配比较中,LLM 的 held-out 测试 nRMSE 几乎全面优于随机搜索和贝叶斯优化。干预实验显示,其首个配置在未见验证分数前已接近随机搜索池前列,且重分配验证分数会改变后续提议,表明 LLM 同时依赖任务先验和实验反馈。论文已被 NeurIPS 2026 AI for Science Workshop 接收。

  25. arXiv · cs.AI41

    GPD:用几何特权蒸馏提升视觉语言模型的空间推理能力

    论文提出 GPD(Geometry-Privileged Distillation),将深度、语义和鸟瞰图线索以紧凑文本形式路由给教师模型,通过特权 KL 仅对错误轨迹增强 GRPO,进行在线自蒸馏。在 4B 骨干模型上,GPD 在 VSI-Bench 达到 57.1,在 MindCube、SPARBench、MMSI-Bench 和 ViewSpatial 平均 37.6,超过 GRPO 和答案特权 OPSD,且部署模型保持仅 RGB 输入。

  26. arXiv · cs.AI29

    ARC:机器人基础模型的推理配方

    ARC 是一种无需新机器人数据即可提升机器人基础模型(RFM)零样本性能的推理配方,由推理轨迹、可扩展的自动标注管线和微调策略三部分组成。基于 DROID 演示可自动构建 ARC-Trace-DROID,π₀.₅ 和 Cosmos3-Nano-Policy 等模型经适配后在 RoboLab-120 和 MolmoSpaces 上刷新 SOTA,RoboLab-Reasoning-50 提升最多 50 个百分点,真机实验中 π₀.₅ 任务成功率提高 82.2 个百分点。

  27. arXiv · cs.AI38

    GeoReform:面向多模态几何解题的反思式形式化演化框架

    GeoReform 是一个反思式形式化演化框架,将几何形式化视为可优化的策略,通过收集失败推理样本、诊断表示缺陷并迭代改进几何实体、关系与约束的组织方式。在 Geometry3K 上,GeoReform 将 Qwen3VL-2B 的准确率从 42.0% 提升至 56.0%,表明有效的形式化是多模态几何推理提升的关键。

  28. arXiv · cs.AI38

    LeWAM:基于扩散引导 MPC 的 JEPA 世界动作模型

    论文提出 LeWAM,一种基于无解码器 JEPA 潜在空间、端到端训练的双向 Transformer,可同时进行前向、后向、逆动力学和策略预测。线性探针显示其潜在表征读取机器人与物体状态的能力优于常规 Le World Model,且像 LeWM 一样忽略视觉干扰。闭环评估中其表现与同规模 flow-matching 策略相当,同时在策略头噪声空间而非原始动作空间做规划,可提升 WAM 的 MPC 闭环性能。

  29. arXiv · cs.CL62

    小米 LLM-Core 团队发布 MiMo-V2.6 技术报告,通过扩展强化学习迈向自我改进

    小米 LLM-Core 团队在 arXiv 发布 MiMo-V2.6 系列全模态模型技术报告(arXiv:2610.11959),核心是通过扩展 RL 计算推动模型自我改进。RL 前先在多模态语料上做 mid-training,RL 计算沿三轴扩展:异步训练每步消耗 1,568 个样本、2.7-3.7B tokens,上下文最长 1M;环境覆盖代码、通用、视觉与 cyber 域;采用 groupwise agentic grading 提升长程任务奖励信号精度并引导更短的 token 高效解法。为稳定训练冻结了 MoE router 并建立多层防 reward hacking 机制,同时开源训练动态、RL 环境与 RL 框架。

    推荐理由:报告系统拆解了沿数据、环境、评分三轴扩展 RL 计算的工程细节,并开源训练动态与环境框架,可作复现参考。

  30. arXiv · cs.CL46

    专用决策模型 Jev 对比通用 LLM:在知识、推理与多语言任务上的 Benchmark 评测

    论文评测了专用决策模型 Jev——一种在给定选项间直接返回选择而非生成文本的"System One"模型——在 13 个多项选择 benchmark 上与 19 个 LLM(分 frontier、代表性和小型三档)的表现。Jev 在知识和常识任务上可与 frontier LLM 竞争,在 MMLU-Redux 和 ARC-Challenge 上取得最高分,且优于大多数代表性 LLM 和全部小型 LLM;但在数学应用题上落后,MathQA 比 frontier 中位数低 17.7 分,低于全部 19 个 LLM。结果表明专用决策模型在以知识为主的决策上可匹敌通用 LLM,但无法胜任需要多步计算的决策。

  31. arXiv · cs.CL38

    基于 Attribution Theory 的探测方法:系统考察 LLM 推理中的社会归因

    一项 arXiv 论文首次系统研究了 LLM 的社会归因,聚焦责任与责备判断。研究者以归因理论为指导构建包含 Vignette 与 Reality 两个子集的基准,共 7,639 道判断题,评测了 32 个代表性 LLM 和 5 个非 LLM 基线。结果显示 LLM 与人类判断存在可测量但不完全的一致性,且该一致性与模型规模正相关;部分归因维度可从隐状态特定位置解码,其影响与人类归因理论一致。

  32. arXiv · cs.CL30

    自然语言到一阶逻辑:基于 LLM 的自动形式化综述

    arXiv 论文(已被 EMNLP-2026 接收)为一阶逻辑(FOL)自动形式化给出统一定义,区分本体抽取与逻辑翻译,指出二者混淆模糊了跨研究评估。文章综述了现有数据集、评测指标及基于 LLM 的微调、提示词与基于验证的精炼方法,并提出 benchmarking、语义评估、本体感知方法等开放挑战。

  33. arXiv · cs.CL41

    RACE:基于跨轮估计的自适应智能体推理方法(arXiv 论文)

    arXiv 论文提出 RACE(Reasoning Adaptation through Cross-Turn Estimation),一种让 LLM 智能体学会何时推理、何时直接行动的训练方法。其核心 LoGiC(Likelihood-Guided Progressive Reasoning Cover Detection)流程通过移除推理后后续参考动作似然的下降,轻量判断既有推理是否仍然够用,并将信号用于 SFT 与 agentic 强化学习。在四个代表性 agent benchmark 上,RACE 大幅降低推理成本,同时保持或提升任务表现。

  34. arXiv · cs.CL54

    Attic-KV 论文提出只排练将被读取的内容以改进 KV 缓存压缩

    arXiv 论文 2610.12133 提出 Attic-KV,一种无需训练的 KV 缓存排练方法,核心原则是只排练将被读取的内容并按内容自适应控制排练量。论文显示在 3% 保留率下全量重读在 RULER 上仅得 96.5 分中的 31.5 分,在 LongBench 自然文本任务上低于完全不排练的方法;Attic-KV 在 RULER 和 LongBench 的八个测试设置中均为最佳免训练方法,接入 KVgrad 和 RestoreKV+ 分别最高提升 17.1 和 28.1 分,3% 保留率下领先全量重读 41.9 分。

    推荐理由:论文指出 KV 缓存预算紧张时全量重读反而失忆,并以问答自测式排练提升多个主模型的压缩表现。

  35. arXiv · cs.CL40

    KL 正则在组策略优化中为何会失效——arXiv 论文解析并提出 ZCPO

    一篇 arXiv 论文分析组策略优化中移除参考策略 KL 正则有时反而提升效果的原因,梳理了 KL 与奖励交互中的七种潜在失败模式,包括奖励裁剪后的残余 KL 更新、KL 随响应长度增长、KL 集中于少数 token 等。论文提出 Zero-Sum Calibrated Policy Optimization(ZCPO),用条件 KL 度量的相对漂移校准组内奖励系数,数学推理实验和消融验证了设计有效性。

  36. arXiv · cs.CL43

    SteerablePlex:全双工语音模型可以被可控引导吗?

    论文提出 SimIF-Bench 基准,评测对话模型能否在规定场景内按顺序完成多个目标,发现现有开源全双工语音模型难以遵循此类约束。作者基于 GDPO 训练方法让全双工模型在持续对话中遵循文本指令并保持轮次切换能力,构建出 SteerablePlex。连接异步后端语言模型监控对话后,其作为用户模拟器在多阶段约束上的可靠性超过现有开源模型和 GPT-Realtime。

  37. arXiv · cs.CL46

    DiffuPlex:基于滚动掩码扩散加速全双工语音对话模型

    DiffuPlex 是一个滚动掩码扩散框架,可在单次 backbone 调用中预测多帧未来用户与助手语音,从而减少全双工语音对话模型的逐帧自回归计算。其 DiffuPlex-LISTEN 与 DiffuPlex-SPEAK 分别实现 1.46× 和 1.59× 部署路径实际加速,Core LM 加速达 1.61× 和 1.80×,且所有 backbone 调用均在 80ms 交互间隔内完成。人类评测显示 LISTEN 保持语音自然度与对话质量,SPEAK 对话质量保留但语音自然度有所下降。

  38. arXiv · cs.CL49

    TokenRouter:面向 token 级 LLM 路由的高效推理服务系统

    arXiv 论文提出 TokenRouter,一个面向 token 级 LLM 路由的高效推理服务系统,已被 NeurIPS 2026 接收。系统采用“请求为中心编程、模型为中心执行”原则,为每个 LLM 启动子服务器并异步调度请求,配合基于吞吐量数学模型优化超参的 delayed-batching 调度器。在多种路由算法、工作负载和模型对上,TokenRouter 的解码吞吐量比现有系统高 2.01-64.15x,代码已开源。

  39. arXiv · cs.CL37

    NativeScope:基于原生拓扑与正确锚点的关系定位检索

    论文提出 NativeScope,一种先定范围再排序的检索方法,将查询表示为 q -> (A, r, B),利用锚点和关系(belonging、before、after 算子)选取原生单元后再对范围内文本块排序。在基于 QASPER 和 LongMemEval 构建的 200 条受控记录上、1,024-token 预算下,NativeScope 文档与记忆的原生单元召回率分别达 89.28% 和 72.50%,比全实例 Dense RAG 提升 42.75 和 22.00 个百分点;变体 NS-FullQ 达 87.78% 和 68.50%。但使用自动 Top-1 锚点时记忆召回率降至 35.50%,表明硬定范围依赖锚点定位接口的可靠性。

  40. arXiv · cs.CL45

    SparseDecoding:面向准确高效 LLM 推理的解码感知剪枝框架

    SparseDecoding 是一种面向 LLM 解码阶段的剪枝框架,通过用密集模型自回归生成时(排除 prefill)收集的激活构建校准矩阵,解决自然序列与生成序列之间的分布偏移问题,并配合带 bitmask 索引的优化 N:M 稀疏矩阵-向量核。在 Llama-3.1-8B、Llama-3.3-70B、Qwen3-14B/32B 上,该方法在长文本生成基准上持续优于固定文本校准,在 A100 GPU 上实现最高 1.48x 的端到端解码加速。