新闻、仓库与研究，按时间排列。
论文提出 LoGRA，一种通过低秩梯度草图保留学习信号的 RL 后训练方法，可将平均训练内存最多降低 45.7% 且不损失性能。该方法配合 predicted-KL 步长控制防止更新过大，并支持在单个八 GPU 节点上稳定训练 27B 参数模型超过 1,100 步，而 dense Adam 在此场景下会内存溢出。代码开源于 Molt 库。
推荐理由：原文给出了 LoGRA 的内存压缩幅度和 27B 模型单节点训练步数等具体数据，可据此评估该方法对 RL 训练内存瓶颈的缓解程度。
Ilya Drobyshevskiy 在 arXiv 发布技术报告，提出一种扩散语言模型（DLM）后训练方法，在冻结的预训练 DLM 特征空间中最小化生成分布与参考分布之间的 Maximum Mean Discrepancy（MMD）。
一项 arXiv 研究对俄语 ModernBERT 编码器在俄语立法文档上继续预训练，得到适配模型 RuModernBERT-ruLaw，训练语料含 304,382 份立法文档、194,425,905 个语料 token。
一项 arXiv 研究针对语言模型持续学习中数据按时间聚簇（非 IID）导致的稳定性-可塑性权衡，提出对 task vector 按 λ 部分缩放后再应用，并同步缩放 optimizer state。在持续预训练、随机初始化预训练、监督后训练与强化后训练等场景中，中间 λ 值常优于完全应用（λ=1），且该收益无法仅靠调学习率复现。
U-LoRA 是一种对 LoRA 的自适应利用方法，通过条件门控为每个 token 生成低秩方向上的利用系数，并用序列级上下文信息协调约束，同时引入偏差校正的 EMA 历史先验以稳定训练。该方法不扩展低秩子空间，而是在数学推理与自然语言理解 benchmark 上以相近参数预算取得与 LoRA 基线及近期变体相当的性能。
一项 arXiv 研究发现，终端智能体训练中的监督视野（保留的轨迹 token 数）是决定可靠性与成本的关键设计维度：在 Terminal-Bench 上，12K-token 视野比 16K 多解题（29±0.7 对 26±0.8）且训练时间少 30%。
minas2025 基于 Gemma 4 E2B（约 4.6B）的 uncensored 版本微调出 Coder-Gemma-4-E2B-Uncensored，专注 Python 与 React/TypeScript/HTML/CSS 前端开发，采用 QLoRA 4-bit 训练，上下文 2048，提供 Q8_0 GGUF（约 5.0 GB）。
Microsoft 在 Hugging Face 发布 FrogNano-4B-2609，基于 Qwen3.5-4B 纯强化学习后训练的仓库级编程 Agent。
推荐理由：微软以约 1500 个合成任务做纯强化学习，把 4B 模型的 SWE-bench Verified 分数从 39.4% 提到 61.5%，未依赖更强模型的轨迹。
Hugging Face 用户 GSsmart 发布 Wan2.2 GSsmart Uncensored，一套同时适配 I2V 与 T2V 的无审查 LightX2V LoRA，免去在两类模型间反复切换。T2V 下人体准确率约 80–85%，I2V 效果取决于输入图像；叠加其他 LoRA 建议用 0.55–0.65 强度，本 LoRA 需保持接近满强度否则画面易模糊。
nerkyor 在 Hugging Face 发布基于 Qwen3.8-27B-EfficientThink 的多轮 SFT 与 RLOO 后训练模型 Qwen3.8-27B-Coder390-EfficientThink，目标是修复原模型已有答案却反复推导直至撞上 94K 上限导致空答案的习惯。GPQA 178/198、MMLU 450/500、LCB 90/100（静态 FP8，原模型为 177/444/83），94K 截断从 GPQA 4 降到 1、LCB 13 降到 3。仓库提供 BF16、静态 FP8、NVFP4、INT8、INT4、GGUF Q2 至 Q8_0 等多档权重，均含内置 MTP，支持 SGLang 免补丁加载，并给出 DFlash2 与 MTP 两种投机解码的测速建议。
推荐理由：从模型卡给出多档量化的完整三套评测与截断对比，读者可据此判断修复后模型在精度和速度上的实际表现。
ausboss 在 Hugging Face 发布 Qwen-Image-2.1-Outfit-Swap-Consistency-LoRA，让 Qwen Image 2.1 在把图片 2 的服装穿到图片 1 人物身上时保持画面原位。在 16 个未训练过的换装样本上，结果偏离从无 LoRA 的 3.6 px 降到 0.1 px，面部明显变化像素从 14.1% 降到 1.7%，背景从 10.8% 降到 0.9%；提供 step 1000/1250/1500 三个权重文件，主推 step 1000，rank 32，用 ostris/ai-toolkit 以 66 对样本训练 1500 步。不改变服装绘制质量，且保持原有姿势，需要换姿势的服装不适用。
推荐理由：作者用 16 个未训练过的换装样本给出位移、面部和背景像素级对比，读者可据此判断这个 LoRA 值不值得装进自己的 ComfyUI 工作流。
一项研究提出轻量级工具增强框架，让可本地部署的紧凑语言模型为早期药物发现规划 18 个模块化工具的调用。研究者构建 1,263 条人工精修的 query-plan 对，对三个紧凑模型家族做 LoRA 微调；Llama 3.2-3B 在 query 级划分下工具选择 F1 达 0.998、序列精确匹配 0.979，更严格的 workflow-grouped 划分下精确匹配为 0.452 至 0.548，表明组合泛化仍是难点。
一篇 arXiv 论文用 ReLU 层的热带几何解释了 Adam-NSCL、GPM 等无回放投影器共享子空间约束过粗的原因，并提出门控感知的逐单元投影器。在 OPT-1.3b 上，该方法在 9 到 60 个约束方向/行的全部六个匹配预算下遗忘均低于 Adam-NSCL，差距从 1.1 倍扩大到 4.3 倍，仅用 1/5.5 的方向即在 GPM 能量阈值下将遗忘减半；在 OPT-6.7b 上以相同预算匹配 Adam-NSCL 且学到更多。
研究者提出分层信用分配方法 HarA，改进 GRPO 等基于分组的 RLVR 方法对所有 token 赋予相同优势的问题。HarA 将 rollout 表示为隐状态和 token 位置的分布，用 Fused Gromov-Wasserstein（FGW）重心度量推理行为的语义新颖性，并引入 anchor 引导的线性化，使其可通过 Sinkhorn 算法高效求解。在三种分组 RLVR 方法上的即插即用实验显示，HarA 有效增强 LLM 探索，在多个推理基准上超越现有方法。
论文提出 Bidirectional Preference Synthesis（BPS），一种用于标准 DPO 的数据构造方法，为每个验证过的边界失败在原始提示下保留正向偏好对，并在合成的达成提示下增加反向对，使同一回复在错处被拒、在对处被选，无需改动 DPO 目标、训练奖励模型或在线采样。在 Qwen3-4B-Instruct-2507 上，BPS 保持原始侧成对排序的同时，把留出交叉锚点上的达成侧排序准确率从 6.8% 提升到 62.3%，在 Kimi-K2.6 跨教师探测下有类似变化，下游评测显示在多语言多轮指令遵循上与 Forward-DPO 分离最明显。论文共 18 页，链接 https://arxiv.org/abs/2610.04328v1。
Ai2 开源了基于 Qwen3-8B 的科研报告生成模型 AstaBrief 8B 及训练数据，模型可将研究问题和检索到的文献片段转化为带引用的报告，已在 Asta 平台作为 Fast mode 上线。
推荐理由：官方完整披露了 SFT 与 DPO 数据构建、引用密度过滤和评测细节，读者可复用其数据质量过滤方法。
arXiv 论文 2610.03185 从强化学习视角解释 on-policy 蒸馏（OPD）为何有时提升性能、有时坍缩为过长且重复的生成：教师隐式奖励学生行为，即使教师自身很少表现出这些行为。
推荐理由：论文用强化学习视角解释 on-policy 蒸馏为何有时提升性能、有时坍缩，并给出掩蔽不健康响应和 SFT 初始化两种缓解手段。
一项 arXiv cs.CL 研究针对仅凭少量摘要样本适配大语言模型作者风格的问题，提出对比激活 steering、预测 steering 向量网络和预测 LoRA 适配器的 hypernetwork 三种方法。