基于推理标签的人类奖励建模用于偏好强化学习
一篇 arXiv 论文提出推理引导的偏好强化学习(PbRL)框架,从轨迹级反馈中学习人类奖励模型。该框架在偏好标签之外引入解释偏好原因的 reason tags,为学习与人类对齐的奖励提供额外监督,并提升策略可解释性。学习到的人类奖励与环境奖励结合用于策略优化,使智能体在提升任务表现的同时产生更可解释、更符合人类偏好的行为。
新闻、仓库与研究,按时间排列。
一篇 arXiv 论文提出推理引导的偏好强化学习(PbRL)框架,从轨迹级反馈中学习人类奖励模型。该框架在偏好标签之外引入解释偏好原因的 reason tags,为学习与人类对齐的奖励提供额外监督,并提升策略可解释性。学习到的人类奖励与环境奖励结合用于策略优化,使智能体在提升任务表现的同时产生更可解释、更符合人类偏好的行为。
研究者提出 MIST 评测,将指令变更与记忆分离,发现视频世界模型失败瓶颈在于未执行指令变更,而非遗忘。据此提出的 M3-Agent 方法递归修订输入指令细节,使模型成功执行请求,MIST reveal 得分较基线提升逾三倍,WRBench 的 T 提升 26.1%,MBench-T 的 U 提升 52.7%。
FBI 与 CISA 发布公告,提醒 2026 年美国中期选举和竞选官员警惕网络威胁:恶意攻击者正利用钓鱼和短信钓鱼窃取登录凭证等敏感信息。近两个选举周期钓鱼攻击激增,过去一年经加密聊天应用的短信钓鱼增多;超级智能(SI)技术使钓鱼邮件更逼真、规模更大,还被用于制作逼真的 deepfake 音视频。双方建议部署抗钓鱼 MFA、更新杀毒软件、加强员工识别培训并及时修补漏洞。
ConvexLLM 是一个通用语音与音频语言模型,其 C-Gate 接口将音频表示为冻结文本嵌入的连续凸组合。该模型在 VoiceBench 十一项任务上取得 75.36 的聚合分数,是对比的开源权重模型中最高,MMAU Test-mini 准确率为 62.50%。与 2B 参数解码器的对比显示,C-Gate 在语音任务聚合表现上优于 MLP 和 Q-Former 接口,文本任务表现接近 MLP,语音知识与推理任务优势最大。
arXiv 论文系统评估了七款 20M–1.5B 参数的开源小型语言模型在后渗透攻击代码生成任务(目录枚举与后门生成)中的表现,比较 Python 与 Lua、提示策略、语法约束解码及执行反馈循环。结果显示攻击性代码生成能力不随模型规模线性增长,任务形式化影响大于提示词工程。Qwen2.5-Coder 1.5B 结合算法形式化与 few-shot 提示,在 Python 和 Lua 的目录枚举任务中达到 Pass@5 100%,后门生成在 Python 达 100%、Lua 达 99.2%。
研究者发布 EduWild 数据集,包含 217 个教师配置聊天机器人的 1,726 段对话,并建立 29 类失败分类法。分析显示最常见问题是未遵循教师意图:53.8% 的终端用户对话跳过必需流程步骤,37.1% 出现信息过载。基于此设计的提示词修复方案在 200 名大学生的实验中,将目标失败数从 1.406 降至 0.489,相对减少 65.2%。
一篇 arXiv 论文提出 Contrastive Factual Evidence(CFE)及其概率对应 Contrastive Factual Posterior(CFP),通过比较同一事实性陈述在事实与非事实条件下的似然度来评估 LLM 事实置信度。CFP 在保持与最强竞争者相当的事实判别能力的同时显著改善校准;但低资源语言中判别能力普遍偏弱。作者进一步沿事实证据方向将目标语言陈述与更强的英文证据对齐,无需目标语言标签即可提升判别和开放式事实生成。
一项 arXiv 研究构建了含 500 个争议问题、共 5,500 个评测实例的基准,在立场不变的情况下改变用户论证的叙事形式,测试 7 个 LLM 的谄媚程度。结果显示效应并非随叙事展开单调变化:个人经历会降低模型附和,而因果框架和世界观式综合会增加附和;GPT-5.1 消融实验表明因果框架影响最强,保留原要点的分点呈现也比段落形式更易引发附和。这表明谄媚不仅取决于用户立场,还取决于支撑解释的结构与呈现方式。
研究者构建首个覆盖 Perceive、Solve、Reason 三级渐进能力的时间序列-LLM 训练评测套件,含 337K 训练和 44K 评测样本。实验表明专用编码器必不可少:4B 模型在所有感知属性上超越 GPT-4o,而将序列文本化会使推理准确率下降 8–10 个百分点。按序训练的 4B TS-LLM 在无目标域数据情况下,在 8 项域外指标中的 7 项超越四个近期 7B TS-LLM,最高领先 11 个百分点。
LocalIntent 是一种面向本地部署 LLM 的结果导向提示方法,将请求分流到普通命令分支或持久规则分支,并进行确定性校验。在 2B-9B 参数的 Gemma 和 Qwen 模型上测试,规则生成方面意图理解从 26.4% 提升至 80.6%,规则模式正确率从 49.1% 提升至 98.6%;非持久请求的提升较小,意图理解从 39.6% 升至 53.2%。该方法整体优于 Monolithic 和通用两阶段提示,但澄清/模式正确率仍依赖具体模型。
一项 arXiv 研究用持续同调追踪神经网络激活中的环结构,发现噪声监督会在表征几何上留下可测量的签名。在 CIFAR-10/ResNet-18 训练探针上,corrupted-label 子集在 epoch 10 无持续同调差异,但 epoch 50 时持续同调更高,即使仅 7-11% 的 corrupted 探针样本预测与噪声标签一致。在五条 pipeline 的噪声率校准对比中,mean activation norm 的样本内 R2 均值达 0.936,高于 raw persistence 的 0.908。
Munin是一个开源自托管科研助手框架,可索引研究组文献库和引用图谱,并把任意开放权重模型包装成带阅读、检索和计算工具的智能体。在199组配对文献问题上,框架将基座模型准确率从0.387提升到0.874,而朴素检索式回答在所有测试骨干模型上均低于无辅助模型;移除来源论文后系统在约九成问题上放弃作答,300条伪造引用中未产生虚构的本地引用;断网状态下两个Qwen骨干模型仍超过已发表的PaperQA2准确率,其中gpt-oss-20b可在单张消费级GPU上运行。
QD-Rec 是一种质量-多样性(quality-diversity)推荐方法,将开放式搜索范式引入决策场景:用 contextual bandit 选择物品,由基础模型基于档案中的已有假设生成新的自然语言理由,新的推荐只有在足够新颖或优于最近邻时才进入档案。在并购、客户定向以及论文和图书推荐等任务上,QD-Rec 在多数设置中取得最高平均质量并构建出最大的档案。
研究者提出图攻击原语 GAP,用统一的原子语义表示融合文本与结构扰动,避免攻击意图割裂导致的不隐蔽问题,并进一步构建多智能体框架 S-GAP 迭代优化语义内容。在 4 个数据集、3 个 GraphLLM 和 2 种攻击设置上的实验显示,S-GAP 较最强基线平均提升 ASR 7.02%,同时扰动更具关系合理性,揭示了当前 GraphLLM 的关键脆弱性。
TTPPCC121 等多人协作发布基于 Qwen3.8-27B 的多阶段微调 GGUF 版本,8bit ARC-C 735、ARC-E 882,4bit ARC-C 719,均高于原版 Qwen3.8-27B(8bit ARC-C 0.591)。模型用 Heretic v1.2.0+ARA 方法去对齐,Stage 1 拒绝率从 99/100 降到 0/100,KL 散度 0.0535;思考 token 减至原版的 1/2 到 1/10。提供常规与 MTP 两种 GGUF,Q4_K_S 下常规约 75 t/s、MTP 可超 90 t/s(5090、LMStudio 实测),支持 256k 上下文与视觉(需另下 mmproj 文件)。
同一新闻,精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735》
HydraLLM 是一种基于 MQA 的弹性架构,通过激活注意力头数量动态调整嵌入、注意力投影、FFN 与输出头的有效宽度,并在单一参数集内形成嵌套子网络家族,配有静态转弹性转换流程(重要性驱动脉冲重排、随机子网络训练与知识蒸馏)。75% heads 激活时 TriviaQA 准确率比参数多 17.25% 的 SOTA 嵌套基线高 2.2 个百分点;50% 激活时多模态模型 CLIPScore 与大 7 倍的 Gemma 3 4B 相当;25% 激活时 token 生成吞吐量较全宽配置提升 75.3%。
Reflection 新实验室的首个模型 Beam 在 Hugging Face 开源,为 501B 参数 MoE(每 token 激活 23B),支持 1M token 上下文,采用 Apache 2.0 许可,主打编码与智能体场景。提供 BF16、FP8、NVFP4 三种检查点,transformers、vLLM、SGLang 均已 day-0 支持,并附 LoRA SFT 与 Miles GRPO 训练配方;Hub 上分享用 Beam 构建的项目可竞争 10,000 美元额度。
推荐理由:官方博客给出架构细节、三档精度的实测跑分和从推理到 SFT、RL 的完整部署与训练配方,便于评估上手成本。
Reflection 首个开放权重模型 Beam 于10月16日发布,Ollama 作为 day-zero 合作伙伴限时免费提供,Beam 端点全程零数据保留(ZDR)。Beam 是 MoE 模型,总参数约501B、每 token 激活23B,上下文窗口100万 token,采用 Apache 2.0 许可,面向软件工程、推理和长程 Agent 任务,可通过 ollama run beam:cloud 或 Claude Code、Codex、OpenCode 调用。
推荐理由:官方公告同时给出与 Kimi K3、GLM 5.3 等模型的 Agent Coding 跑分对照表,读者可直接比较 Beam 在各编码基准上的位置。
研究者提出 GatewayBench,首个针对 MCP 网关的统一评测框架与基准。其包含 524 个任务、来自 251 个真实 MCP 服务器的 11,118 个工具,将网关架构分为扁平化与分层两类,并对 7 个主流 MCP 网关开展良性与对抗任务评测。结果显示不同网关设计在任务完成率、工具使用效率和抗攻击能力上差异显著,且与底层模型和 agent harness 强相关。
LLM 标注者常把第二人称称呼误判为毒性,这一偏差制造出人类标注中不存在的“对话规律”。在 125 万条带众包标注的新闻评论上,Claude Haiku 将不含"you"的无毒评论误标 12%,含四个及以上"you"的误标 51%,导致毒性随回复深度上升(每层 +0.93 个百分点),而众包标注下反而略降(-0.12);测试的全部七个 LLM 都过度标记"you"。论文提出的 Threadsafe 方法用人工标注校正模型预测,1000 个人工标注即可排除 Haiku 的上升规律,区间宽度在 1000-8000 标注下为 DSL 方法的 0.75 倍。
研究者提出 RecReg,一个通过恢复式屏蔽(recovery-based shielding)在强化学习中强制执行非马尔可夫正则安全性质的安全 RL 框架。该框架统一支持不同层级的先验知识与安全保证,论文主要在表格型设定下构建理论基础,提供了相关工作所缺乏的严格安全性与收敛性保证。基于 MASA-Safe-RL 库的大量实验表明 RecReg 学习高效且与理论相符,作者还概述了使用 SOTA model-based RL 扩展到深度 RL 领域的方案。
ScoutRoute 是一种轻量级事后路由框架,通过对低成本 scout 模型的单次前向传播提取内部语言模型信号,用 logistic 探针结合 logit 置信度估计异构专家模型的能力,无需修改底层模型。该方法在 5 个开源语言模型和 4 个覆盖数学推理、代码生成、常识推理与多学科知识的基准数据集上评测,一致优于单一路由信号,且能力探针的校准优于传统置信度度量。
研究团队提出 PolicyLift,一个从观测数据出发、针对文本消息或图像等复杂结构化动作进行生成式策略改进的三阶段框架。该框架先学习离散动作编码,再学习基于上下文的编码级策略,最后以编码为条件生成动作,并从理论上证明编码级策略的提升可保证原始动作空间策略的提升。在合成数据与真实文本生成任务实验中,PolicyLift 均一致优于行为策略。
Jaewon Sok 在 arXiv 发表论文,提出许多闭卷事实错误源于模型在首 token 选错,而答案知识已编码在模型中。实验显示在 16 个开源模型上,仅预填正确首 token 就能纠正英文 QA 多 token 答案中五分之一到一半的错误,并在多语言基准的全部 7 种语言中提升准确率;这类可恢复错误集中在首个解码步骤,是推理时方法可能收益最大的位置。论文链接 https://arxiv.org/abs/2610.23400v1
推荐理由:论文给出 First-Token Cueing 探针和 16 个开源模型的实测数据,把一类闭卷错误定位到首个解码 token,可借机了解推理时干预的着力点。
研究提出 AWAM(Active World-Action Model),一种主动规划观察位置并在执行前沿规划轨迹想象所见画面的虚拟主动感知范式。该模型将任务相关虚拟相机运动作为结构化查询输入几何条件世界模型,生成可复用空间先验,压缩为固定记忆后通过 cross-attention 与实时观测融合,进行基于扩散模型的动作预测。AWAM 在 LIBERO-Occ 上达 75.9%、LIBERO-Plus 上 62.4%、RLBench-OG Occlusion1 上 76.5%、真机实验中 94.4% 成功率。
SentenceETM 是一种神经主题模型,通过联合词汇与上下文证据为每个句子分配主题,弥合词级概率模型与文档级 Transformer 方法之间的粒度困境。每个主题由词嵌入上的分布和聚焦低维子空间的句子嵌入高斯共同描述,文档比例用摊销变分推断推断,高斯参数以闭式解重估。实验显示其在句子级主题分配上持续优于 SOTA 方法。
Hugging Face 上架 webmp3/Sakura-FLUX.3-Image-Klein-PromptUpsampler-Uncensored-GGUF 模型,提供 Q4_K_M 量化版本。页面给出 llama.cpp、vLLM、Ollama、Docker Model Runner、Lemonade 等多种本地部署方式,并支持通过 OpenAI 兼容 API 调用。
Hugging Face 上线 ChoLuckyHexSexySuccubusQueen135Age/simplemobilesystem-sexyGPT-Uncensored 模型页面,提供 Flair 库加载代码及 Google Colab、Kaggle 等 notebook 入口。该仓库被标记为含敏感内容,可能包含潜在有害与敏感信息。
一项 arXiv 研究提出 canary contracts 协议,检测 LLM 框架中证据已被识别却未送达决策点的监控失效问题。该协议在 11 个 LLM 或 agent 安全项目组、四个实现生态中确认 18 起证据路径失效,其中 14 起触及 E1 执行边界。研究建议对框架演进的 schema、流、工具和适配器层进行回归测试。
Hugging Face 上架模型仓库 yinpeach/Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-NVFP4-NINFER,其 README.md 目前为空。该模型未被任何 Inference Provider 部署,下载量也未纳入统计,用户可申请提供推理支持。
研究者提出自监督学习方法 OliO,通过线性常微分方程(ODE)导出的转移算子,将双向时间流建模为连续且结构一致的动力学系统,以对齐任意时间跨度上的潜在表征。对转移矩阵施加严格上三角约束,确保数值稳定并防止无约束 ODE 模型的指数发散。实验显示 OliO 在多种骨干架构与基准上取得显著提升,MSE 较最强 SOTA 基线最多降低 5.75%,代码已开源。
论文提出 LM2LM,用强化学习训练大语言模型生成语言模型改进提案,并以研究世界模型(RWM,一个冻结 LLM)从真实实验记录预测提案收益作为奖励,定期执行高排名提案以更新上下文保持反馈可靠。在八个自回归与扩散 LM 开发环境中,Qwen3.8-27B 经 LM2LM 训练后在留出任务上超越获得 300 条真实实验记录的 GPT-6-sol,数据生成成本降低 33%,并能泛化到训练未见的模型家族。论文链接 https://arxiv.org/abs/2610.23344v1
推荐理由:论文用研究世界模型替代真实训练反馈来训练改进提案模型,并给出跨八个环境与 GPT-6-sol 的对比数据,方法可参考。
一项新研究提出免训练的修复层 SchemaShield-Lite,结合 schema 验证、候选集重试和一次性约束修复,提升 LLM 智能体在接口漂移下的函数调用鲁棒性。在 Qwen3.5-9B 上,该方法将 DICE-300 准确率从 0.717 提升至 0.813,BFCL-200 从 0.580 提升至 0.805,分别恢复 19/22 和 33/45 个漂移导致的失败,且未观察到修复副作用。消融实验显示候选集漂移(尤其是干扰工具)是主要损害来源。
研究者提出 AgentOnto,一个本体引导的 LLM 智能体,将数据库、业务文档与既有示例任务中的异构企业知识组织成本体,用于直接引导分析并吸收已确认的反馈,还能通过自生成分析任务迭代优化本体。在两个公开数据源上,AgentOnto 显著优于代表性方法,模块级评估验证了本体构建、分析与更新各环节的有效性,实际企业部署也展示了其实用价值。
MemCompile 是一个面向长期对话记忆的查询条件化证据编译框架:Address Plane 通过带来源链接的描述符和容量感知 Cells 定位相关支持,并经归一化边界将异构检索结果统一为稳定的 SourcePacket;Evidence Plane 则在有限证据预算内选择并渲染出可直接作答的上下文。该框架在 LoCoMo 上取得 80.52% 的 Judge Accuracy,将质量-成本 Pareto 前沿推向更高质量区间,并在 LongMemEval-S 上同样表现强劲。
研究者提出自反思思维链(SRCoT),将 LLM 生成组织为 Retrieve--Reflect--Revise 闭环,把环境状态、持久知识、经验与短期记忆分入带来源标注的存储,用 BM25 检索提供本地上下文。原型在配备 128 GB 内存的 Apple M4 笔记本上本地运行,于急救医疗和 Munich-Sim 应急仿真两个合成场景中展示了来源标注、缺失标记与结构化输出。作者强调这是研究性概念验证,尚未证明幻觉减少或操作安全性,且需人工审查。
一项研究提出用 token 概率评分方法进行母语识别(NLI):将文本样本作为指定候选母语的前缀的续写打分,选取得分最高的候选者。实验使用 Llama 3.1 8B 和 70B,在 TOEFL9、Write and Improve 2024 和 BULATS-L1 三个数据集上评估,结果显示该方法显著优于直接分类提示,70B 模型在所有数据集上达到 SOTA。
研究团队发布 MobileInject,首个评估移动端 MLLM 智能体多模态注入攻击与推理到执行安全风险的基准,包含 11 个场景、9 类安全风险和 108 个可执行风险实例。其提出跨模态一致性注入方法及 Multi-Role Collaborative Deception、Reasoning-Camouflage Injection 两种增强攻击,实验显示移动智能体普遍易受多模态注入影响,许多失效源于早期阶段的推理劫持。论文地址 https://arxiv.org/abs/2610.23307v1。
推荐理由:论文给出了针对移动端多模态智能体的注入攻击基准,覆盖 11 个场景 108 个风险实例,可用来定位智能体早期推理被劫持的失效点。
arXiv 论文提出 SimOPD,通过响应相似度分布将教师模型内部知识迁移给学生,避免直接隐状态匹配带来的特征空间绑定。学生在自身表示空间内匹配相似度分布,无需跨模型投影。实验显示,SimOPD 在同架构和跨架构设置下较最强基线分别提升最多 2.6 和 3.1 个百分点。
donghanasd 在 Hugging Face 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的韩语校准混合精度 GGUF,约 12.60 GB、3.69 bits per parameter,从上游 BF16 GGUF 直接量化。量化使用 708 个 512 token 块收集的 importance matrix,张量精度分配沿用 Qwen3.8-27B-Ridge-GGUF,保留 tokenizer、chat template 和 MTP tensors,未做韩语额外训练也未验证韩语质量提升。