LLM 弱标注用于网络安全推文分类:Teacher-Student 框架研究
研究者提出 Teacher-Student 弱监督框架,用 LLM 作为 Teacher 为无标注网络安全推文生成弱标签,无需大规模人工标注即可训练网络安全领域专用 PLM。仅用 LLM 生成标签训练的 PLM 在所有评测架构上 F1 均超过 0.92,与全人工监督模型的差距保持在 3 个百分点以内。结果表明 LLM 弱标注在专家标注资源有限时是构建网络安全训练数据的可行替代方案。
新闻、仓库与研究,按时间排列。
研究者提出 Teacher-Student 弱监督框架,用 LLM 作为 Teacher 为无标注网络安全推文生成弱标签,无需大规模人工标注即可训练网络安全领域专用 PLM。仅用 LLM 生成标签训练的 PLM 在所有评测架构上 F1 均超过 0.92,与全人工监督模型的差距保持在 3 个百分点以内。结果表明 LLM 弱标注在专家标注资源有限时是构建网络安全训练数据的可行替代方案。
一项 arXiv 研究发现,语言模型在不同指令下答案可靠性下降主要源于表达变化而非内部判断改变:同一输入在不同指令下的隐藏态差异集中于一个低维“表达子空间”。研究者在无 benchmark 标签条件下识别并移除该子空间的影响,分离出的判断在未用于识别子空间的指令下保持可靠。当判断问题被否定时,该方法将线性预测器的 AUROC 从 0.504 提升至 0.825(entailment),从 0.480 提升至 0.891(safety)。
一项 arXiv 研究提出 SAE Additivity Residuals(SAR),用于度量稀疏自编码器(SAE)特征在行为层面未被加性解释的变异。通过与同维随机旋转变换对比,学习到的 SAE 坐标在全部 18 个模型与行为设置中一阶残差更低;组合转向实验中,成对项建模将 rank fidelity 从 0.5874 提升至 0.7790,排序误差从 0.1444 降至 0.0606。结果表明 SAE 特征较具组合性,但忠实的联合解释仍需超出单个特征效应的交互项。
TRACER 是一种检索前端,用 trie 索引观察到的 tool-call 序列并结合经验与上下文先验对延续排序。在 retail-telecom 混合 $\tau^2$ 环境中,它将 GPT-5.4 的工具选择准确率提升 4.7 点,每步输入 token 减少 80%,仅暴露 128 个工具中的 5 个。跨 6 个环境和 4 个模型,24 组模型-环境对中 21 组优于全注册表选择,平均提升 6-10 点。
华盛顿大学圣路易斯分校等团队发布 arXiv 论文 arXiv:2610.21270,用 400 个合成医疗工作流 episode 审计 LLM 智能体在证据缺失、过期、冲突或延迟时的升级(escalate)决策,按 5:1 漏报与不必要升级成本计分。五个 1.7B–9.7B 开源权重配置干净决策准确率达 0.97,但不确定性触发的模型漏掉 32–97% 的必要升级,9.7B 配置在冲突下从 0.97 降到 0.78;语言化置信度不一致(ECE 0.10–0.54)。工作流感知控制器将漏升级降到 0.12–0.24、特异性 0.83–0.93,但 30 概念词汇压力测试使其规则检测器在未见改写上的召回从 1.00 降到 0.00,结论限于该基准。
推荐理由:论文量化了医疗 LLM 智能体在证据缺失或冲突时漏掉升级请求的比例,并提示路由控制器也要单独做泛化测试。
研究者发布开源确定性时序描述流水线 TimeCap,无需语言模型参与即可直接基于信号生成可复现的标注,并以 OpenMHC(MyHeart Counts 可穿戴数据集)为输入生成 MHCap——覆盖 19 个 Apple HealthKit 通道、7,005,763 条描述、908,944 人日数据的最大开源多模态可穿戴时序描述集。在该语料上训练的 OpenTSLM 中,加入描述的 OpenTSLM-Cap 在 8 项任务、32 项按用户二分类评测中的 29 项优于仅标签基线。
一项 arXiv 研究提出面向 LLM 多智能体推理的测试时聚合框架,无需验证数据或模型强弱先验。框架通过对每个不同答案呈现风格归一化推理轨迹实现偏差控制,并将各智能体初始答案置于少数位置实现偏差注入,把决策不稳定性作为可靠性信号。该框架在三个数学推理 benchmark 和四种异构 LLM 组合上,比非 oracle 聚合方法平均准确率更高、token 效率更好,并能提升多智能体辩论与 Mixture-of-Agents 的最终答案准确率。
arXiv 论文 arXiv:2610.21300 研究如何让医疗设备法规文档评估中每个环节确定性可复现。对十四个商业模型部署重复发送同一请求,所有部署至少有一个请求结果不一致,十二个的标签发生变化;降低推理量未减少差异,注入检索段落仅对最小模型有效,同一开放权重模型是否可复现取决于服务方式。作者构建了从文本提取、OCR、分块、嵌入、索引、检索到推理全链路确定性的流水线,在血糖仪和输液泵文档上跨重跑、中断、编辑、同型号 GPU 机器和不同日期均返回字节级相同输出;OCR、嵌入与近似检索在服务方式不固定时仍有差异,输出随 GPU 型号和推理引擎调度设置变化,因此后者应记入配置。
推荐理由:论文给出了十四个商业 LLM 部署的可复现性实测数据,并提出一套逐阶段确定性的文档评估流水线,可直接迁移到审计场景。
研究者提出 VALCON,一个通过双角色变化把价值一致性操作化的评测框架,包含 VAB-Consistency、VAB-Boundary、VAB-Challenge 三个基准套件,代码和数据已开源。对 28 个 LLM 的实验显示普遍的跨角色不一致:输出高度合规的模型常常无法让自身评判与自己的生成对齐。机制探针发现与这种行为不对称相关的角色依赖表征解耦,据此提出的表征定向干预可有效缓解一致性失败。论文被接收为 Findings of ACL: EMNLP 2026。
推荐理由:论文把价值一致性单列为一个对齐维度,给出评测套件、机制分析和干预方法,对关注模型自我评估可靠性的读者有参考。
PocketTSLM 是 OpenTSLM SoftPrompt 时间序列语言模型的移动端部署方案,可将编码的时间序列窗口作为嵌入注入,在全流程于消费级手机上运行。基准测试显示软提示路径的时间序列 token 用量减少约 12 倍,可处理 30 秒 Sleep-EDF 脑电片与 1,000 样本(10 s)12 导联 ECG-QA 心电片,而文本序列化基线在更长窗口下超出手机上下文或内存预算。Swift 移植经数值一致性协议验证与 Python 参考实现一致,推理全程不传输健康数据。
arXiv 论文提出 ZoomCap,将细粒度图像描述建模为可恢复的视觉信息迁移,通过草稿路由知识检索、OCR 敏感读取与自适应视觉缩放补全证据,并配套 FactCycle 逐条评分描述中原子事实的真实性与可实现性。对比 Qwen3.5-397B-A17B 生成的描述,ZoomCap 以小 10 倍以上的 teacher 取得 81.9% 的人类偏好得分,每图迁移 52.4 条事实(ScaleCap 为 31.5)。持续预训练中,ZoomCap-450K 在 11 个 benchmark 平均提升 1.31-2.38 分,ZoomCap-450K 数据集已公开。
DocPilot 是一个智能体文档框架,通过页面级导航与细粒度证据定位编排证据检索,并整合局部视觉检查、代码化数值推理和跨模态推理,使小语言模型也能学会复杂的文档求解。其课程式智能体训练从单一能力学习渐进到自适应编排。在 MMLongBench-Doc、DocBench、FinRAGBench-V 和 MADQA 上,DocPilot 搭配前沿 VLM 取得显著提升,DocPilot-4B 对比大得多的模型也具备竞争力,代码已开源。
研究者提出混合生成-标注解码架构,用于电商商品属性值抽取:对高频属性用标注头直接从源文本抽取值,生成头则专注稀有属性和不可复制的隐含/归一化值。集成进 vLLM 推理后,该方法将属性覆盖率提升 10%,多抽取出 63% 的正确属性值对,精度不受影响,同时延迟降低 44%。
研究者提出 VoteGEO-Bench 基准,覆盖 2024 年美国总统大选和 2026 年日本众议院选举,评估 GEO 重写网页内容对生成式引擎回答的影响。基准测试了 4 类共 11 种改写策略,发现指定目标的改写更常提升目标曝光度,改进页面组织或通过论证强化立场的策略收益更大。收益在美国 voter personas 上总体为正,但 persona 条件化无一致效果,而显式党派身份造成的基线曝光差距可能超过改写单个网页的收益。
arXiv 论文提出 QuasiLeak-Bench,一个评估 LLM 隐私检测器在策略约束下恢复准证据组(quasi-evidence group)的基准,检测器需找回完整的准证据组并标记披露政策禁止的内容。实验显示现有隐私检测器迁移表现差,可本地部署的 LLM 检测器远落后于闭源专有模型,主要因漏掉大多数准证据组;而在其训练集上微调的 4B 模型在保留文档上超过最强的提示模型,表明该任务可学习。
一项 arXiv 研究提出通过对注意力头按梯度范数排序和划分,实现语言模型的稀疏与持续强化学习微调。实验覆盖数学、指令遵循和编码任务,微调高排名注意力头的效果稳定优于低排名者,且常能匹敌更稠密的微调基线;按任务划分注意力头可减少跨任务干扰、提升旧能力保留,同时保持对新任务的适配。
论文提出 OpCredit,一个面向智能体知识图谱问答(KGQA)的操作感知策略学习框架,解决轨迹级奖励无法区分单个操作贡献的问题。框架结合两种信用信号:Branch Outcome Credit(BOC)在匹配导航上下文下比较不同操作后的最终任务奖励,Frontier Transition Credit(FTC)衡量操作引起的答案条件前沿势变化。在 ComplexWebQuestions、WebQSP 和 GrailQA 三个数据集、三种骨干模型上均取得一致性能提升,推理阶段仅使用学习到的策略和标准 KG 接口。
论文提出 SIAB(Self-targeted Internal Attention Boosting),通过因果定位找到稀疏情感注意力头并增强其已关注的内容 token,让模型无需外部标注即可进行情感状态推理。在 ECC 和 GoEmotions 评测中,SIAB 在三个 LLM 上较 prompt 基线最高提升 +10.3 macro-F1 和 +5.5;结合 PASTA 式外部监督最高提升 +13.84 准确率和 +12.51 macro-F1。该工作被 AACL 2026 主会接收。
研究者提出 RenoLayout,将住宅设计建模为设计点引导的条件生成任务,把待改造户型和设计点集合翻译为可执行的 Geometry-as-Code 程序。框架构建了含 123 个细粒度设计点的 Design Map,采用 CPT-SFT-RL 三阶段训练,并发布包含 200 个真实改造前后案例的 RenoLayout Benchmark,作者称其为首个统一住宅设计基准。
研究者构建了韩文数据集 ESG-Kor,从韩国企业的可持续发展报告中抽取环境、社会、治理(ESG)信息,共包含 118,946 个句子,并依据 ESG 评估机构的客观规则进行人工标注。用多个韩文预训练语言模型验证分类性能,取得了显著效果。团队还将 ESG 分类模型扩展到中小企业文档,展示了基于 ESG 关键议题的深度分析与实际应用潜力。
研究者提出 DPA-MoE,一个运行时精度控制框架,让 MoE 模型中被路由的专家支持任意精度。该方法用 SharedScale AnyBCQ 将专家前馈权重编码为可前缀解码的分块,并在推理时依据实时 router gate 分数分配。在 Qwen3-30B-A3B 和 DeepSeekMoE-16B 上的实验显示,相同预算下 DPA-MoE 比均匀分块分配改善了 KL 散度和下游准确率,原型系统稳态吞吐开销适中。
一项 arXiv 研究发现,Block Influence(BI)深度剪枝的排序依赖校准分布:在 Qwen2.5-1.5B-Instruct、Llama-3.2-1B 和 Gemma-2-2B 上,印地语、马拉地语和泰米尔语的后期 block BI 比英语高 20.7-55.5%,仅用英语校准会系统性漏选这些层。用等量的英语、印地语和马拉地语数据平均校准可缓解困惑度损害,但效果并非在所有架构和剪枝预算下通用,需逐一验证。
论文提出 FaShift,一种因子级分布偏移处理框架,通过诊断潜在表征因子的分布变化、干预效应和跨环境稳定性,选择性抑制、保留或衰减各因子的贡献,而非强制统一不变性。在 MOSI、MOSEI 和 CH-SIMS 三个数据集上,FaShift 取得最优 ID 准确率与 F1,OOD 上在 MOSI 提升 1.5/3.6 点、在 MOSEI 提升 1.7/2.7 点,并在 CH-SIMS 上取得最优 OOD 成绩。
一项 arXiv 研究比较了六种提示词进化方法在社交媒体压力与情绪预测任务上、两种模型规模下的表现,发现 GEPA 及其结合两份提示词指令的扩展 GEPA+merge 在多种设置下优于初始提示词。研究还归纳出五类有效提示词策略,包括引导关注情绪证据、区分当前与过去困扰、举例说明间接线索、要求情绪背景以及引导标签选择,并记录了二分类压力预测早期提升而多标签情绪预测先降后部分恢复等四项跨任务观察。
HyCo 将服务器模型的 MTP 头部署到设备端执行,结合一次 SLM 前向作为备选分支,通过量化、受限词表和 1K-token 窗口适配移动 NPU。在 Galaxy S26 Ultra 上经 LTE/5G 测试,HyCo 在 Spec-Bench 上较服务端 MTP 自推测减少 38.6% 的服务器 GPU 时间,在 32K-token 摘要任务上减少 29.2%;相比仅用 SLM 草稿多节省 9.0 个百分点、提速 1.9x,且输出质量与 Cloud+MTP 基本持平。
研究者提出 SITAR,一种自动语音识别(ASR)的情境失真度量,通过有界递归公式将情境严重度与累积程度聚合为统一分数。SITAR 以 BERT 家族的轻量回归器实现,单次前向传播即可对参考-假设对打分,无需依赖 LLM 评测带来的高额计算成本。验证协议涵盖宏观与微观层面的外在效度和评分器内在可靠性,完整代码、模型权重与数据集将在内部审查后发布。
研究者提出 TITAN 框架,通过因果干预、稀疏特征分解与定向偏好优化,定位并优化 decoder-only 多语言 LLM 中的翻译回路,仅更新不到 5% 的模型参数。该方法在印地语到乌尔都语和信德语(天城文)翻译上分别取得 33.75% 和 45.86% 的 BLEU 提升,人工评估也确认了充分性与流畅度的显著改善。分析显示多语言翻译通过共享语义子空间上的稀疏结构化回路实现,而非以英语为中心的枢轴表示。
研究者提出 On-Policy Reminder Distillation(OPRD),通过 Multi-Scope Reminder 监督结合基于结果的路由,改进仓库级长程编码智能体。在 SWE-bench Verified、SWE-bench Pro 和 SWE-bench Multilingual 上,OPRD 较开源 Qwen3.5-4B 基线平均任务解决率提升 11.3 个百分点,聚合错误事件数从 446 降至 222,减少 50.2%。推理阶段学生模型无需 Reminders 即可运行。
Waypoint-OPD 是一种门控在线策略蒸馏方法,利用同一 RL 训练中的中间 teacher checkpoint,比较早期与后期策略偏移的方向一致性,并在两者方向相反时抑制端点偏移的迁移。该方法只需额外一次 frozen-teacher 打分,以 RL 训练的 Qwen3-4B 为 teacher,在 Qwen3-8B、Qwen3-14B 和 Qwen3-30B-A3B 学生模型的数学与代码推理任务上,全部六个领域-学生设置中取得最高领域平均分;消融实验显示移除或打乱门控会降低 Qwen3-8B 的数学推理表现。
NVIDIA 与 IIT Madras 的 AI4Bharat 推出 Nemotron-pretraining-Indic-v1,约 2.8 万亿 token 覆盖 22 种印度宪法语言,含 22 种语言本族文字数据和 12 种语言的罗马化数据,共 34 种语言-文字配置。流水线用 NeMo Data Designer 和 Gemma-4-31B-it 做文档级翻译、MQM 风格质量评估(保留 75/100 以上)与定向修复,每条记录可溯源,生成配方开源可复用;另十种语言采用 Bodhan AI 的 Indic Translate。Nemotron 3.5 Super VL 用其中 12 语言子集加 100 亿 token 做 CPT 后,五个 Indic 基准提升 4.98 至 9.82 个百分点。
推荐理由:完整公开了 2.8 万亿 token Indic 语料的生成配方和质量门槛,团队可复用其翻译与修复流水线迁移到自己的语种。
WorldCast 发布世界状态预测基准,含 320 个人工设计案例、1,352 个视觉状态、评估工具包与 Judge 评分标准,数据集托管在 Hugging Face。统一以有序状态序列为图像网格、交错输出和视频打分,12个模型诊断显示 GPT-Image-2.5 以 72.8 分居首,Nano Banana Pro 得 42.8,最佳开源模型 SenseNova-U1 仅 20.1;交错生成和语言侧推理能力与分数正相关,复杂上下文与推理密集任务是共同失败点。
arXiv 论文提出 SPRA(Structured Paper Representation for Agents),一种以研究对象和类型化关系组织的论文级结构表示,并在超 100 万篇 AI 论文上实例化,含 19.95M 研究单元和 24.07M 内部关系。通过 Schema-RAG 访问时,SPRA 在七个子领域上使源条件科学问答较段落检索提升 0.381/5,配对任务的 input+output tokens 较段落检索减少 28.5%。该资源可通过 SciVerse 平台获取。
研究者提出局部上下文蒸馏方法 LoCD,让大语言模型从交互经验中持续学习。LoCD 先定位学生模型轨迹中需修正的关键片段,由教师模型基于学生自身前缀重新生成这些片段并用于训练,兼顾信息量与低曝光偏差。在数学推理、代码生成和智能体任务上,LoCD 持续超越强基线,训练更稳定且参数更新更小更稀疏。
论文提出 V-SHARE,一种结合跨动作价值共享与重要性加权 Bellman 残差校正的优势型价值学习算法,并给出首个对优势型算法的完整理论刻画,包括渐近收敛与非渐近有限样本保证。研究揭示了收缩—方差权衡,并提出递减残差预条件调度与双时间尺度分析,在离散 MDP 和深度强化学习 benchmark 上验证了结果。
研究者提出 TIR-EC,一个工具集成强化学习框架,让 LLM 将 EHR 特征组作为工具调用,并以梯度提升树教师提供参考工具集和分级风险目标进行奖励,通过反向课程把临床技能蒸馏进模型权重。在三项临床预测任务上,其 4B 智能体取得所有对比模型中最高的 macro F1,超过传统 ML 基线,可与更大的前沿 LLM 竞争,且用更少的工具调用选出更有用的证据。
X-Fly 是一个面向全块化无人机视觉语言导航(VLN)的分阶段训练框架,解决大视觉语言模型推理贵及块执行中无法停止的问题:模型推理从每 waypoint 195 ms 降至 42 ms。Recovery DAgger 为学习者访问状态标注恢复 chunk 与 STOP,Flow-GRPO 联合优化分块流控制器和 Bernoulli STOP 策略。X-Fly 在 OpenFly test-seen 达 74.18% SR、test-unseen 达 51.73%,远超全块 BC 的 16.45% 和 18.43% 及 DreamFly 的 32.04% 和 29.46%。
研究者提出 ELLSA 2,一个端到端全双工对话模型,联合优化语音交互与流式手势表情生成,在语言沉默时仍可持续生成非语言行为。模型通过上下文语义调用与模板引导实现语义手势生成,并建立对话感知的共语手势数据与评测管线。实验显示其与开源全双工语音交互模型相当,在手势与表情指标上超越级联基线,语义模板引导显著提升语义手势质量。
arXiv 论文提出 Knowledge Transfer Probing(KTP)协议,检验图像生成训练能否为预训练模型带来新知识。在 7 个知识类别和 3 个统一多模态模型上,视觉监督可向语言迁移知识,但迁移不均衡;作者进一步提出 Textual Alignment 与 Interleaved Image–Text Alignment,无需 QA 监督即可提升知识访问能力,且图像中正确再现的知识往往更易通过文本访问。
SpecAgent 是一种智能体协作协议,将强模型从逐步生成者变为弱模型草稿的审查者:弱模型执行只读工具调用起草步骤,强模型通过单次 prefill 语义验证并提交最长有效前缀。在 τ²-Bench 上其成功率与强模型相差不到 1 个点,同时将内存流量和墙钟时间约减半;在 AutomationBench、VitaBench 上可挽回 44-75% 的质量差距,在 MCP-Atlas 端云部署中缩小 53-75% 差距且强模型 token 生成量最多减半。
研究者提出一种结合微调本体嵌入模型与 LLM 的轻量级本体精炼流程,用于修复 CASTON 铸造领域本体中的类层级 subsumption 错误。嵌入模型提取待修正候选公理及替换候选,再由 LLM 给出修复建议。在专家评估中,使用 CASTON 微调的 OnT 嵌入模型与 Qwen3-8B 的默认配置产生的六个高置信度替换全部被两位领域专家接受,实现代码已开源。