面向不完美提示词的设计:基于知识图谱的 LLM 企业数据助手仿真评估
一项设计科学研究在企业 CFO 单位数据湖的真实部署中发现,业务用户的提示词常缺少 schema 引用和结构信息。研究设计并对比了两种语义中介方案:基于语义相似度的 schema 中介,以及利用从数据湖自动构建的知识图谱的中介。仿真评估结合 LLM-as-a-Judge 与人工验证显示,知识图谱方案在 Precision、Recall、F1 和保留用户意图上均优于 schema 方案。
新闻、仓库与研究,按时间排列。
一项设计科学研究在企业 CFO 单位数据湖的真实部署中发现,业务用户的提示词常缺少 schema 引用和结构信息。研究设计并对比了两种语义中介方案:基于语义相似度的 schema 中介,以及利用从数据湖自动构建的知识图谱的中介。仿真评估结合 LLM-as-a-Judge 与人工验证显示,知识图谱方案在 Precision、Recall、F1 和保留用户意图上均优于 schema 方案。
开源智能体 Optimist Deep Research 将文献研究作为对显式可变研究状态的迭代证据获取过程:研究问题被拆解为子问题树,检索覆盖 arXiv、OpenAlex、Crossref、PubMed、Semantic Scholar 和网络,经四层去重和引文滚雪球扩展至饱和。文档并行读入结构化证据库,批评者沿八个维度返回研究行动而非二元判定,最终报告逐节生成且每条引用都可溯源。案例研究约三分半钟读完 237 篇检索文档中的 28 篇。
FlashReFocus 实现单张照片的秒级交互式重新对焦:每张照片只需运行一次 diffusion,后续编辑由轻量网络渲染,相比 GenRefocus 对焦快 148.3 倍,进一步编辑仅需约半秒(快 462 倍)。其一步 diffusion 去模糊器结合显式 defocus map 与 defocus-bias attention,可在保持对焦内容不变的同时支持移轴与双焦平面编辑。模型在 EBB! 和自建三相机基准 3CReal(89 对图像)上取得零样本 bokeh 渲染的最佳感知保真度。
扩散多模态大语言模型(dMLLM)依赖近似 KV 缓存加速解码,但会引发相邻位置重复同一 token 的「Repeat Curse」。研究者从信息流视角定位了步内注意力分散、跨步过期状态解码和深层熵不收敛三类扰动,提出免训练即插即用的 CoTA++,包含注意力重锚定、Decode-Aware Refresh 和熵引导投票三个组件。在三个 dMLLM 和两个缓存后端上,CoTA++ 将长回复重复率从最高 99.6% 降至至多 17.0%,在九个 benchmark 上挽回大部分精度损失,且缓存加速仅增加不到 15% 开销。
Annotrace 是一个用于对 LLM Agent trace 进行步骤级标注的工作台,可读取 OpenTelemetry GenAI、LangSmith、Langfuse 等六种 trace 格式,把每次运行转成有序嵌套的步骤列表,并让前沿模型与人类按同一套 codebook 联合标注。在多智能体问答语料上,它精确复现了此前人工标注的 235 个标注单元;两个模型标注同一批 trace 时一致率达 91%(κ = 0.82)。
研究者提出 VERITAS 方法,通过层间 Jacobian 投影言语化模型内部计算,追踪推理锚点如何在各层间迁移并出现在输出中,以检测思维链(CoT)忠实性。在 FaithCoT-Bench 与 BonaFide 的四个数据集上,VERITAS 的 balanced accuracy 较 LLM-as-Judge 提升 28.4%,较 activation probing 平均提升 16.0%,且可泛化到不同数据集与模型架构。
一项 arXiv 研究提出 LLM 智能体的逐决策记忆充分性问题:从全部记忆中选出小规模子集以保持完整记忆行为。作者推出含九类交互、六个工作流领域的 JointCoreBench 基准和按相关性代价排序的组删除基线 JointCore。在 6,912 个精确条件下,JointCore 100.0% 恢复最小代价充分集,将子集评估从 30.00 降至 11.13(减少 62.9%),实现 87.8% 活跃记忆节省;在四个 12B-70B 模型族上均值为 10.28 对 16.00 次模型查询。
论文提出 Self-Instructed CoT Controllability 评测方法,把约束作为自我指令放进思维链内部来测量模型遵循能力,结果显示自我指令下的可控性显著高于用户提示指令,即便只是提醒模型遵循用户约束也能明显改善。作者还演示了自我指令可用于监控规避,对 CoT monitorability 构成风险。
推荐理由:论文把 CoT 约束从用户提示挪进模型自我指令后可控性显著提升,并指出这会威胁 CoT 监控的可信度。
OpenMOSS 团队将 MOSS-Image-SFT(50 步、CFG 3)蒸馏为 8 步无 CFG 的生成模型,采用 data-space DMD 方法,checkpoint 为 update 2600(EMA)float32 权重。模型提供 lora.safetensors(推荐强度 1)与 lora_latest.safetensors(推荐强度 0.7)可直接加载到 ComfyUI LoRA loader,transformer 必须以 fp32 运行,蒸馏 delta 小于 bf16 舍入步长,转 bf16 会丢失大部分蒸馏效果。当前为进行中的工作。
研究者提出 PrefMind,一个在线双智能体强化学习框架,用响应 Generator 和偏好 Critic 两个可训练智能体替代基于打分的 RLHF 流程,让模型通过显式判断与纠错学习人类偏好的内在原因。人类标注监督两个智能体的判断与修正,双方在交互中联合更新。三个模型规模上的实验显示,偏好判断能力和下游响应生成都得到提升。
arXiv 论文 2610.23255 提出 SPLIT,用小规模标注试点通过经验贝叶斯拟合精确公式,在固定预算下规划采样数量、模型选择与验证开销,覆盖接受/拒绝和最高分选择两类验证方式。在七个基准、26 个模型、175 个智能体系统和六类真实验证器上,SPLIT 距事后最优分配仅差 0.02-0.8 个百分点,而所有测试的固定规则在部分场景至少损失 2.5 个百分点;该公式还解释了何时增加 LLM judge 反而降低精度,代码将发布。
推荐理由:论文提出用小规模标注试点来规划测试时算力分配,覆盖26个模型和六类真实验证器的实验规模可作方法参考。
arXiv 论文审计了 11 个开源权重 Agent(2-14B)在 InjecAgent 与 AgentDojo 上的 33,000 条轨迹,发现失败攻击中 76-80% 是忽略而非拒绝(17-18%)。仅改系统提示词即可让 InjecAgent ASR 从 0.2% 变到 43%;其提出的 Attack-Task Outcome Matrix(ATOM)显示 AgentDojo 中 21.7% 的回合 Agent 安全但未完成用户任务,建议评测同时报告攻击失败方式与任务完成度,并开放了标注语料、judge 提示词与分析代码。
推荐理由:论文指出低攻击成功率掩盖了安全失败方式,提供了按失败类型与任务完成度拆解评测的可迁移方法。
一项演示系统将数据引用机制集成到 Agent 架构中,用于光通信网络的自动化故障排查,以防止数据幻觉,提升根因识别与推理的可解释性和可信度。该工作在第 52 届欧洲光通信会议(ECOC 2026)上作为 demo 展示。
一项 arXiv 研究系统评测了基于置信度的小到大 LLM 路由,覆盖 3 个模型家族、4 种语言、3 类任务、72 种配置和 42,288 条预测。在 Belebele 与 SIB-200 上,50% 升级率下比随机路由分别提升 1.40–4.67 和 2.54–5.63 个百分点;但在 MMLU-ProX-Lite 上平均 AUC 仅 0.510,无一致收益。全局置信度路由存在高达 30.33 个百分点的语言升级差距,而等额配额路由能消除该差距且整体精度损失很小。
一项 arXiv 研究提出 token-budget 理论,形式化建模多智能体辩论与自我细化中“读与推理共享固定 token 窗口”的权衡,并由单智能体测量预测最优智能体数量。跨 5 个开源模型和 4 个推理任务,self-consistency 在 980 组匹配的窗口与组规模设置中 93% 的情况下持平或超过已部署的辩论方法,窗口越紧张差距越大。结论是共享窗口下模型剩余的思考空间比其阅读内容更重要。
论文提出 MGE-PO,通过结合验证正确性与 rollout 生成熵的四象限(4Q)优势塑形,改进 GRPO 对同等奖励响应不做区分的问题,并辅以在线熵问题课程。在 Qwen3-8B-Base 上训练八个 epoch 后,4Q 使六基准 macro avg@32 绝对提升 3.23-3.69%、macro pass@32 提升 4.24-11.06%;在 Qwen2.5-7B-Base 上将四基准 macro avg@32 从 41.5% 提升至 45.4%。
AtomicChat 将 NVIDIA Nemotron 3.5 Bolt 74B-A9B 的拒绝行为从权重中投影移除,发布 Atomic Dynamic GGUF 量化版本。在留出的 JailbreakBench 提示上拒绝率从 97.5% 降到 0%,俄语红队提示从 70% 降到 0%,开启思考时 30 条全部不再拒绝;MMLU 从 81.35% 到 81.75%(McNemar p=0.29),工具调用和 30k 长上下文检索不受影响。
推荐理由:原文给出拒绝率前后对比、MMLU 差异和 KLD 数据,读者可据此判断这次去拒绝编辑的代价与效果。
Orca 发布 27B 视觉语言推理模型 OrcaCyber Nano 1.0,主打防御安全场景,以 GGUF 格式开源,可在本地硬件离线运行,支持逆向工程、漏洞分析、安全代码审查、事件分诊与视觉输入。模型上下文长度 262,144 tokens,内置 MTP 投机解码并支持 DFlash2 draft 文件,主权重 15.70 GB,另有适配 16 GB 显卡的 12.99 GB 版本;基准成绩包括 MATH-500 98.60%、AIME 2025 96.23%、SWE-bench 78.4%,可直接在 llama.cpp 中加载。
arXiv 论文提出 MultiAgent-OPD,将 on-policy distillation 与强化学习结合,端到端联合训练共享参数的 Leader-Searcher-Answerer 多智能体团队。冻结的 Teacher 模型对 Searcher 生成的搜索和摘要 token 打分提供过程监督,Leader 从团队成败学习,Answerer 从候选答案正确性学习。在七个数据集上系统达到 38.68% macro avg@4,超过 Prompted Critic 4.06 个百分点、超过 C-MAS + RL 2.61 个百分点。
研究者提出一个概念框架,通过多维度和子维度对现有 RAG 技术进行表征(“是什么”)与分析(“做得如何”),框架基于对文献中 RAG 技术属性的定性分析构建。它可作为实证基准测试前的预筛选机制,帮助研究者和实践者在昂贵的实测之前,选出契合特定用户与任务需求的 RAG 候选方案。
论文提出 ReLaDrift,用共享的 Drifting Model 从噪声生成初稿,并在连续潜在空间中迭代精炼,训练时仅在最终轮施加 drifting loss、只回传一轮梯度。与一步生成、无法通过迭代提升精度的 Drifting Model 不同,ReLaDrift 可在测试时计算量与生成质量间权衡。在 Sudoku Hard 和 GSM8K 上,它在多种推理预算下达到与扩散、流语言模型相当或更优的性能,代码已开源。
研究人员提出 qGAMMA 框架,用于探索和优化混合精度深度神经网络(DNN)模型在支持多种定点与浮点精度的通用空间加速器上的映射。该框架采用领域特定遗传算法和基于硬件综合结果的解析性能模型来搜索设计空间,找出最小化目标指标的最优映射与加速器配置。在多类 DNN 工作负载上的评估表明,它有助于在性能、能效和资源利用率之间取得更好的权衡。该工作被 SAMOS XXV 接收。
arXiv 论文指出,同一推理模型的重复采样、不同推理深度和自评估之间存在错误相关性,因此同模型更多算力并不等于更多独立证据。作者提出 DIA(Disagreement-triggered Independent Arbitration),当中间阶段与最终阶段预测不一致时,由一组异构模型独立求解并聚合答案。在七个基准、两个基础模型上,DIA 在 14 个设置中的 12 个优于完整 chain-of-thought,MuSiQue 提升 7.00%,仅激活约 17% 的样本,token 用量比多智能体基线最多减少 47.2%。
研究者提出 MAS-Bai,一个面向白文(Bowen script)白语-中文翻译的语言学驱动自适应多智能体框架,针对汉字被语音借用导致的直译幻觉问题,按输入路由至轻量检索翻译路径或含词源与句法智能体的深度语文学路径,并以轻量反向翻译器的 cycle-consistency 作为推理时可靠性信号。团队构建了 6,536 句白语-中文语料,在 1,536 句测试集上 MAS-Bai 达到 16.23 BLEU 和 62.15 COMET,较 Standard RAG 提升 8.11 BLEU 和 6.85 COMET,在语音借词和语序差异场景增益最大。
一项 arXiv 研究基于 ANES 2020–2022 社交媒体研究的人物设定,用 LLM 生成政治网络,并以受访者调查报告的党派接触度作为经验基准进行验证。结果显示,部分模型生成的民主党和共和党自我节点之间的分离比调查数据更强,另一些模型则低估了共和党接触度;结构属性相似的网络仍可能在同一人物周围生成不同的党派环境,且存在群体-specific误差。这表明仅靠聚合指标评估 LLM 社会模拟会掩盖局部环境错误,需在聚合与个体两个层面进行验证。
研究者提出 FuzzInsight,针对覆盖引导 DNN fuzzing 中种子利用低效与覆盖引导成本高两大瓶颈给出配置分析与决策指南。其 Equalized Sampling 策略将种子队列平均利用率提升至 77%,较此前方法提高 13 个百分点;在 MNIST、SVHN、GTSRB、CIFAR-100 四个基准上评估 84 种配置,发现非结构化准则 LSCD、LSC、MDSC 以更少计算量达到相当覆盖效果。用生成的边界样本重训练可将泛化鲁棒性平均最多提升 77 个百分点,且不损害原测试分布上的性能。
arXiv 论文 2610.23194 提出 OfficeTown,一个从自然语言组织描述生成职业组织模拟的框架,成员协调分工、委派任务给助手智能体并评审产出,产物与未决事项持续存在影响后续工作。配套 OfficeTown Bench 含 23 个模拟组织、8 个专业领域的 406 个任务和 4,836 条评测标准;对 Qwen3.5-9B 做监督微调和 on-policy 蒸馏后在外部职业工作基准(含 GDPval)上明显提升,principal-assistant 框架得分高于所测单智能体与多智能体基线。
推荐理由:论文把组织模拟当作智能体训练数据源,任务与评审反馈可持续生成,还验证了主从协作框架优于单智能体基线。
LangNCO 框架将实例级自然语言需求编译为结构化推理时干预,无需重训即可让冻结的 NCO 求解器适配新约束,LLM 作为语义前端生成经 schema 校验的 DSL 规则,由确定性 Rule Executor 施加硬动作掩码,并配合 Critical-Offset Decoding 分配 rollout 预算。在 CVRP 上评测,LangNCO 在四个主数据集实现 100% 可行性、平均参考差距 1.63–3.26%,组合成对约束时可行性 97.33–100%,额外 12 类约束上可行性 98.67%。
arXiv 论文提出 MoEvolve,一个面向 MoE 大语言模型的双向蒸馏框架,通过“先恢复再提升”策略,将激活扩展后的高-k 模型作为更强教师,再把增强后的能力蒸馏回原始低-k 配置并保留推理时的激活预算。该框架在多个 MoE 模型和基准上将初始模型最高提升 22.2 个领域平均分,比同预算 RLVR 基线最高高出 6.5 分,且最终低-k 模型常常超过其激活扩展教师。
研究者提出 AMEND,一种推理时文本去毒化框架,将去毒解耦为角色化候选生成、隔离多维批评与约束优先选择。在 ParaDetox 上,多角色单轮选择比最佳单一角色提升联合指标 +0.0508;AMEND Lite 在冻结确认测试集上取得 0.6597±0.0062 的联合分数,比无约束多轮循环高 +0.0489(p<0.05),同时推理请求减少 28.4%。
一项新研究提出 DarkLens,通过将隐藏状态投影到 unembedding 矩阵弱组合的"暗空间",以 Dark Matter Ratio(DMR)衡量模型的上下文利用程度,仅需单次前向传播即可检测忠实性幻觉。该方法结合参数知识分数,在三个 QA 与摘要基准、六个 4B-13B 开源权重 LLM 上评测,表现持平或优于多种基线,且无需额外前向传播或探针训练。
研究者提出 TreeOPSD,一个无需 critic 的树感知后验自蒸馏框架,用于长程智能体强化学习。该方法将每轮交互视为树节点,从共享前缀分支备选续写,并将终止奖励递归回传为隐式轮级信用,映射为有界的闭式教师分布。在 Deep Research 设定下,TreeOPSD 使 Qwen3-30B-A3B-Thinking-2507 的平均准确率较 GRPO 提升 4.97 分。
BEST(Brain-Encoding-Speech-Text)提出两阶段神经到文本解码框架,用分层中间表示和紧凑的语音解码器替代大型生成模型。在 Brain-to-Text '24 与 '25 基准上分别取得 6.19% 和 1.62% 的词错误率(WER),仅用同类方法 3.85% 的参数量。研究还发现解码器扩展收益非单调、跨模态对齐比模型规模更关键、过拟合损害序列级性能。
中科院计算所发布 Chinese Decision 中文模型系列,用于单次前向 pass 的概率决策:模型一次前向提取候选选项字母 logits 并归一化,无需自回归生成答案。已完成的 0.8B 模型在 307,900 条决策的 CJ-Bench 上取得 72.24% 通用域准确率、76.98% 专业域平均准确率,整体期望校准误差 1.07%;2B checkpoint 经 RLCD 目标初步训练后达 72.56% 通用域准确率但尚未超过 0.8B。训练、评测与部署流水线(含 Q8 量化)已开源。
LongForge 将长上下文指令数据质量形式化为文档、问题与答案之间的对齐结构,包含分析器与合成器两部分。分析器把样本逆向重建为证据-断言推理图,计算广度、深度、正确性、完整性四个维度,对七个主流数据集的测量发现广度几乎不随文档长度增长、深度普遍偏低。合成器将其嵌入生成过程,LongForge-1 与 LongForge-2 两个混合数据在两个骨干模型上于六个长上下文 benchmark 中平均超出最强基线 2.2-4.7 分。
研究者提出基于国际象棋引擎评估的自动指标来衡量语言模型的象棋解释质量,发现现有 SOTA 模型表现很差,多依赖棋盘表面观察而非可迁移的象棋概念。他们进而提出免训练方法 BinProp,让模型发现可复用的象棋概念并用自然语言解释走法,平均得分较直接提示提升近 3 倍。该方法无需额外调参即可在围棋、西洋跳棋和将棋中发现有用概念。
一项 arXiv 研究提出「算法模型化」新范式,把迭代算法的执行轨迹当作计算经验,转化为可训练的模型。研究者将迭代优化建模为自回归过程,构建与维度无关的种群-时间架构,并通过先模仿异构教师、再经优化反馈超越的学习框架训练优化器。所得模型可整合异构搜索知识,并泛化到更大规模未见维度,使算法能力可通过学习不断积累。
研究者提出 Cross-Centaur 模型,利用跨任务个体级数据预测人类决策,并发布 Cross-Psych-101 数据集,涵盖 591 名参与者、12 个任务中的 261,551 个有效决策。该模型在留出参与者上的表现超过现成 LLM 和 Centaur,探测分析显示其隐藏状态编码了可跨任务迁移的参与者级行为倾向。论文已被 EMNLP 2026 主会接收为口头报告,数据集已公开。
研究者提出 QuAD 框架,用于对半结构化定性响应数据集做量化预分析评估:将重建的内在聚类分布与研究者定义的外部分析透镜对比,以四象限指标联合判断数据是否适配特定分析目标。该框架引入带两阶段指令生成和自适应锚点的内容感知多智能体系统以提升打分一致性,并通过合成数据实验和真实社会调查案例验证。
arXiv 论文提出 CIIR,一种通过类索引地址空间连接异构数据集的模块化编码器-解码器框架,无需配对或实例匹配样本。模型用 128 维地址表示,从手写数字、服装图像、口语数字频谱图和手势中学习,label-free 接收器达到 94.7% 宏平均 Address Realization Accuracy;冻结地址空间后仅训练轻量适配器,MNIST>SVHN 和 SVHN>MNIST 端到端 Address Transfer Accuracy 分别为 90.2% 和 82.3%。