内容形态
论文与技术报告：对齐机制、人格可控性、评测方法与能力边界的新发现。
403 条精选近 30 天 403 条共收录 2,998 条
Tejashvi Kumawat 开源 BACM，一个为并行 LLM 智能体设计的共享上下文管理器，以带溯源的知识对象、依赖图和增量失效机制应对仓库中途变更，配套论文、代码与 RepoQA-Dyn 基准（httpx、requests、flask、click、rich 五个真实 Python 仓库在运行中发布新版本）。在 GPT-5 mini、每格 30 次留出运行的评测中，BACM 准确率为 0.89（静态）和 0.88（中途变更），独立智能体加上下文清理基线为 0.58 和 0.49，Holm 校正后显著；过时答案 7/186 对 61，token 节省 -22% 与 -26% 则不具统计显著性。全部评测响应已缓存（约 210 MB），可无需 API key 重放生成论文所有表格与图表。
推荐理由：原文给出了完整架构、真实仓库基准和缓存的复现流程，读者可以按需验证并行智能体共享记忆方法的各项结果。
Prasthana Lab 发布 itact-785，一套针对印度《Income-tax Act 2025》的 785 道合规任务评测集，sha256 锁定、严格实体匹配判分、不用 LLM judge。最佳前沿模型 glm-5.3-flash 严格准确率 30.2%；四部分 ICAI 式合规任务所有模型 0/99；基于 Qwen3.5-4B 微调的 karsastra-4b 得 45.7%，超过全部前沿模型。数据与文档 CC BY-4.0，评测代码 Apache-2.0。
推荐理由：评测集在跑分前锁定题目并用严格实体匹配判分，读者可以借此核对各家模型在印度新税法合规任务上的真实差距。
Lior Baruch 在 Reichman University 的硕士论文仓库中，比较前瞻奖励在 Preference Tree Optimization（PTO）与 GRPO 两种优化器下训练 Llama-3.2-1B 执行动机式访谈（MI）的效果。GRPO 在 K=5 前瞻视野下在全部八个评测量表上胜过 K=0（Wilcoxon 检验 p < .001），Q1+Q2 奖励从基线 3.01 提升到 4.52，且更多学到复杂反映而非空洞表扬，但对阻抗的说服式回应增至 39%；PTO 在 K=0 下更优且算力便宜得多（8.1/19.7 GPU 小时对 GRPO 的 27.9/51.2）。作者注明每配置仅一次训练、无人类评估等局限。
推荐理由：论文给出前瞻奖励在两种优化器下的对照数据和算力成本，读者可以据此权衡奖励视野与优化器的取舍。
作者在 RuMedTop3（俄语患者主诉预测 ICD-10 编码，105 类，测试集 n=822）上对比了 TF-IDF、DeepSeek 提示/RAG、Qwen3-8B QLoRA 与 Kev-0.8B 直选五种方法。TF-IDF+逻辑回归 Hit@1 49.03 / Hit@3 72.63，零样本 DeepSeek 仅约 33；Qwen3-8B 在 Apple M2 Pro 上用 MLX 训练一轮 QLoRA（6 小时 32 分钟），Hit@1 从基座 7.66 提升到 35.64（配对差 +27.98 点）但仍低于 TF-IDF；Kev-0.8B 零样本 Hit@1 12.41，迁移效果差，中位推理延迟 523 ms。
推荐理由：同一测试集上系统对比了线性基线、API 提示、RAG、QLoRA 和小型模型直选五种方案，并给出置信区间与配对差异，结论克制可复核。
juliusloon 在 GitHub 开源了 Paperico 1.1.0，一款 macOS 原生论文精读应用，用 MinerU 恢复 PDF 结构，支持原文译文对照、逻辑链大纲、方法卡片和可定位到段落的证据问答。论文库存于本地沙盒，API Key 存于钥匙串，App 直连用户配置的服务，无中转服务器；默认关闭的 localhost 只读 MCP 服务可让外部客户端访问论文库。从最新 Release 下载 dmg 安装即可，App 未做 Developer ID 签名或公证。
推荐理由：原文给出了从 PDF 解析到双语精读和证据问答的完整做法，读者可以照此搭建自己的本地论文精读流程。
fahrellgiovanny 发布 epistemic-policy-divergence 基准，测试大语言模型是否采纳注入会话历史的假前提，覆盖5种攻击协议、10个知识域和3个模型族。结果显示 GPT-5.4 Mini 在500个会话中从未采纳假前提（0%），Gemini-3.1 Flash-Lite 在指令覆盖下采纳率达94.0%，GLM-4.5-Air 抵抗系统注入权威（15.8%）但服从指令覆盖（84.2%）。自动裁判经120轮人工金标准验证（Track 1 κ=1.000）。论文见 arXiv:2609.35308，配套仓库与完整复现 RUNBOOK.md 已开放，MIT 许可。
推荐理由：同一假前提在不同模型上的采纳率从0%到94%，作者据此主张会话历史应被视为不可信攻击面并给出部署建议。
PBH Applied Systems 在 GitHub 发布 quant_eval 公开语料库的推导工具，该语料库对全权重与量化大语言模型在八类 Agent 相关任务上做逐案例行为评测，含配对统计检验和公开 ground truth。仓库只发布推导契约而非评测引擎，通过源文件 SHA-256、build_manifest. 输出摘要构成可核查的完整性链；包含 build_datasets.py 和 make_figures.py 两个脚本，共七个数据集（D0-D7）， deposited on Zenodo（DOI 10.5281/zenodo.22009419），镜像到 Hugging Face 和 Kaggle。
推荐理由：原文公开了从源包推导评测语料的完整校验链和撤回声明，读者可以据此核查量化评测数据是如何生成的。
arXiv 论文（https://arxiv.org/abs/2610.08164）提出免训练的两阶段闭式低秩量化误差补偿框架：Stage 1 以 Fisher 加权非对称目标将各层输出对齐全精度模型，Stage 2 在补偿后模型上做秩约束自然梯度步吸收剩余一阶信号，每个 adapter 只需一次截断 SVD。在 2 bit QuIP# 下，Qwen3-8B 的 WikiText-2 困惑度从 12.43 降至 10.26，Qwen3-4B 从 21.11 降至 13.22；在 C4 上相对最强基线（31%/63%）分别恢复 51% 和 84% 的到 FP16 的差距，并在更高位宽和另一量化器下保持增益。
推荐理由：论文指出既有低秩量化误差补偿的两个共同简化，并用两阶段闭式框架在 2 bit 极端量化下给出可复现的困惑度改进。
Michael Andreev 在 arXiv 发布论文（arXiv:2610.08300，已被 NeurIPS 2026 PALM Workshop 接收），用 EverMemBench 受控评估对话长期记忆中结构深度与上下文宽度两个参数的作用。结果显示上下文从 1K 扩到 4K 可让 Accuracy 提升 10.11-17.98 个百分点，而加深记忆层次无单调收益；超过 8-16K 后 Production 条件性能进入平台期但每个正确答案的 token 开销持续上升，Oracle 条件在 68-71K token 完整档案上保持质量。
推荐理由：论文用受控实验比较记忆结构的深度与上下文宽度，给出了随宽度变化的量化收益和平台期数据，方法可复用于长期记忆系统评估。
arXiv 论文（2610.08463）提出 UNREAL 框架，直接从冻结 LLM 的内部表示生成检索查询和编码文本块，仅新增不到 500K 可训练参数且不改动主干。在 3B token、21M chunk 的 Wikipedia 索引上，四种 dense 和 hybrid 主干均超越现有 retriever-reranker 系统，HotpotQA 召回率从 49.1% 提到 73.2%，2WikiMultiHopQA 从 31.7% 到 60.1%，MuSiQue 从 8.8% 到 14.4%。
推荐理由：论文用不到500K可训练参数统一语料检索与长上下文证据选择，并给出多基准召回率对比数据，方法与结果都可复用参考。
arXiv:2610.08718 研究微调中语言模型的伪遗忘（spurious forgetting），发现被遗忘的旧知识往往仍存储在模型中且可恢复。作者用最小联想记忆模型复现遗忘动态，指出其依赖共享结构的键、集中新值和网络归一化三个要素：微调使旧表示沿共同方向整体移动，暂时隐藏旧事实但保留其相对几何；新数据只把旧记忆一起移动时遗忘可逆，逐事实改变累积时才造成永久侵蚀。实验显示减去共同位移可消除 Transformer 的崩溃，从权重更新中移除单一方向可在预训练语言模型中恢复旧事实。
推荐理由：论文把微调遗忘拆成可逆的共同位移和不可逆的个体侵蚀两部分，并给出恢复旧知识的干预方法。
Sujato Dutta 在 arXiv 发布 MINDSET，一种将对话存为不可变 episode 并通过最小能量状态迁移组织成版本化 schema 的记忆控制器。在 850 题（700 LoCoMo + 150 MemoryAgentBench）上对比 5 个记忆系统，取得最高 LoCoMo F1，检索指标显著优于第二名 LightMem（Holm 校正后 p<0.01）；消融显示受控碎片化与 schema 感知分配贡献最大，700 题跨模型评测（GLM-4.7、Gemma-4-31B）支持模型无关性。
推荐理由：论文将长期对话记忆建模为受约束的状态管理，给出了与5个记忆系统的对比数据和消融结果，可迁移到记忆系统设计。
Yexiong Lin 等发布 arXiv 论文 SquidAgent（arXiv:2610.08647，已被 NeurIPS 2026 接收），提出并行多智能体比串行更慢源于重探索成本和对齐成本，并给出按层判断是否并行的 token 成本判据。SquidAgent 从编排者会话直接 fork worker 并用预生成共享约定块替代事后调和，实测对 Claude Code 平均吞吐提升 2.2 倍、墙钟时间加速 2.6 倍，对最强多智能体基线吞吐提升 2.0 倍。
推荐理由：论文指出并行多智能体常比单智能体更慢的原因，并给出以 token 估算成本的并行决策判据，方法可供 Agent 系统设计参考。
论文首次系统研究大语言模型投机解码的安全影响，大规模测量发现有损投机解码的效率提升以不成比例的安全代价换来，越狱和提示注入攻击成功率上升远快于效用下降。作者提出 SecureSD，理论分析认为安全退化主要源于 draft 模型生成的早期 token，并对早期解码位置采用更严格的验证标准；实验显示其在保持效率与效用的同时显著提升安全性。论文共18页，被 IEEE S&P 2027 接收。
推荐理由：论文指出了有损投机解码在效率提升时安全恶化更快这一不对称现象，并给出针对早期token的可行验证改进方法。
论文提出 AdvSim2Real，在冻结的 web 世界模型内共同演化任务课程、注入攻击方和 agent，应对页面上的自适应提示词注入。在 150 个 web 任务上，训练后的 4B agent 面对未见过的前沿模型攻击方完成率相对基线提升 33.6%，且能力提升可迁移到真实浏览器。
推荐理由：论文用冻结的 web 世界模型让任务、注入攻击与智能体共同演化，给出了对抗未见前沿模型攻击的具体数字。
作者发布 agent-time-bench 基准，测量 LLM 智能体在用户表述、工具参数（ISO 8601 UTC）和渲染答案三种时间表示之间转换的准确性，含 10 个领域 × 10 个单轮场景，goldens 经手工推导并机械交叉验证。对 7 个模型的研究显示，使用基于 nl2time 的确定性时间工具后，工具调用时间边界达 94–98%，时间戳渲染 86–98%，一个约 4B 激活参数的开源模型边界准确率从 14% 提升到 94%。代码采用 Apache License 2.0，内容采用 CC BY 4.0。
推荐理由：原文给出完整的场景构造、评分方式和7个模型的实测结果，读者可以了解智能体处理日期时间任务的真实水平与改进方法。
论文提出 SIGMA，一种仅需 Model Spec 即可让模型自我改进安全对齐的数据生成与训练流程，通过 spec 引导任务合成和基于 rubric 的强化学习完成。尽管只在单轮对话数据上训练，SIGMA 在多轮智能体环境中将 AgentHarm 有害性从 22.6 降至 14.8，Agentic Misalignment 从 79.1 降至 3.8，优于 Deliberative Alignment 和 Constitutional AI 基线，且保留通用能力。
推荐理由：原文给出了仅凭 Model Spec 进行对齐自我改进的流程和 AgentHarm、Agentic Misalignment 前后数字，可与外部监督方法的局限对照阅读。
Jike Zhong 等发布 DSV-Mem 基准，用于评测多模态大模型 Agent 在专业工作流中的稠密有状态视觉记忆，含 1,000 道题和五类问题，覆盖 27 种模型与记忆管理配置。最强基线得分低于 45%，分析显示状态演进尤其是主导更新次数是主要难点，而对话长度、OCR 和算术并非瓶颈，状态感知设计比增加推理量更有效。基准与代码将公开，论文链接 https://arxiv.org/abs/2610.08102v1。
推荐理由：论文分析了 27 种配置下的失败模式，指出状态更新追踪而非对话长度才是主要瓶颈，对记忆系统设计有参考价值。
Shuhao Li 等提出 Nucleus Speculative Decoding（NSD），在投机解码验证中引入目标模型的 nucleus 合理性判断，草稿 token 只要满足标准接受规则或属于目标模型 nucleus 即被接受，代码已开源。论文理论刻画了分布偏差，给出单步误差由草稿模型在目标 nucleus 内超额概率决定及序列级保真度界限；实验显示相对自回归解码加速最高 5.16 倍，相对标准投机解码最高 3.15 倍。arXiv:2610.07822。
推荐理由：论文给出了NSD的分布偏差理论刻画和与自回归、标准投机解码的具体加速倍数对比，方法可复用。
论文提出 Dev-Primitives 抽象，让仓库组件各自挂载常驻 LLM，并在此基础上构建 HERMES 框架，通过依赖感知动态激活和 bug 诊断机制实例化这些组件。在四项软件工程基准上，HERMES 比匹配的基线 harness 平均高 12.4%；即使 Dev-Primitives 用 Qwen3-8B，配合强激活与诊断模型也在四项基准上与全 GPT-5.6 配置差距保持在 4.5% 以内，同时在 Terminal-Bench 4.0 上推理成本降低 26.2%。
推荐理由：论文给出依赖感知激活与 bug 诊断机制的完整框架设计，搭配四项基准的平均提升数字，对做软件工程 Agent 的人有可迁移思路。