内容形态
论文与技术报告：对齐机制、人格可控性、评测方法与能力边界的新发现。
403 条精选近 30 天 403 条共收录 2,996 条
Zhipeng Chen 等人在 arXiv 发布 DeepEvolve，一个以未来事件预测为环境的可持续演化智能体系统，通过递归进化引擎把每次预测的推理轨迹转化为能力。在按周更新、以真实世界结果评估的 FutureX 榜单上连续三周排名第一，rating 最高提升 195%；在自建评测中于四个基座 LLM 上进入前三，领先最强基线最多 10.7 Bradley-Terry 分。论文 47 页，标注为进行中的工作。
推荐理由：论文以未来事件预测这一可持续演化的环境为基础研究递归自我改进，FutureX 榜单连续三周第一是可复核的外部结果。
一项 arXiv 研究（arXiv:2610.29812）在 SciFact 生物医学声明验证任务上，用 live PubMed API 作为唯一工具，对四种 harness 做受控消融，涵盖 closed-book、以 claim 为 query 的单次检索、ReAct 式自写 PubMed 查询的智能体，以及给定 gold abstracts 的 oracle，使用两种高效 frontier 模型作为固定骨干。
推荐理由：受控消融比较四种 harness，指出检索而非推理是生物医学声明验证智能体的瓶颈，方法可迁移到类似评估设计。
arXiv 论文 MemoryTax 提出：当模型足够强、能自行搜索原始历史时，Mem0、Zep 这类预先设计的记忆系统是否仍有价值。作者在一段 LoCoMo 对话（419 轮、152 个问题）上测试四种记忆方法（full context、BM25、Mem0、Zep）和三个编码 Agent（Pi、Codex、Claude Code），每个单元搭配 GPT-4o-mini、GPT-6 Luna 和 Claude Opus 5.5 各跑一次。结果显示 Mem0 仅在 GPT-4o-mini 上胜过 full context，且其构建成本就超过一次 full context 推理；记忆系统还有由写入模型设定的上限。
推荐理由：论文用同一对话横向比较记忆系统与让模型自带工具搜索原始历史，给出成本与准确率的具体数据，可作设计取舍参考。
论文提出 PAUSE 框架，在编码智能体发出首次源码编辑请求前拦截，由独立 Planner 读取任务和编辑前转录生成一份修复计划，无需学习监控器、检查点搜索或额外模型调用。以 Qwen3-coder 为 Executor、GPT-5.6 Sol 为 Planner，在 SWE-bench Verified 的 OpenHands 上提升 16.8%，在 Multilingual 的 SWE-agent 上提升 14.7%，并优于 LivePlan 3.2% 和 3.7%，Planner 开销约为 SICA 周期性监督的 11-15%；离线模式下从记录前缀恢复可挽回 35.4% 的合格失败任务，比重启少用 33-41% 的 Executor token。
推荐理由：论文给出单次规划干预的无搜索引导框架，用 SWE-bench 实测提升幅度与 Planner 开销对比，方法可参考。
论文将 Gemini 3.8 Flash（temperature 0）作为事件触发跌倒筛查器的决策端，零样本判定 32x24 公开热成像数据集中的短片段：438 次摆拍跌倒中被叫出 67%（留出受试者 69%），499 个非跌倒窗口无一误报。在 160x120 有人居住房间 76 小时录音中，395 个日常片段零误报，9 次可见摆拍跌倒捕获 4 次；删除提示词中一句关于离开视野的警示后，敏感率在家用场景升至 9/9，但会把故意躺下误判为跌倒。8x6 像素下敏感率降至 34%，而两个传统检测器在实验室近乎全中却在家庭场景每天误报 14.2 和 23.9 次。作者公开了帧级跌倒标注和全部模型回答。
推荐理由：论文用真实部署口径实测多模态 LLM 做热成像跌倒筛查，给出了敏感率与误报数据，并指出提示词一句话对结果的显著影响。
arXiv 论文（arXiv:2610.30026）指出，主流文档转换器会丢失作者通过排版编码的含义，导致企业 Agent 自信地答错而非明显不完整。基于 76 份真实政策文档的任务上，格式盲摄取使 micro F1 从 0.690 跌至 0.150（docling）和 0.075（纯文本），差距在两个厂商的六个回答模型上复现；span 级 leave-one-out 将损失定位到高亮（+0.302）和颜色（+0.262），6,460 份文档中 32.8% 带有刻意颜色或高亮。结论是可靠性取决于摄取而非推理，修复方式廉价且可测量。
推荐理由：研究用 76 份真实政策文档量化文档摄取层丢失格式线索的程度，并给出低成本可测的修复方向，对 Agent 构建者有直接参考价值。
研究者借助 AI 智能体框架 AI-greement 发现了面向地理分布式状态机的新共识协议 A-greement。在 5 或 9 副本的六种部署中，该协议在写密集和读密集负载下分别将地理分布式键值存储的平均延迟较最快基线降低 12.2% 和 33.3%，只读负载下持平。AI-greement 集成协议知识库、模块化实现骨架和基于 Lean 的验证框架，其形式化还发现了既有共识协议中多个此前未报告的漏洞；作者强调人类专家在搜索前后仍不可或缺。
推荐理由：原文给出 AI 智能体在 Lean 验证框架下发现新共识协议的完整方法与延迟数据，还附对既有协议漏洞的发现。
研究者提出记忆整合框架 PreCoMem，将用户记忆表示为置信加权信念，用有效惊异度结合语义偏离与矛盾证据驱动三档确定性更新。该方法在 LoCoMo、LongMemEval-S 和 PersonaMem-v2 上取得一致最优准确率，新基准 DiMoBench 显示其能适应非平稳信念漂移而不对噪声过度反应，论文已被 NeurIPS 2026 接收，代码已开源。
推荐理由：论文把记忆更新拆成置信加权信念加双阈值门控，区分噪声与真实漂移的思路可迁移到自己的长期对话系统。
Ju-Chun Ko 在 arXiv 发表论文（arXiv:2610.29342），测试 abliteration（去审查）模型是否同时消除政治审查相关偏差。研究用 NVIDIA Nemotron 3.5 Bolt 74B-A9B 与 Qwen3.8-Flash-Next 及各自的社区 abliteration 版本，以繁体中文、简体中文和英文各回答 22 组陈述对和 27 个开放问题。结果显示脚本影响远大于 abliteration：原版 Bolt 在繁中 Index S 得分 +0.58、英文 +0.57、简中仅 +0.05，且以 0.91 的概率在简中肯定台湾属于 PRC、繁中仅 0.06；abliteration 最多改变 0.06。
推荐理由：论文用配对模型实测 abliteration 前后偏差，显示去审查不等于去立场偏差，并给出脚本切换与立场方向的量化证据。
Side Liu 和 Jiang Ming 的论文 What Users See Is Not What Models Read 被 IEEE S&P 2027 接收，仓库公开了配套样本与验证代码。内容包括 25 个最小提取差异 PDF（corpus_a）、25 个下游 LLM 评测 PDF 和 11 个 QA 适配 PDF，以及开源 PDF 解析器验证和 LLM API/Web 验证脚本，支持在 Ubuntu 上用 Python 3.10+ 和 Node.js 20.16+ 复现。
推荐理由：论文配套仓库放出全部样本和验证代码，读者可以实际复现 PDF 对人和对模型显示内容不一致的攻击测试。
arXiv 论文（arXiv:2610.29352）通过五个模型规模、百余种 token 预算配置，建立了长上下文性能与模型规模、短上下文及 LCCP token 预算之间的经验加性幂律，可外推到未训练的模型规模。论文提出 Constant-Last4 观测协议，稳定预测了 1.22B 参数模型在约 100B LCCP token 上的性能轨迹；128K 上下文扩展和监督微调后增益仍保持，在评测范围内未见饱和，支持继续扩展 LCCP 而非提前停止。
推荐理由：论文给出长上下文持续预训练收益随 token 预算扩展的经验缩放律，并用 1.22B 模型轨迹验证了可预测性与增益持续性。
论文提出 OnQ，一种结合 on-policy 蒸馏与逐候选 Dynamic KL 的低比特恢复管线，用量化学生模型自身生成的前缀接受全精度教师监督。在 Qwen3-1.7B、4B 和 8B 的 2 与 3-bit 精度上，OnQ 取得九个基准的最高平均分；2-bit 下在每个模型规模的每个基准都超过所有基线，Qwen3-8B 平均比最强基线提升 10.26 分，且响应更短、截断和重复错误更少。论文链接：https://arxiv.org/abs/2610.29378v1
推荐理由：论文指出现有量化感知训练的固定响应监督缺陷，并用自身前缀上的蒸馏与动态 KL 给出可复现的低比特恢复方案。
arXiv 论文 ECHO 提出偏好优化的失败源于共同模态偏移，即隐状态中跨 token 位置、提示词和 chosen/rejected 响应共享的方向性偏移，相对排序损失几乎察觉不到其累积；该偏移投影到输出层形成词表井，使单一 token 概率主导解码并引发生成坍缩。在所研究的 per-token 排序损失下，同样的坍缩出现在 17 个 base 模型谱系中的 14 个，且注入该偏移可复现坍缩、屏蔽该成分可预防；教科书式 DPO 偏移较弱，而全参数 SimPO 在 Llama-2 和 Llama-3.1 上均驱动其坍缩。17 次 UltraFeedback 运行显示排名指标越好，两个公开奖励模型反而越少偏好其样本，揭示了标准排序指标的盲区。
推荐理由：论文用注入和消融实验把偏好优化中的共同模态偏移与词表坍缩因果联系起来，并给出可在坍缩前预警的表征层信号。
Reddit 用户 /u/Happy_Guitar3521 分享一种面向 Q8 量化模型放不进显存场景的投机解码思路：GPU 上只保留 2-bit 副本用于起草候选 token 树，残差 W−Ŵ 以 6/7/8-bit 存在系统内存，由 CPU 与 GPU 分工完成验证，仅激活值跨 PCIe 传输。实测该验证器比 Q8_0 更接近 bf16（KL 约为一半），2-bit 起草器读取验证器精确 KV 后，在 Gemma 4 31B 上每次验证接受 token 数比 Google 官方 Gemma 4 drafter 高 25–30%；AVX-512 CPU 内核使一次验证 16 个 token 的成本接近验证 1 个。
推荐理由：作者给出完整的量化拆分方案和 KL、接受率等实测数据，还附上可复现的 POC 配方与失败经验，方便他人在此基础上继续实验。
Kevin Peckham 在 GitHub 开源 barkup-bench，一个持续进行的预注册基准系列，比较 barkup（HTML 整树重写）与 JSON 细粒度变更工具等方案在让 LLM 智能体编辑页面布局、文档模板、CMS 内容等类型化树时的可靠性。系列已含 45 项研究、8 个模型上超过 36,000 次评分运行，覆盖接口、树规模、部分上下文、检索、会话记忆、多目标编辑等维度，并保留两次重大修正与若干自我反驳。
推荐理由：预注册协议加可复现语料和回归门禁的做法，为评测 LLM 智能体编辑结构化树提供了可迁移的实验纪律。
该 GitHub 项目测试能否像数据库一样把事实直接写入大语言模型权重，再查询、修改并留痕，无需每次重读全部内容，当前结论草案为 NOT-READY-WITH-CONDITIONS。基于 Qwen2.5-3B 用 MEMIT/AlphaEdit 系列方法编辑，批量写入在 3B 规模消除串扰（100%保持），编辑可经受 Q4_K_M 量化并经 llama.cpp 在 CPU 上以约 8–13 tok/s 服务；主要未解问题是多词新造名称的换措辞问答，目前最好成绩为 72 题中答对 24 题。
推荐理由：原文以预注册实验和可复现证据逐项检验把事实写进模型权重当数据库的可行性，并如实报告失败项。
Dharma AI 在 Hugging Face 博客预览 VocabX 论文结果：按每个 token 的成本而非频率重建词表，在不改基座模型、数据和训练配方的前提下，将基于 Qwen3-4B 的葡萄牙语作文自动批改器实测推理成本降低 77.0%。响应平均从 350 降到 101 个 token，bench 分数从 0.703 升到 0.810，LM head 从约 152,000 行缩到约 65,000 行；在 5 个公开领域和 Qwen3、Llama-3.1、Gemma-3 三个模型族的 15 种组合中，压缩率和估算推理成本均领先 FVT、MWT 和 in-place BPE 三个参照方法。
推荐理由：作者用同一基座、同一训练配方做对照实验，把成本按读写分别计价，方法思路可迁移到其他单一领域的专用模型。
一篇 arXiv 论文提出用 16 MB 冻结 512-bit 编码表替代可训练嵌入层，经主成分投影和符号二值化得到，无任何可训练参数。在 Gemma 3 270M 形状模型上，可学习词表花 2.6 倍可训练参数只换来 0.20 nats 验证损失改善，而冻结词表模型在 LAMBADA、HellaSwag、PIQA 上持平或更好，仅 ARC-Easy 落后；在罕见词上反超 1.7 到 2.3 nats，训练后新增 10,000 词仅损失 3%，可学习词表则崩掉 43%。配合 ternary BitNet b1.58 主体，整个模型仅 46 MB，在笔记本 CPU 上以 62 MB 内存生成 615 到 740 tokens 每秒，速度是 float 模型 8-bit GGUF 的五到六倍、内存为其七分之一。
推荐理由：论文用同一训练设置对照验证冻结 16 MB 词表的效果，并给出 LAMBADA、PIQA 等基准与 CPU 生成速度数据，权重和评测全部开放。
AgentVFS 团队发布 VFS-Bench 1.0 基准，200 个任务（100 个来自 MCP-Atlas、100 个来自 Toolathlon）覆盖 46 个外部服务，每个任务分别通过 MCP 工具调用和虚拟文件系统 AgentVFS 各运行一次，任务文本、数据和评分器完全一致。结果显示虚拟文件系统平均减少 52% token，pass@1 从 77.6% 升至 81.6%，其中 Claude Opus 5.5 在 MCP-Atlas 上 token 减少 88%。基准用本地 fake 服务复现 API，每次运行前重置并重新播种数据，完整榜单和轨迹见 agentvfs.org，仓库地址 https://github.com/agentvfs/vfs-bench。
推荐理由：同一任务在 MCP 与虚拟文件系统两种接口下各跑一遍并保留原始评分器，token 与 pass@1 的对比数据齐全，可复现。
richajoy 在 GitHub 发布 llm-inference-performance 仓库，用 NVIDIA Dynamo、vLLM 和 Kubernetes 在 H100 上部署 Qwen3-8B，逐项改变负载、路由、分离式部署、自动扩缩和引擎设置并测量 TTFT、TPOT、吞吐与容量。
推荐理由：原文用字节与 FLOPs 从第一性原理解释每个调优参数为何影响 TTFT、TPOT 和吞吐，并给出可复现的基准数据与修正记录。