内容形态
论文与技术报告：对齐机制、人格可控性、评测方法与能力边界的新发现。
403 条精选近 30 天 403 条共收录 2,997 条
arXiv 论文（arXiv:2610.07853）审计 BitNet b1.58、Falcon-E、BitCPM 等三值语言模型的导出管线，发现潜在权重先转 bf16 的流程会翻转部分三值码：已发布检查点中 Falcon-E 与 BitCPM 有 0.83-1.77% 的码不一致，BitNet 2B-4T 为 1.530%。在低学习率微调端点，该导出使 Falcon-E-1B-Base 的 greedy GSM8K strict accuracy 从 58.79% 跌至 0.78%，BitCPM-CANN-0.5B 从 36.13% 跌至 0.39%；直接写入训练量化器的码或微调 bf16 输入两种补救方案均在三个模型上达到 4 点非劣性标准。
推荐理由：论文审计了三家实验室的导出管线，指出 bf16 转换会抵消低学习率微调的代码改动，并验证了两种补救方案。
Yupeng Su 等人在 arXiv 发布论文 ReFold（arXiv:2610.07863），提出一种免训练的渲染层，在不改动底层交互历史的前提下压缩长程 LLM 智能体每步重发的上下文。方法通过替换已展示内容为占位符、把智能体报告已完成的轮次折叠成一行摘要来消除跨轮冗余，删除均可逆，并采用分块渲染每隔几步才重写缓存前缀。在五个长程基准和两个前沿 LLM 上，ReFold 将 token 消耗最多降低 2.5 倍，每会话 KV-cache 内存减半且不损害任务成功率；在受限上下文预算下避免最多 92% 的强制压缩，并发服务下推理加速最多 1.7 倍、推理成本最多降低 3.4 倍。
推荐理由：论文提出无需训练的上下文压缩层 ReFold，长程智能体的成本与缓存数据都有可复用的量化参考。
Brendan King 在 arXiv 发布论文，提出 Confidence Reasoning Graphs（CRGs），在推理时从单条 Agent 轨迹估计任务完成概率，无需模型内部权限或训练数据。方法将任务完成声明分解为基于轨迹证据的子声明，逐一估计置信度后聚合，在三个 Agent 基准、三个骨干模型和三个 Agent 框架上比 verbalized、采样式和白盒替代基线校准更好、风险决策更强，且置信度估计可审计。
推荐理由：论文提出无需模型内部权限和训练数据的 Agent 置信度估计框架，并用三个基准的对比实验和消融说明改进来源。
论文提出 VisionWeave，让多模态大语言模型端到端学习在何处及以何种粒度分配视觉表征。方法结合门控空间池化器与粒度路由器，通过自蒸馏在 Qwen3.5-4B 上验证并扩展到 Qwen3.8-27B，训练耗资超过 30K A100 GPU 小时。基于 Qwen3.8-27B，该方法在八个基准上平均节省 43.0% token 并保留 98.9% 原生性能，优于固定 50% 节省目标下仅保留 88% 性能的 token 剪枝基线；部署于 SGLang 时吞吐提升 2.3x，平均 TTFT 降低 54.4%，平均 TPOT 降低 60.6%。
推荐理由：论文给出了弹性视觉表征的端到端训练方案与 token 节省、性能保持和部署吞吐的实测数据，读者可对比 token 剪枝基线评估其取舍。
arXiv 论文（arXiv:2610.08048）提出 DAEDALUS，用 explorer 与 solver 两个智能体从自生成练习中自举可复用的智能体记忆，无需既有任务或 oracle 验证器。每次 solver 失败派生出启发式规则，并在反复成功后存入记忆库；在 AppWorld、τ²-bench 和 AutomationBench 上，平均成功率较无记忆基线最高提升 15.9 个百分点，pass^5 最高提升 2.2x，推理成本低于多数使用训练任务的方法。代码与生成及推理轨迹已开源，生成的任务还可作为排序模型性能的基准替代。
推荐理由：论文提出不依赖人工任务和 oracle 验证器的智能体记忆自举方法，并在三个环境给出成功率与成本数据，方法可迁移。
SeraphimSerapis 在 GitHub 发布 tool-eval-bench，一个针对智能体工作流中大语言模型工具调用质量的开源基准，支持 vLLM、SGLang、LiteLLM、llama.cpp、TensorFold 及 Gemini、Anthropic 端点。它通过 OpenAI 兼容接口运行 69 个确定性场景（另有 23 个可选 Hard Mode），按 pass/partial/fail 评分并生成对话 trace；附带吞吐、长上下文检索、GSM8K/MMLU/IFEval 等评测，安全违规且安全组得分低于 50% 时评级封顶三星。
推荐理由：这是一个面向自托管推理栈的工具调用质量基准，场景设计、评分规则和部署元数据分组都写得具体，适合想对比本地模型工具调用能力的人参考。
作者发布 InferBench 基准，用 20 个场景、2.8k 段对话测试 12 个 LLM 从指令中推断用户优先级的能力。优先级明确时模型选对率 89%，部分未说明时降到 60%；GPT-6 Astra 76%、MiMo V2.6 Pro 75%、Gemini 3.1 Pro 69%。Astra 在偏好未说明时总会追问澄清，Grok 4.6 在 64 段对话中仅 18 次追问；288 个错误决策中 105 个以 >90% 置信度提交。完整报告：https://laugh.so/research/inferbench/
推荐理由：作者自建 InferBench 评测并给出 12 个模型的推断准确率与置信度数据，开源与闭源模型的差距有具体数字可查。
GIO443 发布 speculative-statecraft 仓库，在 4-64 个 LLM 阵营每回合输出引导 JSON 决策的策略游戏负载上，用目标模型（Qwen2.5-1.5B-Instruct）自身输出训练 51.5M 参数的 EAGLE-1 草稿头，在 RTX 4070 Laptop 8 GB 加 vLLM 0.30.0 上与无投机和 n-gram 投机对比。
推荐理由：原文给出按在飞上下文量判断投机解码何时划算的阈值，以及离线预测接受率的方法，可迁移到其他 vLLM 部署场景。
kamui 在 GitHub 发布 code-review-bench，一个用于在开源 PR 上对比代码评审配置的本地浏览器，当前展示 v1 记分卡，690 次已收录评审全部完成评分。语料含 16 个 PR 任务、52 个因果问题族（30 个严重、22 个其他实质）和 17 种配置，内置 Claude Code 与 Codex 评审、ce-code-review 和 thermo-nuclear-code-quality-review，个人 /review-code 配置（Sonnet 5.5）为实验项。评估员审计第一轮仍在进行，最后一次评分提出 14 个待裁定候选问题，因此暂不显示总体推荐。
推荐理由：原文详细公开了评分内核、判定规则与证据保留方式，读者可以据此理解该代码评审基准如何保持各维度可比。
austin-cheng98 发布 llm-sentencing-agents 仓库，含 4,086 条 LLM 智能量刑决策记录，覆盖 Claude Opus 5、Sonnet 5、Haiku 4.5、GPT-6 Luna 和 GPT-6 Sol 五个模型，测得提示词措辞如何影响智能体对标注为同行数字的跟随（pull 与 peer premium）。Opus 5 的裸区块 premium 为 +0.32（p=0.0002），加入一句收尾语后降至 −0.01；中性同文件措辞下 GPT-6 Luna 的 premium 为 +0.250（p<0.001）。仓库提供预注册、冻结哈希、分析脚本与完整复现流程。
推荐理由：实验通过预注册和锚点位移设计量化了 LLM 量刑智能体对同行标注数字的跟随程度，方法与数据可复现。
BrendanJamesLynskey 发布 llm-architectures-explained，一个记录大语言模型构建方式及其设计代价的交互式网站，覆盖从 2017 Transformer 到今年发布的 160 个模型，在线版在 llm-architectures-explained.vercel.app。每个数值都标注来源与状态（config、disclosed、paper、code、not-disclosed），从 Hugging Face 固定 commit 的 config.json、论文或官方公告逐项溯源；提供 /learn 九章交互教程、/models 可过滤排序的参数表、/compare 双向对比与显存和 FLOPs 计算器、/timeline 时间线。
推荐理由：原文详细说明了每个数值的来源分级与 CI 校验方式，读者可以据此判断这份 160 模型架构数据的可信程度。
作者开源 SLM-agent-Lab，用 4 个确定性工具、300 个精确答案任务和 13 类失败分类法评测小型工具调用模型。在 150 任务子集上 Granite 4.0 350M 达 58.0%、Qwen2.5 0.5B 仅 31.3%，多步链式任务两者都接近崩溃（8% 和 4%），OOD 任务使 Granite 从 65.5% 跌至 29.0%。
推荐理由：实测给出 Granite 4.0 350M 与 Qwen2.5 0.5B 的工具调用失败分布，并量化到 int4 时格式保真才是精度下限。
一位 Reddit 用户公开了业余研究项目：给 21M 模型外挂 16.8M 行、共 6.4B 参数的学习向量查找表，每 token 只读 33M 参数，效果与同在 500M Wikipedia tokens 上训练的 114M 稠密模型相当。
推荐理由：作者公开了完整代码、模型和失败记录，还给出 SSD 内存映射下 140 tok/s 的实测数据，可复现成本仅约 70 美元。
推荐理由：该方法无需训练即可复现，原文还给出不同压缩率下精度与延迟的权衡数据，读者可据此判断适用场景。
推荐理由：开源评测框架把隐藏测试、确定性评分和成本记录做成完整流程，还支持订阅版 CLI 与原始 API 两种测法，可复现性设计较细。
dzaragoza 发布 LLM-benchmark 仓库，配套独立研究 Small Models, Big Claims（DOI: 10.5281/zenodo.22855666），测量在集成 GPU 上经 llama.cpp Vulkan 后端从系统内存运行的小型 instruct 模型。
推荐理由：作者把整套基准流程做成一条命令加两个离线选型页，读者可复用其量化阶梯与读速门槛方法来挑选本地小模型。
Sumida 等人发布 MemUse 基准（arXiv:2608.24189，EMNLP 2026），评估记忆系统在真实用户主动提及记忆的瞬间是否自然整合记忆，数据集为 Hugging Face 上的 RuiSumida/memuse。
推荐理由：基准用真实部署数据把直接问答与自然整合分开测，GPT-4.1-mini 78.8% 对 7.9% 的差距揭示了检索与整合的缺口。
作者开源了 Cellblock 项目，在 Qwen 2.5 7B Instruct 上模拟斯坦福监狱实验，48 座模拟监狱中 1/4 的受训看守监狱出现虐待行为，中立组没有整班变严酷的情况，但 3 对 12 的监狱层面差异未达显著（Fisher p = 0.22）。
推荐理由：作者用种子配对和预注册设计控制了变量，读者可以看到实验方法、全部数据和已知局限，便于自行复现或检验。
GitHub 项目 grasla3/agent-attack-atlas 发布了一套针对工具调用型 LLM 智能体的攻击方法评测体系，收录 8 个攻击类别、188 个带文献出处的方法，并提供配对对照测量框架、确定性判据与先验评分。
推荐理由：原文给出完整的分类、配对对照测量口径与可离线复算的实测台账，读者可以据此评估智能体攻击方法在同一标准下的可比性。
作者发布递归微调知识退化研究的复现包 v1.0.4，投稿 Knowledge-Based Systems（审稿中），涵盖 Qwen 2.5 1.5B 与 Gemma 3 1B 两个骨干、10 代递归、共 52 次实验。
推荐理由：复现包附带全部统计、图表生成脚本和 14 项机械校验，读者可自行验证递归微调退化的剂量响应结论。
