新闻、仓库与研究，按时间排列。
NgramRL 从同一提示词的近期 rollout 历史构建逐提示词 n-gram 草稿器，加速 RL 后训练中占比可超 70% 训练时间的 rollout 生成，无需辅助模型或常驻 GPU 草稿状态。在两种模型家族和三种推理、结构化生成任务上，warm-cache 下每次目标模型前向提交 3.60-7.77 个 token，比 SuffixDecoding 最高快 1.99 倍、比 prompt-lookup decoding 快 7.0 倍；Spider 上 prefetcher 以候选预算 16 覆盖 Qwen3-8B 96.6% 的结果，rollout 吞吐提升 1.38 倍。
一个从随机初始化、无预训练权重开始训练的 GPT 风格语言模型项目，使用约 1MB 的 TinyShakespeare 文本（1,115,394 字符、65 个字符类别），字符级 tokenize，模型 3.24M 参数，上下文窗口 256 字符。经 next-token prediction 预训练，选中的 exp_c_small 配置验证损失 1.4338、测试困惑度 6.19，并通过 React 前端与 Vercel serverless 后端以纯 JavaScript 逐字符流式输出。
Dharma AI 在 Hugging Face 博客预览 VocabX 论文结果：按每个 token 的成本而非频率重建词表，在不改基座模型、数据和训练配方的前提下，将基于 Qwen3-4B 的葡萄牙语作文自动批改器实测推理成本降低 77.0%。响应平均从 350 降到 101 个 token，bench 分数从 0.703 升到 0.810，LM head 从约 152,000 行缩到约 65,000 行；在 5 个公开领域和 Qwen3、Llama-3.1、Gemma-3 三个模型族的 15 种组合中，压缩率和估算推理成本均领先 FVT、MWT 和 in-place BPE 三个参照方法。
推荐理由：作者用同一基座、同一训练配方做对照实验，把成本按读写分别计价，方法思路可迁移到其他单一领域的专用模型。
arXiv 论文 arXiv:2610.21300 研究如何让医疗设备法规文档评估中每个环节确定性可复现。对十四个商业模型部署重复发送同一请求，所有部署至少有一个请求结果不一致，十二个的标签发生变化；降低推理量未减少差异，注入检索段落仅对最小模型有效，同一开放权重模型是否可复现取决于服务方式。作者构建了从文本提取、OCR、分块、嵌入、索引、检索到推理全链路确定性的流水线，在血糖仪和输液泵文档上跨重跑、中断、编辑、同型号 GPU 机器和不同日期均返回字节级相同输出；OCR、嵌入与近似检索在服务方式不固定时仍有差异，输出随 GPU 型号和推理引擎调度设置变化，因此后者应记入配置。
推荐理由：论文给出了十四个商业 LLM 部署的可复现性实测数据，并提出一套逐阶段确定性的文档评估流水线，可直接迁移到审计场景。
PUC-RIO 课程项目开发并评估了一个审计 Power BI PBIP 格式项目的工具，从 model.bim 读取模型定义，应用九条建模、性能与 DAX 规则，并由本地运行的 7B 参数语言模型结合 1,420 页 Microsoft Learn 语料生成解释。在七个公开项目上评测：规则精确率和召回率达 0.88，61 条解释全部引用了相关文档段落；但仅 52% 的解释忠实于文档、38% 可直接使用。结论是可信度应放在确定性部分，生成的解释仅作分析师复核的草稿。
appendix0 发布 PincerCraft，一个基于 Mindcraft 和 Mineflayer 的 Minecraft harness 项目，用于研究 Agent 在开放世界长时程任务中的可靠性，harness 负责世界状态观测、动作前置条件检查和独立于 Agent 自报的完成验证。在使用 Claude Sonnet 4.6 的 356 次实验中，完整 harness 配置验证成功率为 67.3%、虚假完成率 3.8%，而关闭 harness 组件后为 29.4% 和 45.1%；项目基于 Node.js 20 与 Java 版 Minecraft 服务器，MIT 许可开源。
推荐理由：作者用同一模型对比了完整 harness 与关闭组件的结果，给出了验证成功与虚假完成的具体比例，方法可迁移到长时程 Agent 可靠性研究。
htang7415 在 GitHub 发布 MaxionBench，一个针对 LLM serving、RAG 和 Agent 的可复现决策评测框架，对比 llm-d 路由的自托管 vLLM、受管 Gemini API 及其混合方案。v0.4 基于 GitHub Copilot 生产流量（301k 会话、中位提示 57k token）实测五种上下文策略：仅 summarize 在校正后判分下准确率显著更高（+20 点），裁写历史会丢失 Gemini 隐式前缀缓存，而缓存感知变体保留约一半缓存、成本比 full 低 17-29%；v0.5 将策略移入 Go 网关后，Gemini 计费 token 减半且准确率未降。
推荐理由：作者用带置信区间的重复实验量化了不同上下文策略在准确率、API 成本和服务端 KV 压力上的取舍，方法可复用。
BEV 感知模型依赖稀疏 3D 卷积与几何 scatter 操作，现有推理运行时无法表示，且稀疏卷积库均为 CUDA-only 并与 PyTorch 耦合。论文提出 BEVPIPE 框架，将模型切分为运行时管理的稠密子图和 voxelizer、sparse encoder、BEV projector 三个外部算子扩展，通过共享 GPU 内存连接。BEVPIPE 实现相比传统部署 19.5x 的端到端加速，保留 98.5% 的参考 mAP，并可跨不同 GPU 后端移植。
Hans Schabert 在 arXiv 发布论文（2610.07817），提出通过 MCP 服务器逐步下发流程步骤、每步返回结构化 step_output，让 Agent 执行过程可预测可审计。在 13 个 SOP-Bench 领域、四个开放权重执行器（Kimi K2.5 到 Ministral 3 8B）共 15475 次试验中，流程遵循率从 76-95% 升至 95-99%，无依据答案从 2.1-4.5% 降至 0.2-0.3%；小型执行器 grounded 准确率提升 6.5pp，而强模型以小幅原始准确率下降换取可审计流程。论文共 14 页、12 张表。
作者发布论文配套软件工件 BOPIS，用贝叶斯优化与 Pareto 选择在 llama.cpp 运行时配置空间中搜索每 prompt GPU 能耗最低的设置，同时保持推理速度与输出质量，并与未优化默认配置和随机搜索基线做三方验证。搜索范围覆盖 Qwen2.5-Instruct 0.5B/1.5B/3B/7B 与 F16、Q8_0、Q4_K_M 精度组合，支持 llama-server、Ollama 和模拟后端；测量核心仅用 Python 标准库，BERTScore 评分作为独立离线阶段。对无功耗传感的 GPU（如 MX330）提供基于资源占用的估算模式并标注 energy_scope，文档还记录了论文第三章的多处修正，包括 Expected Improvement 公式符号写反等问题。
作者开源 SLM-agent-Lab，用 4 个确定性工具、300 个精确答案任务和 13 类失败分类法评测小型工具调用模型。在 150 任务子集上 Granite 4.0 350M 达 58.0%、Qwen2.5 0.5B 仅 31.3%，多步链式任务两者都接近崩溃（8% 和 4%），OOD 任务使 Granite 从 65.5% 跌至 29.0%。
推荐理由：实测给出 Granite 4.0 350M 与 Qwen2.5 0.5B 的工具调用失败分布，并量化到 int4 时格式保真才是精度下限。
dzaragoza 发布 LLM-benchmark 仓库，配套独立研究 Small Models, Big Claims（DOI: 10.5281/zenodo.22855666），测量在集成 GPU 上经 llama.cpp Vulkan 后端从系统内存运行的小型 instruct 模型。
推荐理由：作者把整套基准流程做成一条命令加两个离线选型页，读者可复用其量化阶梯与读速门槛方法来挑选本地小模型。
论文提出 Nexus，一个将每次调用视为持久任务的云边执行平台，采用基于 OpenWrt 的运行时和 run-scoped delegation 实现对 Computer 与 Mobile 环境的授权访问。
GitHub 开源项目 Matched-Budget-GraphRAG-Benchmark 在固定预算下评估检索质量与 LLM 抽取成本，对比 Random、KET-RAG、LazyGraphRAG 和 FastGraphRAG 四种分块选择策略，基于 HotpotQA 和 MuSiQue 数据集。