按兴趣浏览，循来源深入。
Badrodro 发布 llm-4bit-quant-formats 仓库，在 Qwen2.5-0.5B、Qwen2.5-1.5B 和 SmolLM2-1.7B 上以 WikiText-2 与 C4 困惑度对比多种 4-bit 权重量化格式。结果显示等困惑度下 trellis 编码比 NVFP4 少需 11–17% 比特、比 INT4 g128 和 MXFP4 少约 15–20%，但加随机 Hadamard 旋转的标量 Lloyd-Max 量化器已能达到 trellis 增益的 6–9% 以内，未达到预先设定的 10% 阈值，因此非均匀标量格式加旋转在更低解码成本下已捕获大部分收益。测试仅覆盖权重、round-to-nearest、0.5–1.7B 小模型，无校准数据与速度能耗测量。
推荐理由：作者预先设定了10%的决策阈值再实测，读者可以据此判断trellis量化是否值得在硬件里加解码器。
tatra-labs 发布 nano-pixelmoe，用约 260 行代码独立实现 PixelMoE 论文（arXiv:2610.18857）方法，将 LLM 式 mixture-of-experts 原样迁移到无 VAE、无 tokenizer 的像素空间扩散。实现在 RTX 5060 Laptop 上训练，CIFAR-10 上 64.2M 参数（每 token 激活 27.0M）FID 26.43，与匹配激活参数的 dense 基线 26.73 在 10k 样本噪声范围内持平；展示了无辅助损失的负载均衡（最忙专家为平均负载 1.6 倍）及专家按内容和噪声水平分工的路由图。作者指出论文的收益出现在 200M+ 激活参数规模，并附完整训练与采样命令。
推荐理由：作者在单卡笔记本 GPU 上复现了 PixelMoE 的 MoE 路由机制，并给出与 dense 对照的 FID 数据和平衡路由结果，代码可自行训练。
一篇 arXiv 论文提出用 16 MB 冻结 512-bit 编码表替代可训练嵌入层，经主成分投影和符号二值化得到，无任何可训练参数。在 Gemma 3 270M 形状模型上，可学习词表花 2.6 倍可训练参数只换来 0.20 nats 验证损失改善，而冻结词表模型在 LAMBADA、HellaSwag、PIQA 上持平或更好，仅 ARC-Easy 落后；在罕见词上反超 1.7 到 2.3 nats，训练后新增 10,000 词仅损失 3%，可学习词表则崩掉 43%。配合 ternary BitNet b1.58 主体，整个模型仅 46 MB，在笔记本 CPU 上以 62 MB 内存生成 615 到 740 tokens 每秒，速度是 float 模型 8-bit GGUF 的五到六倍、内存为其七分之一。
推荐理由：论文用同一训练设置对照验证冻结 16 MB 词表的效果，并给出 LAMBADA、PIQA 等基准与 CPU 生成速度数据，权重和评测全部开放。
richajoy 在 GitHub 发布 llm-inference-performance 仓库，用 NVIDIA Dynamo、vLLM 和 Kubernetes 在 H100 上部署 Qwen3-8B，逐项改变负载、路由、分离式部署、自动扩缩和引擎设置并测量 TTFT、TPOT、吞吐与容量。
推荐理由：原文用字节与 FLOPs 从第一性原理解释每个调优参数为何影响 TTFT、TPOT 和吞吐，并给出可复现的基准数据与修正记录。
arXiv 论文提出通过40个日常问题（如“说出一种声音”“说出一位诗人”）的单字答案为语言模型建模指纹，在94个模型的面板上识别出确切模型的准确率为92.5%，随机仅为1.1%；系统提示词会使准确率下降6至16个百分点。作者用该方法检测 OpenRouter 上13个开放模型的96个端点，其中92个与其声称的模型一致，一个端点以 Llama 4 Maverick 之名实际提供 Gemma 4（自报身份且计费按 Gemma 4 的 token 数）；计费记录还显示第一方模型被附加了额外上下文，如 Grok 4.7 对一行问题计费1,247个输入 token，而 GPT-4o 同样问题仅12个 token。方法成本每端点仅几美分，代码与数据已公开。
推荐理由：这篇论文展示了用40个单词答案就能指纹识别API背后的模型，还借计费记录发现OpenRouter上有端点冒名和隐藏注入上下文，方法成本极低可复现。
论文提出 WildAWM，一条用开源模型合成计算机使用智能体（CUA）可执行环境与任务的流水线，环境同时支持 GUI、MCP 服务和命令行三种交互接口。流水线产出 341 个长程环境任务对，部分需超过 100 步求解，GPT-6-Astra 仅解出 60%；仅在这些合成环境中训练的两个不同规模 Qwen 模型，在 8 个覆盖 web、claw 和 computer-use 的域外基准上均取得明显提升，代码已公开。
推荐理由：论文给出用开源模型合成计算机操作环境的完整流水线和质量门方法，训练效果覆盖 8 个域外基准，方法可迁移到环境合成类工作。
团队发布 ORL（On-Policy Residual Learning）研究并全量开源，用 on-policy 残差学习和 Adjacent Entropy Contraction 让扩散语言模型在更少前向传播内收敛更多 token。配合自研推理引擎 dlmrt，LLaDA-2.1-mini + ORL 在单张 RTX 5090 上达 2,788 tokens/s（NVFP4），DiffusionGemma 26B MoE 达 7,708 tokens/s（8× B200）；QwenDLM-4B 端到端吞吐提升约 6.9×，HumanEval pass@1 从 82.9% 升至 89.6%，单 H100 上 1,298 tokens/s，快于 DFlash 的 746 和 EAGLE3 的 405。
推荐理由：原文给出各模型吞吐、HumanEval 前后对比和与 DFlash、EAGLE3 的同精度对照，可复现的代码和权重也已开放。
NVIDIA 与 IIT Madras 的 AI4Bharat 推出 Nemotron-pretraining-Indic-v1，约 2.8 万亿 token 覆盖 22 种印度宪法语言，含 22 种语言本族文字数据和 12 种语言的罗马化数据，共 34 种语言-文字配置。流水线用 NeMo Data Designer 和 Gemma-4-31B-it 做文档级翻译、MQM 风格质量评估（保留 75/100 以上）与定向修复，每条记录可溯源，生成配方开源可复用；另十种语言采用 Bodhan AI 的 Indic Translate。Nemotron 3.5 Super VL 用其中 12 语言子集加 100 亿 token 做 CPT 后，五个 Indic 基准提升 4.98 至 9.82 个百分点。
推荐理由：完整公开了 2.8 万亿 token Indic 语料的生成配方和质量门槛，团队可复用其翻译与修复流水线迁移到自己的语种。
arXiv 论文（arXiv:2610.19614）提出将 LLM Agent 轨迹视为动作与环境观测共享嵌入空间中的路径，同一任务的成功与失败 rollout 在该空间中可分离，简单判别器在三个 Agent 基准和三个策略模型上预测 held-out rollout 结果最高达 0.95 AUROC。作者进一步推出基于 transformer 的 Precog-RM，通过元学习使结果预测可在 few-shot 设定下泛化到未见任务和模型，并在轨迹终止前给出置信预测。部署为 GRPO 在 Tau2-Bench 上的早停控制器时，最多削减 47.3% 训练 FLOPs 且性能与基线 GRPO 相当。
推荐理由：论文给出跨三个基准和三个策略模型的 AUROC 数据，并量化了 GRPO 训练最多省 47.3% FLOPs 的收益。
UC San Diego 等机构在 arXiv 发布 JetSpec++，通过块内自修正、块间前瞻草拟和草拟与验证流水线重叠，将草拟的边际耗时降到接近零。相比自回归解码最高加速 7.45 倍，相比 DSpark 最高 1.54 倍，在 GB200 上单请求达每秒 1,361 token，七个基准平均接受长度 8.94，且保持目标模型输出分布。代码与模型已开放。
推荐理由：论文给出 JetSpec++ 的三个组件和与 DSpark、自回归解码的加速对比数据，读者可据此评估该推测解码方案的适用性。
GitHub 新仓库 NavinYP/synthlore 发布，用于生成内部一致的虚构宇宙语料并配数学验证的 Q&A 基准，参考运行含 415 篇文档、约 511,025 词、571 个原子事实。系统分四层：因果宇宙引擎、约束驱动的事实规划器、多格式编译渲染、闭环验证，并针对三个合成 RAG 常见问题：把 24 条两跳链拆分到不同文档避免桥接节点捷径、定量图表用 matplotlib 程序化绘制并用 gpt-image-2 生成图配 Vision LLM 门控验证、真值只放 Tier-1 正典而错误说法植入 Tier-3 琐记以考察来源可信度推理。
推荐理由：开源的合成语料与 RAG 评测生成器，把多跳、多模态、来源冲突三条评测轨道的约束写进规划层，并用 10 项验证门审计输出。
WhoFlips 论文（arXiv:2606.16011）开源配套仓库与数据集，用两阶段协议测量 LLM 答案稳定性：先让模型为错误选项写论证，再用该论证挑战其原本正确的答案。实验覆盖 GPT-5.1、Gemma-4-26B、Llama-3.1-8B、Llama-3.3-70B 和 Qwen3.5 系列，变量包括论证长度 k ∈ {1,3,5,10}、归属（盲/自）与来源（同模型/跨模型），解码温度为 0 并禁用推理。数据集 nafisehNik/WhoFlips 约 1.18 GB、约 20.3 万行，含 self_mmlu、cross_mmlu 和 maxflip_mmlu 三个子集，CC BY 4.0 许可，每行保留两阶段完整信息可直接重算 AFR 等指标。
推荐理由：论文配套仓库同时放出了完整代码、复现脚本和约 203k 行的公开数据集，读者可直接复核答案翻转指标而不必重跑实验。
作者 Chien-Hsin Lin 在 GitHub 开源 HeliosLM，一个从零实现的 PyTorch 参考实现，涵盖 MLA 注意力、sigmoid 门控 MoE、混合线性注意力、FP8 训练、DualPipe、投机解码与 vLLM 风格推理引擎，全部可在 CPU 上运行并有 115+ 单元测试和位级等价校验。仓库同时是 RLCD 决策层范式的开源参考，在 8.5M/360M/Qwen3-0.6B 三个规模上测量错误答案上的过度自信（0.94 到约 1.0），在 7,193 条实例的 RLCDAlignBench 上开源读出器达到 0.726 中位 AUROC，并在 11/41 项基准上超过商业 Jev 检测器的零样本成绩，配套论文草稿与版本化基准数据。
推荐理由：这是一个可读可改的 DeepSeek-V3 级架构 CPU 参考实现，并附带 RLCD 决策层的开源校准审计数据，适合想拆解模型内部结构的人。
Matěj Kripner 发布 NanoProof，据作者所知是首个训练数据、提取工具、训练管线和权重全部开源的因子化执行引导式 Lean 4 定理证明器。该方法在 MiniF2F-Test 上取得 50.8% pass@16，算力约为 HyperTree Proof Search 的 1/90、ABEL 的 1/7，比 AlphaProof 少四个数量级以上；论文同时发布了结构化证明树数据集和 Lean 4 程序化交互与数据提取工具。原文链接 https://arxiv.org/abs/2610.11605v1。
推荐理由：论文公开了训练数据、提取工具、训练管线和权重，读者可以低成本复现这一类 Lean 4 定理证明器并对比算力开销。
论文发布 PatchBench，指出安全补丁可能通过基准测试却压制无关行为，提出 PatchBench-Local 协议评测补丁的行为精确性。该协议从 27,870 个提示中筛选出 400 个高置信越狱失败案例，为每个有害源提示生成有害变体与两类良性邻居提示；对四种 activation steering 方法的评测显示全局能力几乎不变时局部良性回归可能很严重。论文已被 NeurIPS 2026 Datasets and Benchmarks Track 接收，地址 https://arxiv.org/abs/2610.10276v1。
推荐理由：提出用局部邻居提示区分选择性修复与局部压制的评测协议，可迁移到越狱修复方法的对比评估中。
NVIDIA 基于 Nemotron 3，通过 SFT、RL 和反馈驱动推理分别构建了达到 IMO 2026 和 IOI 2026 金牌水平的系统。IOI 2026 上 Nemotron-3-Ultra-CC 得 535.4/600，高于 361.12 的金牌线和 498.27 的人类最高分；IMO 系统用 SFT 与 RL 检查点加 generate-verify-refine 流程得 30/42，超过 29 分金牌线，全程仅用自然语言，无形式化证明器或外部工具。SFT/RL 检查点、训练数据集、含 200 道竞赛题的 Nemotron-IMO-Bench 及 NeMo-Skills 推理管线已在 Hugging Face 开放。
推荐理由：原文完整给出了两个项目的训练数据规模、各阶段分数和可复用的四步特化配方，权重、数据和推理管线都已开放。
arXiv 论文（arXiv:2610.07853）审计 BitNet b1.58、Falcon-E、BitCPM 等三值语言模型的导出管线，发现潜在权重先转 bf16 的流程会翻转部分三值码：已发布检查点中 Falcon-E 与 BitCPM 有 0.83-1.77% 的码不一致，BitNet 2B-4T 为 1.530%。在低学习率微调端点，该导出使 Falcon-E-1B-Base 的 greedy GSM8K strict accuracy 从 58.79% 跌至 0.78%，BitCPM-CANN-0.5B 从 36.13% 跌至 0.39%；直接写入训练量化器的码或微调 bf16 输入两种补救方案均在三个模型上达到 4 点非劣性标准。
推荐理由：论文审计了三家实验室的导出管线，指出 bf16 转换会抵消低学习率微调的代码改动，并验证了两种补救方案。
作者提出一种跳过反向传播的闭式轨迹匹配方法，用少量校准提示词和正则化最小二乘直接求解学生模型 MLP 权重，将 Qwen 3.5 4B 能力迁移到 0.8B。
推荐理由：作者给出跳过反向传播的闭式权重迁移方法，并附上失败分析与修复细节，代码和权重均已开源可复现。
一项回顾性研究用开放权重模型 gpt-oss-120B 构建流水线，将自由文本放射报告无人工监督地转为结构化报告，含 150 个分层模板，经三步受限解码选择模板并在单张 GPU 上本地运行。
推荐理由：论文用开放权重模型在单张 GPU 上无人工监督地结构化了整院放射报告存档，并给出模板选择与内容保真的量化结果。
arXiv 论文（arXiv:2610.03199）提出用专家模型 task vector 的方差作为干扰度指标，在合并前预测合并坍塌，在 4 个模型家族的 22 个合并配置中，只有破坏性合并超过该评分阈值；对 14 次合并的预测有 12 次正确。
推荐理由：论文提出可在合并前预测模型合并坍塌的评分指标，并给出无需数据或调参的修复算子 PRISM，附十四次合并的预测验证。