跳到正文
10月25日周日
  1. GitHub · 3D 生成新仓库59

    NeurIPS 2026 论文揭示上下文压缩中的 LLM 规模悖论,开源诊断数据集与提示词

    清华、百度等机构在 NeurIPS 2026 发表 When Less Is More,发现 compressor-decoder 有损压缩中的 Size-Fidelity 悖论,覆盖 27 组配置(9 个模型规模 × 3 种压缩率):更大压缩器重构误差更低但忠实度下降,中型压缩器常优于大模型。论文归因于知识覆写(如白色草莓被改写为红色草莓)与语义漂移(如 Alice hit Bob 被改写为 Bob hit Alice),64× 压缩下 LLaMA 从 3B 扩到 90B 时知识覆写 QA 从 0.62 降至 0.53、语义漂移 QA 从 0.41 降至 0.28。

    推荐理由:论文用 27 组压缩器配置给出压缩保真度非随规模单调的证据,并公开了诊断数据集与 QA 生成提示词,方法可复用于其他压缩评测。

10月23日周五
  1. Reddit · r/LocalLLaMA45

    ReaDy:用循环状态作为动态上下文加速混合线性注意力大模型投机解码

    论文提出投机解码方法 ReaDy,首次利用混合线性注意力(HLA)模型的循环状态为每个草稿位置检索位置特定上下文。基于 DSpark 骨架与两阶段适配策略,在数学、代码生成与对话七项基准上,ReaDy 以 Qwen3.8-27B 在单块 NVIDIA B200 上实现平均 3.16× 解码加速,吞吐较 DSpark 提升 7.97%,接受长度提升 8.50%,代码已在 GitHub 和 HuggingFace 开源。

10月22日周四
  1. Hugging Face Blog59

    Hugging Face 博客预览 VocabX 方法:按成本而非频率特化词表,将葡语作文批改器推理成本降低 77%

    Dharma AI 在 Hugging Face 博客预览 VocabX 论文结果:按每个 token 的成本而非频率重建词表,在不改基座模型、数据和训练配方的前提下,将基于 Qwen3-4B 的葡萄牙语作文自动批改器实测推理成本降低 77.0%。响应平均从 350 降到 101 个 token,bench 分数从 0.703 升到 0.810,LM head 从约 152,000 行缩到约 65,000 行;在 5 个公开领域和 Qwen3、Llama-3.1、Gemma-3 三个模型族的 15 种组合中,压缩率和估算推理成本均领先 FVT、MWT 和 in-place BPE 三个参照方法。

    推荐理由:作者用同一基座、同一训练配方做对照实验,把成本按读写分别计价,方法思路可迁移到其他单一领域的专用模型。

10月21日周三
  1. arXiv · cs.CL25

    Africa-Papers:面向非洲基础语言模型的 100 亿 token 多领域学术语料库

    研究者发布 Africa-Papers,这是迄今最大的多领域泛非学术预训练语料库,包含 844,807 篇全文论文、共 10.15 billion tokens,分 879 个 Parquet 分片,涵盖 DOAJ 非洲期刊、CGIAR CGSpace 农业库、arXiv 非洲作者预印本及 OpenAlex 开放获取论文四大学科来源。语料以保留章节结构、公式和表格的干净 Markdown 格式发布,配有精确 BPE token 计数和 8 域分类体系,已在 Hugging Face Hub 的 AfriSpeech 组织下开源,用于支持非洲基础模型的持续预训练与领域评测。

  2. GitHub · 3D 生成新仓库34

    VeriContest:面向 Rust + Verus 可验证代码生成的竞赛编程 Benchmark 开源

    HIPREL-Group 开源可验证代码生成 benchmark VeriContest,基于 Rust 与 Verus,当前包含 1,006 道题目(722 道 LeetCode、284 道 Codeforces),每题配有形式化规范、judge 通过的 Rust 代码及 Verus 验证过的证明。数据集完整发布在 Hugging Face(Gax-c/VeriContest),另有固定 300 题的 VeriContest Lite 子集;仓库现已开放 Model 与 Agent 两个赛道的提交,以 pull request 形式进行,支持 SpecGen、CodeGen、ProofGen 和 End2End 四种评测。论文配套版本(arXiv:2605.08553)的主要评测使用 946 题范围。

10月20日周二
10月17日周六
  1. Reddit · r/LocalLLaMA36

    28 KB 激活探针可判断 AI 智能体是“准备待审”还是“直接执行”

    一位开发者训练了一个仅 28,708 字节的 logistic 激活探针,用于区分用户是让智能体准备动作还是批准执行。在 3,000 个测试样本上探针达到 0.8137 AUROC,高于同数据训练的文本分类器的 0.7897(p=0.0150)。测试中 MiniCPM5-1B 表现最好,有效信号来自第 13、14 层中间输出而非最后一层,探针可作为硬权限门之外补充的意图判断信号。

10月14日周三
  1. GitHub · 3D 生成新仓库42

    InfoVis:基于 FLUX.2-klein 微调的统一 9B 幻灯片图像生成与编辑模型开源

    VectorSpaceLab 发布 InfoVis,一个由 FLUX.2-klein-base-9B 微调而来的 9B 统一模型,支持文生幻灯片、模板条件生成、多图像引用生成与指令编辑四类任务。模型在自建评测集 VisSlideBench(1,527 个人工筛选案例)上取得 7.94 总分,超过 Nano-Banana-2 的 7.99 之外的开源模型,在全部 11 项指标上领先所评测的开源模型。代码、权重、评测代码与训练数据已开源于 GitHub 与 Hugging Face,权重遵循 FLUX 非商业许可。

10月13日周二
  1. GitHub · 去对齐工具与仓库42

    LlamaIndex 发布 ParseBench:评估 PDF 解析工具对 AI 智能体可用性的基准

    LlamaIndex 发布 ParseBench,评估文档解析工具将 PDF 转为可供 AI 智能体使用的结构化输出的能力。基准覆盖约 2,000 张人工核验的企业文档页面(保险、金融、政府),按表格、图表、内容忠实度、语义格式、视觉定位五个维度评测,排行榜前十中 LlamaParse Agentic Plus 以 90.20 分居首。数据集已在 HuggingFace 开源,支持 180+ 条 pipeline。

10月11日周日
  1. GitHub · 3D 生成新仓库43

    TerraVis 开源发布:评估生成图像世界一致性的 NeurIPS 2026 基准

    Adelaide University 团队发布 TerraVis,用 VLM 裁判检测生成图像中 18 类世界一致性违规,输出 (0, 1] 区间的一致性分数。该项目已被 NeurIPS 2026 Evaluations and Datasets Track 接收,并在 COCO-T2I 和 GenAI-Bench 上收集了 13,500 条人工标注,覆盖 GPT Image 1.5、Nano Banana Pro、FLUX.2 [dev]、Qwen-Image-2512、Stable Diffusion 3.5 Large 五个模型的 4,500 张图像。仓库还集成 13 种常见 T2I 指标,标注数据已上传 Hugging Face(约 7 GB),并提供在线评测器。

10月10日周六
  1. GitHub · 灵魂体仓库26

    tugcantopaloglu/question-answering-nlp:用 dbmdz/bert-base-turkish-cased 评估土耳其语问答检索

    该研究项目评估 dbmdz/bert-base-turkish-cased 模型能否通过问题嵌入从固定候选池中检索配对答案,使用 merve/turkish_instructions 数据集,仅做推理与余弦排序,不训练模型。历史记录显示其在随机抽取的 1,000 对上 top-1 为 3.50%、top-5 为 4.90%。项目提供维护的命令行脚本,支持 CPU/GPU 推理,可固定采样种子并将结果保存为 JSON。

  2. GitHub · 去对齐工具与仓库61

    WhoFlips 论文开源:反方论证如何让大语言模型放弃正确答案

    WhoFlips 论文(arXiv:2606.16011)开源配套仓库与数据集,用两阶段协议测量 LLM 答案稳定性:先让模型为错误选项写论证,再用该论证挑战其原本正确的答案。实验覆盖 GPT-5.1、Gemma-4-26B、Llama-3.1-8B、Llama-3.3-70B 和 Qwen3.5 系列,变量包括论证长度 k ∈ {1,3,5,10}、归属(盲/自)与来源(同模型/跨模型),解码温度为 0 并禁用推理。数据集 nafisehNik/WhoFlips 约 1.18 GB、约 20.3 万行,含 self_mmlu、cross_mmlu 和 maxflip_mmlu 三个子集,CC BY 4.0 许可,每行保留两阶段完整信息可直接重算 AFR 等指标。

    推荐理由:论文配套仓库同时放出了完整代码、复现脚本和约 203k 行的公开数据集,读者可直接复核答案翻转指标而不必重跑实验。

10月9日周五
  1. GitHub · 去对齐工具与仓库61

    llm-bayesian-coherence:用贝叶斯相干性证书检测语言模型事实概率是否自洽的开源工具

    GitHub 用户 trhlikfilip 发布 llm-bayesian-coherence 工具,检验因果语言模型的事实条件概率能否来自同一联合分布。核心是 Emerson (2026) 提出的四元组对数比证书,LR 不为 0 即证明两个方向的条件概率不相容;仓库提供 run.py、scorer.py、certificate.py 等 23 个测试覆盖的完整流水线,以及来自 Wikidata、ConceptNet 和 WordNet 的 140,751 个四元组(约 603,000 个 prompt-continuation 对),支持任意 Hugging Face 因果语言模型,输出 LR、F、B、R、K 等指标,并带评分缓存与断点续跑。

    推荐理由:工具把概率一致性检验做成了可直接运行的开源命令行,附带 14 万四元组数据和缓存续跑设计,便于复现和移植。

10月8日周四
  1. GitHub · 灵魂体仓库57

    Explicit Edit 基准发布:226 个字节级精确任务评测 coding agent 的文件编辑准确率

    alexshpunt 在 GitHub 发布开源基准 Explicit Edit,用 226 个确定性、字节级精确的任务衡量 coding agent 和 harness 的文件编辑准确率。任务故意做小,不含深度推理或领域知识,覆盖替换、插入、删除、移动、大文件、多文件类型和 Unicode 边界情况,由校验器逐字节比对结果。

    推荐理由:这个基准用字节级精确校验把编辑准确率和推理能力分开测,读者可以按同一任务集横向对比不同 agent CLI 和 harness。

  2. arXiv · cs.CL33

    BanglaRhet:评测经典与 Transformer 模型在孟加拉政治演讲中的修辞与说服检测

    研究者发布 BanglaRhet 基准,基于 30,289 段人工标注的孟加拉政治演讲语料,开展修辞手法与说服技巧检测两项单标签分类任务。在 BanglaBERT、BanglaBERT-Base、SahajBERT、XLM-RoBERTa-Base 与 TF-IDF 经典基线的对比中,BanglaBERT 表现最佳,两项任务分别取得 65.40% 和 66.46% macro-F1,超过最优经典基线 19.2 和 13.8 分。错误主要源于标签语义重叠、比喻语言和类别不平衡。

  3. GitHub · 灵魂体仓库60

    MIT 团队发布 HugAgent 基准:评估大语言模型能否模拟具体个人的推理与信念更新

    MIT Media Lab 等机构在 EMNLP 2026 发布 HugAgent 基准,评估大语言模型能否仅凭本人访谈话语模拟具体个体的推理与信念更新,含信念状态推断(BSI)和信念动态更新(BDU)两个任务。基准基于 54 名参与者、3 个争议领域共 1,742 个条目,已以 gated、CC BY-NC 4.0 协议发布在 Hugging Face(social-atoms/hugagent)。结果显示模型较能恢复个体信念(最佳模型比人类上限低 7 至 9 分),但预测个体如何改变立场明显偏弱,最佳模型 68.6% 对人类的 85.7%,且该差距在所有被测模型家族中都存在。

    推荐理由:基准测出模型能推断个体信念却难以预测其转变,榜单和评测脚本都开放,结果可直接复跑。

10月7日周三
  1. Hugging Face Blog79

    Nemotron 3 微调后达到 IMO 2026 与 IOI 2026 金牌水平

    NVIDIA 基于 Nemotron 3,通过 SFT、RL 和反馈驱动推理分别构建了达到 IMO 2026 和 IOI 2026 金牌水平的系统。IOI 2026 上 Nemotron-3-Ultra-CC 得 535.4/600,高于 361.12 的金牌线和 498.27 的人类最高分;IMO 系统用 SFT 与 RL 检查点加 generate-verify-refine 流程得 30/42,超过 29 分金牌线,全程仅用自然语言,无形式化证明器或外部工具。SFT/RL 检查点、训练数据集、含 200 道竞赛题的 Nemotron-IMO-Bench 及 NeMo-Skills 推理管线已在 Hugging Face 开放。

    推荐理由:原文完整给出了两个项目的训练数据规模、各阶段分数和可复用的四步特化配方,权重、数据和推理管线都已开放。

  2. GitHub · 去对齐工具与仓库52

    marin-research-tools 发布 Zero to Cited 研究:全新作者身份 6 天内首次被 LLM 引用

    marin-research-tools 仓库发布 Zero to Cited in Six Days 单体测量研究:虚构奇幻作家身份 Marin T. Kael 于 2026-05-11 上线,23 天内每日轮询 5 个联网 LLM、16 个标准化问题,产出约 16,000 个评分数据点,T+6 天出现首次有来源引用,T+4 天进入 Google Knowledge Graph。

  3. GitHub · 去对齐工具与仓库40

    Rami2212/PSSN-LLM-Reasoning:基于 Qwen3 提升 LLM 推理效率

    GitHub 仓库 Rami2212/PSSN-LLM-Reasoning 提出了用于提升 LLM 推理效率的 Predictive Semantic State Navigation(PSSN)项目,基于未量化 Qwen/Qwen3-4B 模型,在 Hugging Face GSM8K 数据集与 Google Colab 上搭建。项目包含 CoT 基线、答案抽取与准确率评估,默认生成长度 1,024 tokens,使用 BF16(不支持时 FP16),初始实验在固定 seed=42 的 75 题 GSM8K 开发子集上运行,结果以 JSONL 记录 token 数、延迟和 CUDA 峰值内存。

  4. Reddit · r/LocalLLaMA59

    21M 模型外挂 6.4B 参数查找表,效果匹敌 114M 稠密模型

    一位 Reddit 用户公开了业余研究项目:给 21M 模型外挂 16.8M 行、共 6.4B 参数的学习向量查找表,每 token 只读 33M 参数,效果与同在 500M Wikipedia tokens 上训练的 114M 稠密模型相当。

    推荐理由:作者公开了完整代码、模型和失败记录,还给出 SSD 内存映射下 140 tok/s 的实测数据,可复现成本仅约 70 美元。

10月6日周二
  1. Reddit · r/LocalLLaMA70

    闭式轨迹权重手术:将 Qwen 3.5 4B 能力迁移到 0.8B 而无需数十亿 token

    作者提出一种跳过反向传播的闭式轨迹匹配方法,用少量校准提示词和正则化最小二乘直接求解学生模型 MLP 权重,将 Qwen 3.5 4B 能力迁移到 0.8B。

    推荐理由:作者给出跳过反向传播的闭式权重迁移方法,并附上失败分析与修复细节,代码和权重均已开源可复现。

  2. GitHub · 去对齐工具与仓库62

    基于 QLoRA 微调 Qwen2.5-7B-Instruct 处理 CUAD 合同条款分类与问答的开源项目

    作者开源了一个用 QLoRA 在 CUAD(510 份商业合同、35 类条款)上微调 Qwen2.5-7B-Instruct 的项目,覆盖条款分类和有依据的条款问答两项任务,LoRA 适配器(165 MB)已上传 Hugging Face(PimoLee5/qwen2.5-7b-cuad-qlora)。

    推荐理由:原文给出基座、3-shot 与微调三组对照的完整指标,并人工审计幻觉标记,可看清微调带来的召回与校准收益及其代价。

9月29日周二
  1. Hugging Face Blog35

    ProvenanceGuard:面向 MCP 智能体的来源感知事实性验证方法

    Hugging Face 团队提出 ProvenanceGuard,一个针对 MCP 智能体的生成后验证层,用于解决“跨来源混淆”——事实存在但被归因到错误来源的问题。它保留 MCP trace 中的来源 ID,逐条检查声明与来源的匹配,在 281 条真实医疗 trace 上,专家标记的 139 条不应通过的声明中拦下 138 条,来源识别准确率约 86%,并支持 RARR 式修复。