跳到正文
10月10日周六
  1. arXiv · cs.CL22

    FASD 方法解耦多模态大模型遗忘中的知识遗忘与拒答学习

    arXiv 论文提出 Forget-Aware Self-Distillation(FASD),针对多模态大模型遗忘评估只看停止输出导致的两类问题:抑制目标知识引发幻觉、拒答训练只是改变表面行为。FASD 分为行为与知识两条通道,前者从忽略提示的模型副本蒸馏拒答行为并掩蔽 target tokens,后者直接抑制 ground-truth 答案片段,实现"诚实无知":模型真正遗忘目标知识且能识别自身知识边界,同时保留数据性能。代码和数据将在论文发表后发布。

  2. GitHub · 灵魂体仓库42

    oold-llm-bench:OO-LD 面向 schema 约束 LLM 抽取的假设驱动基准

    OO-LD 发布 oold-llm-bench,一个衡量 LLM 在 schema 约束下抽取结构化数据质量的假设驱动基准。实验对比提示词、解码时约束、提交时约束等强制方式的组合,以 (entity, property, value) 三元组级 F1 打分,语料涵盖 schema.org、QUDT 和 Wiki-Measurements。代码采用 Apache-2.0,附浏览器 Playground 可逐步查看抽取结果与验证失败原因。

  3. arXiv · cs.CL39

    微调策略而非仅数据:面向 HR 推荐系统的嵌入模型性别与刻板印象偏差的统计学严格审计

    一项审计用 Bias-in-Bios 和 StereoSet 基准评估了六个多语言句子嵌入模型(LaBSE 与 E5 家族),并修正了 naive 显著性检验中的非独立性问题。结果显示 E5-Base 的知识蒸馏微调显著加大 Bias-in-Bios 偏差(Δ=-0.177,p<10⁻⁸),而二分类微调无统计学差异(p=0.218)。微调策略因此成为 HR 推荐系统设计的可操作杠杆。

  4. arXiv · cs.CL40

    基于均匀信息密度的偏好优化方法 UIDPO

    研究者将心理语言学理论 Uniform Information Density 引入大语言模型偏好优化,提出 UIDPO 算法,通过全局标准差与局部二阶差分组合度量信息均匀度并纳入优化目标。与此前 SOTA 方法 SimPO 相比,UIDPO 在 AlpacaEval2、ArenaHard 和 MT-Bench 上取得相当或更优的表现,代码仓库已开源。

  5. arXiv · cs.CL40

    Reward-Aligned Distillation(RAD):基于奖励对齐加权蒸馏信号提升 LLM 推理

    论文提出 Reward-Aligned Distillation(RAD),一种双层框架,通过预测每个 token 监督信号对学生模型更新后奖励的影响来加权 on-policy 蒸馏信号。在相同训练响应预算下,RAD 在六个竞赛数学基准上比最强基线提升 Qwen3-1.7B(non-thinking)6.5 个百分点、Qwen3-4B-Instruct-2507 2.5 个百分点;在 LiveCodeBench-v6 上,Qwen3-1.7B(non-thinking)与 OLMo3-7B-Instruct 分别达到 54.69% 和 58.67% pass@1,超过最强基线 8.7 和 6.4 个百分点。简化变体 RAD-Simple 在同等预算下取得相近数学准确率。

  6. GitHub · 灵魂体仓库22

    taharallouche/llm-from-scratch:从零实现 GPT-2 的学习仓库

    开发者 taharallouche 在 GitHub 上开源 llm-from-scratch 仓库,按 Sebastien Raschka 的《Build a Large Language Model (From Scratch)》一书从零实现 GPT-2,全程未使用编码助手。项目正在进行分类微调部分(WIP),改用 Hugging Face 开源数据集在平衡与非平衡数据上实验,发现左填充(left-padding)显著优于右填充。影评分类任务测试集 Accuracy 达 0.84,并记录了训练集疑似过拟合、需配置 AdamW weight decay 和 early stopping 的经验。

  7. GitHub · 灵魂体仓库29

    用 Claude 评测欺诈模型解释的真实性:fraud-explanation-faithfulness 实验

    作者在 GitHub 开源了 fraud-explanation-faithfulness 项目,用 Claude(Haiku,经 Claude Code CLI)为 3 万条合成身份欺诈申请上的逻辑回归模型(AUC 约 0.95)生成的解释打分。在 40 个被标记申请中,开放提示下 16 条解释(40%)引用了模型实际反对或忽略的理由;提供模型真实 top-3 理由的 grounded 提示则将问题降到 0/40。

  8. GitHub · 3D 生成新仓库50

    高效 LLM 代码生成系统性文献综述复现包 v2.0 发布

    高效 LLM 代码生成系统性综述(投稿 ACM TOSEM)的复现包 v2.0 发布,系统分析 141 项主要研究,覆盖 RQ1 数据准备到 RQ6 技术组合共六个研究问题,文献截止 2026-08-31。分类体系含 24 个细粒度类别,其中推理优化研究最多(63 项);对全部 141 项研究的 8 项报告合规审计显示,功能正确性覆盖 95%,但内存报告仅 21%。

  9. GitHub · 3D 生成新仓库27

    RCFM 开源:区域感知条件 Flow Matching 用于跨模态生理信号生成

    GitHub 新开源项目 RCFM(Region-Aware Conditional Flow Matching)可从降导联 ECG、PPG、雷达心动图(RCG)等异构源信号生成诊断级 ECG 波形。方法包含 1-D U-Net 条件编码器、区域感知速度损失和可选 minibatch 最优传输耦合,支持 ppg2ecg、rcg2ecg、ecg2ecg 三类任务。数据采用 128 Hz 预处理 NumPy 窗口,论文发表于 IEEE IOTJ,公开版本仅限 RCFM-OT 配置。

  10. GitHub · 3D 生成新仓库23

    design-preference-lab:一个探索“设计质量指标是否等于人类偏好”的研究小工具

    GitHub 新仓库 design-preference-lab 是一个本地运行的独立研究应用:输入活动海报需求,生成两套结构化 SVG 排版,用户投票偏好后查看结构化检查结果,用于探究“可测的设计质量是否等于人类偏好”。项目要求 Python 3.11+,无运行时依赖和 API key,目前只有本地模板基线,尚无训练好的生成器、学习型评估器或云端部署,与 Canva 无关。它是生成器训练与学习型评估项目的第一部分,路线图包括 LoRA 适配、量化适配、多模态偏好模型和 reward-hacking 实验。

  11. GitHub · 灵魂体仓库10

    优化大语言模型在多任务环境中的上下文推理:论文代码仓库上线(待发布)

    一个与论文 "Optimizing Large Language Models for Contextual Reasoning in Multi-Task Environments" 对应的 GitHub 代码仓库已创建,但目前状态为待发布。论文提出优化策略以增强 LLM 在多任务场景下的上下文推理能力,正处于 COAI 2025 审稿中。仓库未来将提供完整实现、实验代码、benchmark 结果、预训练模型 checkpoint 及文档教程。

  12. GitHub · 灵魂体仓库23

    spaldingpitzenur80-hash/llm-adaptive-learning:LLM 动态环境自适应学习策略实现(ICML 2025)

    该仓库收录论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments"(ICML 2025)的实现,让 LLM 在动态环境中实时调整参数和行为,且无需完整重训。框架包含自适应参数更新、动态记忆管理、环境检测和防灾难性遗忘的稳定机制。在四类动态环境评测中均超越基线,如主题切换从 72.3% 提升至 89.7%(+17.4%),时序变化场景提升 +19.1%,项目采用 Apache 2.0 许可证开源。

  13. GitHub · 灵魂体仓库18

    GitHub 开源仓库 enhancing-llms:用高级微调技术提升大语言模型性能

    GitHub 仓库 enhancing-llms 公开了论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现与实验,探索面向领域任务的新微调方法。该方法在 GLUE 上从基线 84.2% 提升至 92.5%(+8.3%),在 SuperGLUE 上从 76.8% 提升至 89.3%(+12.5%)。项目提供训练、评估脚本与实验配置,采用 MIT 许可证开源。

  14. GitHub · 去对齐工具与仓库10

    优化 LLM 多任务环境下的上下文推理:论文配套代码仓库(待发布)

    John Smith 等人的论文《Optimizing Large Language Models for Contextual Reasoning in Multi-Task Environments》正在 COAI 2025 审稿中,其 GitHub 实现仓库标记为待发布状态。仓库将陆续放出优化策略实现、实验代码、benchmark 结果、预训练模型 checkpoints 及文档教程。

  15. GitHub · 去对齐工具与仓库20

    llm-adaptive-learning:ICML 2025 论文的大语言模型动态环境自适应学习实现开源

    GitHub 仓库 eagernova66/llm-adaptive-learning 开源了 ICML 2025 论文《Adaptive Learning Strategies for Large Language Models in Dynamic Environments》的实现,让 LLM 在动态环境中实时调整行为且不发生灾难性遗忘。方法在多类动态环境上验证:相比 baseline,话题切换场景准确率从 72.3% 提升到 89.7%(+17.4%),时序变化场景从 69.8% 提升到 88.9%(+19.1%)。项目采用 Apache 2.0 许可证,包含自适应训练、动态环境评测与模拟脚本。

  16. arXiv · cs.CL33

    LongHisDoc:首个中文长篇历史文档理解基准发布

    LongHisDoc 是首个面向长篇(整本)中文历史文档理解的基准,包含来自 101 份 PDF 的 1,012 条专家标注 QA 对,平均每份 85.1 页、42,776.4 tokens,覆盖 10 个类别和单页、跨页、多跳、不可回答四类问题。评测显示最强 LVLM 和 LLM 准确率仅 62.9% 和 69.9%,同时基准还评测了多模态检索器与端到端 RAG 性能,基准和评测代码已开源。

  17. GitHub · 去对齐工具与仓库26

    ahsan-h-shihab/llm-in-education:LLM 教育应用研究的证据分级与可复现性材料库

    该仓库发布综述《Large Language Models in Education》的可复现性材料,将 150 条记录中的 120 项研究(86 项一手研究、34 项二手综述)按 Tier 0–4 五级证据分类。结果显示仅 25 项(29.1%)一手研究客观测量学习结果,20 项(23.3%)与替代条件对比,机构运营与治理领域 17 项一手研究均无测量结果。附带 Python 3 脚本可精确重算论文的全部计数与图表。

  18. GitHub · 灵魂体仓库11

    enhancing-llms:高级微调技术增强 LLM 的论文实现仓库

    GitHub 仓库 enhancing-llms 开源了论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques"(ACL 2024)的实现与实验代码。该项目探索面向领域任务的新型微调方法,在 GLUE 和 SuperGLUE 基准上取得 SOTA 结果:GLUE 从基线 84.2% 提升至 92.5%(+8.3%),SuperGLUE 从 76.8% 提升至 89.3%(+12.5%)。仓库采用 MIT 许可证,提供训练脚本、实验配置和分析 notebook。

  19. GitHub · 去对齐工具与仓库29

    NALPlan:基于 LLM 的移动对象数据库自然语言查询多路径查询计划合成系统开源

    NALPlan 是首个面向移动对象数据库的 Text-to-Plan 系统,将自然语言查询直接翻译为由移动对象算子组成的查询计划。系统通过多路径候选生成、约束引导的自洽性检查免执行剪枝,以及代价感知选择提升计划质量。实验显示严格执行准确率较最佳基线提升 47.4%,正确性门控后的计划效率再提升 28.6%,且小模型作 backbone 依然有效。

  20. GitHub · 去对齐工具与仓库19

    kgschool23/llm-authorship-classification:用 CNN 与 LSTM 从回复文本识别 LLM 来源家族

    这是宾州州立大学 CMPSC 448 期中项目,由 Kyle Goodman 独立完成,目标是用文本 CNN 和 LSTM 识别回复文本由哪个 LLM 家族生成。数据集默认生成 18,000 条记录,覆盖至少三个来源可查的 LLM 家族,并对 prompt-only、response-only、prompt-plus-response 三种输入分别训练分类器,报告 accuracy、macro-F1、per-class 指标和混淆矩阵。项目已在 Windows 11、Python 3.14.4、RTX 4070 SUPER、PyTorch 2.9.1+cu128 环境下验证,六个实验可通过 scripts/run_experiments.py 一键复现,初始随机种子为 42。

  21. arXiv · cs.CL49

    Q-NeuS:面向大语言模型的查询自适应神经元调控框架

    arXiv 论文提出 Q-NeuS,一种查询自适应的 LLM 神经元调控框架,根据每个输入动态决定调控哪些神经元及调控幅度。该框架构建主题引导的候选神经元空间,用 Query-Adaptive Gate 生成逐神经元调制系数,并通过 Neu-GRPO 基于多种干预配置的相对表现训练。基座 LLM 全程冻结,推理时无需任务或主题标签,实验显示其在多模型与 benchmark 上均有一致提升并具跨 benchmark 迁移性。

  22. GitHub · 3D 生成新仓库16

    Haoyi-Zhang 开源 PageReuse:面向完整有限顺序 trace 的页面选择安全证书仓库

    Haoyi-Zhang 在 GitHub 发布 PageReuse 仓库,提供面向完整有限顺序 trace 的 generation-aware 页面列表复用安全证书。其 C++ CPU 适配器通过 207 个正例、匹配全部 200 个保留最优结果并拒绝 400 个负例控件,审计覆盖 741951 个事件;保留的 308 样本测试中完整路径中位数为新发布的 1.037–1.245 倍。项目明确声明它不是 LServe、GPU 内存检查器或生产级 KV cache。

  23. GitHub · 灵魂体仓库27

    eungyun-im/testcase-staleness:确定性定位需求变更导致的过期测试用例,并对比 7B 语言模型表现

    GitHub 仓库 eungyun-im/testcase-staleness 在三个汽车决策函数上生成合成需求变更,对比四种找出过期(stale)测试用例的方法:trace-link 选择、变更区域检查、按新规格重新评估,以及用 7B 语言模型(qwen2.5:7b)做判断。实验涉及 360 个变更,含 AEB-lite 预警与制动功能,设计假设预先冻结于 docs/design.md,结果存于 results/report.md。仓库附带可供质量门禁读取的变更报告接口及韩文论文草稿。

  24. GitHub · 灵魂体仓库19

    Gyanendra Pandey 的 LLM 量化软硬件协同设计研究:Oltron 与 FlightLLM 对比分析

    这是一份加州州立大学长滩分校 CECS 530 课程研究项目,探讨软硬件协同设计的 LLM 量化能否超越纯软件方案。基于 LLaMA-70B 需 140 GB 显存的背景,分析显示 Oltron(ASIC)加速 1.9 倍、能效提升 1.6 倍,FlightLLM(FPGA)相对 A100 加速 1.2 倍、能效提升 6 倍,而 bitsandbytes 反而慢 0.65 倍,各方案精度损失均小于 1%。

  25. GitHub · 灵魂体仓库27

    llm-adaptive-learning:ICML 2025 论文的 LLM 动态环境自适应学习实现开源

    GitHub 仓库 llm-adaptive-learning 开源了 ICML 2025 论文「Adaptive Learning Strategies for Large Language Models in Dynamic Environments」的实现,让 LLM 在动态环境中实时调整行为且避免灾难性遗忘。在四类动态环境测试中,该方法在 Shifting Topics 场景从基线 72.3% 提升至 89.7%,Temporal Changes 场景从 69.8% 提升至 88.9%。项目采用 Apache 2.0 License,包含训练、评估与环境模拟脚本。

  26. arXiv · cs.CL32

    AphaVoice:面向失语症患者模拟的文本转语音模型

    研究者推出 AphaVoice,一种专为合成高度逼真失语语音设计的 TTS 框架,用于医疗人员训练模拟。对比 SOTA TTS 系统的评测显示,其能更好地捕捉构音障碍这一临床特征,在时间指标上超越现有模型并保持说话人身份一致。借助 latent space shifting,模型还支持多说话人生成,为失语症医疗训练与临床模拟提供可扩展的高保真工具。

  27. GitHub · 3D 生成新仓库22

    Awesome-Virtual-Spatial-Omics-Generation:H&E 病理图像生成虚拟空间组学资源合集

    GitHub 新仓库 ZZhangsm/Awesome-Virtual-Spatial-Omics-Generation 整理了从 H&E 染色病理图像生成虚拟空间组学的论文、代码与数据集,涵盖空间转录组学、空间蛋白质组学和分子生物标志物方向。仓库收录 STP-BENCH、HEST-1k 等基准,以及 HINGE、CELLO、HisDiff、CoxFormer 等多个 H&E 到空间转录组学的生成模型,供研究与应用参考。

  28. GitHub · 3D 生成新仓库45

    RSure-Agent 遥感智能体框架开源仓库发布,验证工具观测以抑制误差传播

    RSure-Agent 是一个遥感智能体框架,通过可验证观测协议和任务-工具可靠性先验来核验工具观测结果,限制错误在后续推理中传播。论文分析了 1,229 条执行轨迹,发现各基准至少 22.7% 的任务存在工具执行成功但观测错误的情况。在 EarthBench、ThinkGeo、TerraLogic 和 CHOICE-420 上,该框架将误差传播率降低 21.3 至 25.9 个百分点,在 CHOICE-420 上使 11 个 backbone 模型平均准确率提升 5.71 个百分点,核心代码将分阶段发布。

  29. GitHub · 去对齐工具与仓库54

    QuietBower 开源 DevGen:LLM 引导生成虚拟设备代码对 Linux 内核进行模糊测试

    DevGen 是一个 LLM 引导的内核模糊测试工具,先静态提取目标内核驱动源码,再用 LLM 指导生成虚拟设备代码并集成 fuzzing。仓库同时维护一份 Kernel Bug Tracker,记录了向 Linux 内核社区上报的 37 项漏洞,含 CVE-2026-46318、CVE-2026-64529 等多个 CVE 及补丁状态与覆盖率和 crash 结果目录。

  30. GitHub · 灵魂体仓库14

    enhansome-Awesome-LLM-Papers:涵盖 VLM、World-model、Robot 等主题的 LLM 论文精选仓库

    GitHub 仓库 enhansome/enhansome-Awesome-LLM-Papers-Comprehensive-Topics 按主题分类整理大模型相关论文,覆盖 VLM、World-model、VisualPrompt、Segmentation、Robot、Scaling、Survey、Sora、RoPE 等方向。收录条目包括 CogVLM、LLaVA-NeXT、MoE-LLaVA、Grounded SAM、VoxPoser、RoFormer 等,并附 ArXiv 或 GitHub 链接及部分项目的 star 数。

  31. GitHub · 去对齐工具与仓库60

    AiLibi 开源:可复现的 AI 社交推理模拟,附证据引用与评测数据

    Daniel Keinan 发布开源项目 AiLibi,一个可复现的社交推理模拟与观战系统,7 名船员与 2 名内鬼由 LLM 驱动,通过 Claude Code 和 Codex 实现,Daniel 未手写生产代码。系统用确定性引擎和观察防火墙保证回放字节级可重建,100/100 样本回放可精确还原。2026-10-09 的 9 人对局记录显示,带证据引用的驱逐准确率为 24/24=1.0000,无证据时仅 20/42=0.4762;带有效引用的投票 410/410 可溯源。样本包含用 Qwen/Qwen3.6-27B 跑的两个 50 局锦标赛,作者强调这展示的是对认证事实的处理而非通用社交推理。

    推荐理由:这个项目用可复现回放和证据引用链衡量Agent推理,带证驱逐与无证驱逐的准确率对比给出了可信的具体数字。

  32. GitHub · 灵魂体仓库36

    两阶段知识图谱 + 大语言模型医学事实安全筛查流水线发布评测候选版本:GPT-4o 验证器与 benchmark_500 结果

    该仓库发布论文《A Two-Stage Knowledge Graph and Large Language Model Pipeline for Safety Screening of Medical Facts》的公开净化候选版,保留 C4 配置:Phase 1 C3 筛查接 GPT-4o Phase 2 验证器(v3.1 提示词、G1–G4 guardrails)。benchmark_500 冻结结果为 F1 94.3%、precision 89.3%、recall 100.0%、FPR 11.1%。代码采用 GPL-3.0,数据集采用 CC BY-NC 4.0;BIOS 知识图谱与向量索引文件不随仓库分发,且因 gpt-4o 快照未固定,不保证输出完全复现。

  33. GitHub · 灵魂体仓库13

    feomite 开源仓库:优化 LLM 在多任务环境下的上下文推理(论文投稿 COAI 2025,代码待发布)

    GitHub 仓库 feomite/optimizing-llms-contextual-reasoning 为论文《Optimizing Large Language Models for Contextual Reasoning in Multi-Task Environments》的实现与实验代码预留,该论文提出增强 LLM 跨多任务上下文推理的优化策略,目前处于 COAI 2025 审稿中。仓库状态为 To be released,将陆续放出实现代码、benchmark 结果、预训练模型 checkpoint 及文档教程。

  34. GitHub · 灵魂体仓库10

    LLM 多任务环境上下文推理优化研究仓库(dudighus/optimizing-llms-contextual-reasoning)

    GitHub 仓库 dudighus/optimizing-llms-contextual-reasoning 发布,将收录论文 "Optimizing Large Language Models for Contextual Reasoning in Multi-Task Environments" 的实现与实验代码,该论文正在 COAI 2025 评审中。论文提出优化策略以增强 LLM 跨多任务的上下文推理能力,实验结果显示在动态环境中适应性更优。仓库目前标注 "To be released",实现代码、基准测试结果、预训练模型检查点及文档教程尚未发布。

  35. GitHub · 灵魂体仓库35

    ICML 2025 论文 llm-adaptive-learning 开源:LLM 动态环境自适应学习实现

    论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments"(ICML 2025)的实现代码以 Apache 2.0 许可开源。该方法支持实时参数调整、动态记忆管理与防止灾难性遗忘,无需全量重训练即可持续适应变化环境。在四类动态场景中较 baseline 提升 +16.8% 至 +19.1%,如混合上下文 91.3% 对 74.5%。

  36. GitHub · 灵魂体仓库25

    llm-adaptive-learning:ICML 2025 论文的 LLM 动态环境自适应学习实现开源

    dudighus 在 GitHub 开源了 ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现,使 LLM 在动态环境中实时调整行为且避免灾难性遗忘。该方法在多类动态环境上较 Baseline LLM 提升 +16.8% 到 +19.1%,其中时序变化场景从 69.8% 提升至 88.9%。项目采用轻量级自适应更新机制、无需全量重训练,以 Apache 2.0 协议开源。

  37. GitHub · 灵魂体仓库19

    enhancing-llms:用高级微调技术提升大语言模型在 GLUE 和 SuperGLUE 上的表现

    GitHub 仓库 enhancing-llms 提供论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现与实验,探索面向领域任务的高级微调方法。该方法在 GLUE 上从基线 84.2% 提升至 92.5%(+8.3%),在 SuperGLUE 上从 76.8% 提升至 89.3%(+12.5%),并采用优化训练管道加快收敛。项目基于 MIT 许可证开源。