跳到正文
10月9日周五
  1. GitHub · 灵魂体仓库26

    llm-adaptive-learning:动态环境下 LLM 自适应学习策略开源实现(ICML 2025)

    GitHub 仓库 banreaverdef/llm-adaptive-learning 开源了 ICML 2025 论文「Adaptive Learning Strategies for Large Language Models in Dynamic Environments」的实现,让 LLM 在动态环境中实时调整行为而不产生灾难性遗忘。实验显示该方法在四类动态场景中较基线 LLM 提升 +16.8% 至 +19.1%,如 Shifting Topics 从 72.3% 提升至 89.7%。项目采用 Apache 2.0 许可证,支持轻量级参数更新、动态记忆管理与环境检测,无需全量重训练。

  2. GitHub · 灵魂体仓库19

    Joe-Liu-testuser/enhancing-llms:用高级微调技术增强大语言模型

    GitHub 仓库 enhancing-llms 实现了论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques",探索提升 LLM 在特定领域任务上的微调方法。其方法在 GLUE 上取得 92.5%(较基线提升 8.3%)、SuperGLUE 上取得 89.3%(提升 12.5%)的成绩,采用 MIT License 开源,并提供训练脚本与实验配置。

10月8日周四
  1. GitHub · 去对齐工具与仓库19

    enhancing-llms:用高级微调技术增强 LLM 的开源实现仓库

    victochtiwa 在 GitHub 开源了论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现代码,探索面向领域任务的新型微调方法。该方法在 GLUE 上达 92.5%(基线 84.2%,+8.3%),在 SuperGLUE 上达 89.3%(基线 76.8%,+12.5%),仓库含训练、评估脚本与实验配置,采用 MIT 许可证。

  2. Reddit · r/LocalLLaMA49

    Alrithm 更新:可流式传输 16,800+ 条已验证推理数据用于 LLM 微调

    开发者在 r/LocalLLaMA 发布 Alrithm 更新,这是一个零配置数据 API,可通过 ndjson 流式传输 16,800+ 条已验证推理数据用于 LLM 微调,无需 SDK。其中 ALR Code Platform 含 14,000 行(75.4 MB)调试与算法优化数据,ALR Aerospace Platform 含 2,800 行(9.3 MB)轨道力学与推进数据。每行数据附带带 SHA-256 溯源哈希的逐步推理链,完全免费使用。

  3. GitHub · 去对齐工具与仓库12

    blyhm 开源 AgentGym-RL:用强化学习训练语言模型智能体

    blyhm 在 GitHub 发布 AgentGym-RL,用强化学习训练语言模型智能体进行长期决策。该软件提供图形化安装与向导式项目创建,无需编程即可设置训练参数并启动训练,通过仪表盘监控进度。支持 Windows 10、macOS 10.15 及以上和主流 Linux,推荐双核处理器、4 GB 内存和 500 MB 可用空间。

  4. GitHub · 灵魂体仓库31

    llm-adaptive-learning-delta:LLM 动态环境自适应学习策略开源实现(ICML 2025)

    GitHub 开源仓库 llm-adaptive-learning-delta 发布了 ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现,使 LLM 在动态环境中实时调整行为且不发生灾难性遗忘。实验显示其相比基线 LLM 在主题切换环境提升 +17.4%(89.7%)、新领域 +18.1%、混合上下文 +16.8%、时间变化 +19.1%。项目采用轻量级参数更新与动态记忆管理,无需全量重训练,以 Apache 2.0 许可开源。

  5. GitHub · 灵魂体仓库14

    GitHub 仓库 enhancing-llms-delta:用高级微调技术增强 LLM

    GitHub 仓库 enhancing-llms-delta 开源了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验代码,探索提升 LLM 在领域特定任务上的微调方法。该方法在 GLUE 上从基线 84.2% 提升至 92.5%,在 SuperGLUE 上从 76.8% 提升至 89.3%,支持基于 bert-base-uncased 的训练与评测,采用 MIT 许可证开源。

  6. GitHub · 去对齐工具与仓库65

    FineEnvs 开源 LLM Agent 强化学习环境仓库,覆盖设计、部署到训练全流程

    adithya-s-k 发布开源 RL 环境仓库 FineEnvs,提供从环境设计、部署、训练到评测的端到端可复现项目,素材同步发布在 huggingface.co/FineEnvs。包含 3 环境乘 6 框架的 RL Environments 101、用 GRPO 训练 Qwen3-VL-2B 做 LaTeX OCR、以审美偏好模型为奖励的水彩绘画项目、多轮 GeoGuesser(Qwen3.5-4B 在 200 题保留集上超过 gpt-5.4-mini 和 claude-haiku-4.5,成本约 $100)、5,394 个经真实沙盒验证的数据分析任务数据集,以及基于巴塞罗那港 2024 记录的 PortSimEnv。

    推荐理由:这个仓库提供从环境设计到训练部署的完整可复现代码,还附上三个跨框架实现同一环境的对照样本。

  7. GitHub · 去对齐工具与仓库16

    enhancing-llms:用先进微调技术提升 LLM 的开源论文实现仓库

    GitHub 仓库 sys2agent2026/enhancing-llms 开源了论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现与实验代码,探索面向领域任务的新型微调方法。该方法在 GLUE 和 SuperGLUE 上取得 SOTA 结果:GLUE 从基线 84.2% 提升至 92.5%,SuperGLUE 从 76.8% 提升至 89.3%,并附有训练脚本、实验配置和 notebook。项目采用 MIT 许可证。

  8. GitHub · 灵魂体仓库13

    LengthDragon/enhancing-llms:用高级微调技术增强大语言模型

    GitHub 开源仓库 LengthDragon/enhancing-llms 提供论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验,探索面向领域任务的新型 LLM 微调方法。在 GLUE 上从基线 84.2% 提升至 92.5%(+8.3%),SuperGLUE 从 76.8% 提升至 89.3%(+12.5%),达到 SOTA。项目含领域自适应与高效训练流程,基于 MIT 协议开源。

  9. GitHub · 灵魂体仓库65

    Yeto 开源:在分散低价 GPU 算力上微调语言与扩散模型

    GitHub 仓库 agentenv/yeto 发布,支持用 spot 实例、混合区域、混合云甚至混合硬件家族跨便宜 GPU 算力微调语言和扩散模型。基于 Decoupled DiLoCo 异步同步,省略 --gpu 时由求解器在预算内最大化有效 TFLOPs,支持 QLoRA、Diffusers、Megatron-Core、MLX 和 Ascend NPU 后端,附 DeepSeek-V4-Flash、Qwen3.6-27B、GLM-5.2 等已实测模型及最小岛显存表。

    推荐理由:原文给出了完整的跨云 spot GPU 微调工具用法和已实测模型清单,读者可以直接复用其预算规划与异构算力训练方法。

  10. GitHub · 去对齐工具与仓库23

    LLM 自适应学习策略论文代码开源:ICML 2025 动态环境实时适配实现

    ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现代码已在 GitHub 开源,采用 Apache 2.0 许可证。该框架支持 LLM 在动态环境中实时调整参数与行为,实现持续学习并避免灾难性遗忘,无需全量重训练。实验显示,相较基线在主题切换、新领域、混合上下文和时序变化四类场景分别提升 +17.4%、+18.1%、+16.8% 和 +19.1%,最高达 91.3%。

  11. GitHub · 去对齐工具与仓库12

    enhancing-llms:高级微调技术增强 LLM 开源仓库

    GitHub 开源仓库 enhancing-llms 发布了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验,探索面向领域任务的新型微调方法。该方法在 GLUE 上从基线 84.2% 提升到 92.5%(+8.3%),在 SuperGLUE 上从 76.8% 提升到 89.3%(+12.5%)。仓库含源码、训练脚本与实验配置,采用 MIT 许可证开源。

  12. GitHub · 去对齐工具与仓库64

    MedAdapt Lab 发布五项实验报告:小模型继续训练 Qwen3 Base 读 2026 年 ADHD 论文的记忆与遗忘

    MedAdapt Lab 完成了 ADHD-01 至 ADHD-05 五项实验,在单台 Apple M2 Max 上用手写 MLX 训练循环和 LoRA 继续训练 Qwen3 Base 模型,数据为 269 篇模型发布后出现的 CC 许可 ADHD 论文及 400 个虚构试验。主要发现包括:约 1.65 遍训练后,已训练论文题目准确率比未训练论文多提升 3.8-5.0 个百分点;1.7B 模型在 3.3 遍时额外增益达 +8.7;真实论文训练使通用文本困惑度上升 7%-123%;虚构事实在约 4-8 遍后从 25% 几率突升到 44%-51%;同 exposure 下四份不同文本比一份重复四遍高 +4.5 到 +7.6 分;无 replay 的窄域新事实训练使通用困惑度升 37-94 倍。

    推荐理由:原文用训练前冻结的考题和对照实验,量化了小模型读新论文能记住多少、忘掉多少,方法可复现可迁移。

  13. GitHub · 灵魂体仓库20

    ReasonForge 2.6.2:面向大语言模型的认知训练框架

    ReasonForge 2.6.2 是一个 MIT 许可的开源框架,通过环境合成、奖励塑造和策略优化三阶段循环,让大语言模型在自适应推理环境中训练复杂问题解决能力。相比传统 RLHF 的二元反馈,它提供部分得分、多目标评分等细粒度奖励,并内置生成式场景树、跨领域迁移、40+ 语言推理支持与失败模式沙盒。安装需 Python 3.10+ 与 CUDA GPU 或 Apple Silicon。

  14. GitHub · 灵魂体仓库55

    chendi-Shi/llm-posttraining:无 GPU 本机跑通 Qwen2.5-0.5B-Instruct 的 QLoRA SFT/DPO 后训练

    作者在约 16 GB 内存、无独立 GPU 的本机上对 Qwen2.5-0.5B-Instruct 做 4-bit QLoRA SFT/DPO,完成中文结构化抽取与意图分类实验,数据采用 MASSIVE 中文子集。v6 混合系统严格实体 F1 为 62.59%,首次达到预设绝对 F1 ≥60% 门槛,但相对旧 v5 混合的配对 95% 区间为 −3.58 至 +7.19,未通过相对收益门槛;v3 DPO 将无槽失败从 126/167 降至 28/167 但阳性句 F1 下降。仓库公开复现命令、选择锁与失败报告,不含权重和逐题预测,结果定位为后训练研究而非可自动上线服务。

    推荐理由:作者在 16 GB 无 GPU 本机上完整跑通 QLoRA SFT/DPO 并公开预设门槛、配对区间和失败记录,方法与边界都可复用。

  15. GitHub · 去对齐工具与仓库20

    GitHub 开源仓库 tooluse222/enhancing-llms:用高级微调技术增强大语言模型(LLM)

    GitHub 仓库 tooluse222/enhancing-llms 发布了论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现与实验代码,探索面向领域任务的新型 LLM 微调方法。该方法在 GLUE 上取得 92.5%(较基线 +8.3%)、SuperGLUE 上取得 89.3%(+12.5%)的结果,并支持基于 bert-base-uncased 的训练与评测,项目采用 MIT License 开源。

  16. GitHub · 灵魂体仓库49

    nlScript-llm:用 nlScript 自动生成语料微调 LLM 的完整流程

    nlScript-llm 仓库演示如何用 nlScript 微调 LLM,使其将自由文本翻译为 nlScript 自定义语言的合法输入。流程先用语法规则自动生成 400 个语法正确的脚本并各重复 5 次,再经 mistral-7B-instruct-v0.3 改写为自由文本,得到 1600 条训练、400 条测试样本;随后用 unsloth 对 mistral-7b 微调一个 epoch(约 1-2 小时),产出的 Lora 适配器可部署到 Ollama 使用。

  17. GitHub · 去对齐工具与仓库15

    enhancing-llms:用高级微调技术增强大语言模型的开源仓库

    GitHub 仓库 mousrur-bot/enhancing-llms 开源了论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现,探索面向领域任务的新型微调方法。其方法在 GLUE 和 SuperGLUE 基准上达到 SOTA,GLUE 从基线 84.2% 提升至 92.5%(+8.3%),SuperGLUE 从 76.8% 提升至 89.3%(+12.5%)。仓库基于 MIT License 开源,含训练、评估脚本与实验配置。

  18. GitHub · 去对齐工具与仓库51

    mac-llm-finetuning-lab 教程:在 Apple Silicon Mac 上用 LoRA 微调 Qwen2.5-0.5B-Instruct

    ssganiger 在 GitHub 发布 mac-llm-finetuning-lab 动手实验仓库,用 Hugging Face Transformers + TRL + PEFT/LoRA 在 M3 Pro Mac 上微调 Qwen2.5-0.5B-Instruct 做笔记分类。实测用 18 条训练数据、3 条保留测试,格式完全匹配从基座模型的 0/3 提升到挂载 LoRA 适配器后的 3/3,训练仅更新 0.1093% 的参数。仓库涵盖下载模型、查看 token 化、记录基线、SFTTrainer 训练与前后对比全流程,并计划后续加入基于 MLX 的 gpt-oss-20b 练习,目前尚未包含。

  19. GitHub · 去对齐工具与仓库17

    sreda-bench 开源 enhancing-llms:用高级微调技术增强大语言模型

    sreda-bench 开源了论文 "Enhancing LLMs with Advanced Fine-Tuning Techniques" 的实现仓库,探索面向特定领域任务的新型微调方法,采用 MIT 许可证。实验显示其方法在 GLUE 上从基线 84.2% 提升至 92.5%,在 SuperGLUE 上从 76.8% 提升至 89.3%,并提供完整训练、评估脚本与实验配置。

  20. GitHub · 灵魂体仓库69

    bethehand 开源 lab1:从零预训练到 aha moment 到编码 Agent 的十五个实验

    作者开源 lab1 仓库,在四张 RTX 4090 上完成十五个实验:95M/201M 从零预训练(FineWeb-Ede 困惑度 30.2/18.1)、GSM8K 上 GRPO 使 Qwen2.5-1.5B-Instruct pass@1 提升 0.21、Countdown pass@1 从 0.02 提至 0.98,以及四阶段编码 Agent 课程。报告给出每个实验的完整设置、表格与预测账本,bench_observation_price.py 可在一小时内测量任意 Hugging Face 模型移除可见测试后的性能损失(RL 模型损失 0.16 且全部落在修复环节)。

    推荐理由:作者在四张 RTX 4090 上跑通十五个实验并开放全部脚本与预测账本,读者可逐条对照复现 RL 与 SFT 的真实增益。

  21. GitHub · 灵魂体仓库59

    TorchLLMTuner 开源:基于 Torch DeviceMesh 的 HuggingFace 模型混合并行训练框架

    作者在 GitHub 发布 TorchLLMTuner(Python 包名 llmtuner),一个面向 HuggingFace 模型的混合并行分布式训练框架,支持 FSDP2/HSDP、TP、PP(1F1B 与 Interleaved1F1B)、CP(kv_allgather 与 ulysses 双策略)和 EP(HF MoE 置换、AllToAll dispatcher),并提供 TP×FSDP、TP×EP×CP 等多种并行组合,不支持的组合由 parallel/matrix.py 统一 loud-raise。

    推荐理由:作者完整给出了混合并行框架的五族并行实现、组合矩阵与已知限制,读者可据此评估是否用于分布式训练。

  22. GitHub · 灵魂体仓库18

    enhancing-llms:用高级微调技术提升 LLM 在 GLUE/SuperGLUE 上的性能

    灵魂体仓库 enhancing-llms 开源了论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现与实验代码,探索面向特定领域任务的新型微调方法。该方法在 GLUE 上取得 92.5%(基线 84.2%,+8.3%)、SuperGLUE 上取得 89.3%(基线 76.8%,+12.5%)的 SOTA 结果。仓库基于 MIT 协议开源,含训练、评测脚本与 Jupyter notebooks。

  23. GitHub · 去对齐工具与仓库27

    LLM 动态环境自适应学习策略论文实现仓库开源(ICML 2025)

    论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments"(ICML 2025)的实现代码开源于 GitHub。该方法支持实时参数调整、动态记忆管理与环境检测,在多类动态环境中持续学习且避免灾难性遗忘:话题切换场景准确率从 72.3% 提升到 89.7%(+17.4%),时序变化场景提升 +19.1%。项目采用 Apache 2.0 许可证,无需全量重训练即可进行轻量化更新。

  24. GitHub · 灵魂体仓库12

    Mobius-LLM-Fine-tuning-Engine:无需编程的 LLM 图形界面微调工具

    GitHub 开源项目 Mobius-LLM-Fine-tuning-Engine 提供图形界面微调大语言模型,无需编程基础。用户可拖拽上传训练数据,用滑块调节训练轮数和学习率,并实时监控训练进度。工具支持 Windows 10+ / macOS Mojave+,需至少 4 GB 内存和 500 MB 磁盘空间,从 Releases 页面下载安装。

  25. GitHub · 灵魂体仓库25

    hkustnlp-cmyk 开源 ICML 2025 论文代码:动态环境下 LLM 的自适应学习策略

    该仓库是 ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的代码实现,提出让 LLM 在动态环境中实时调整行为的自适应学习框架。方法包含自适应参数更新、动态记忆管理、环境检测与防灾难性遗忘机制,无需全量重训练。实验显示在主题漂移、新领域等场景下相比 baseline 提升约 16.8%-19.1%,项目采用 Apache 2.0 许可证开源。

  26. GitHub · 灵魂体仓库56

    LoopAI 开源:面向领域场景的 LLM 自进化闭环优化框架

    OpenDCAI 开源了 LoopAI,一个让 LLM 在领域场景中自进化的闭环优化框架,把优化流水线重组为 Graph/Node/State 的节点化执行框架,覆盖评测、错误分析、数据获取到再训练的全流程自动化。v2 版本引入基于 codex-sdk 的 Starter,支持会话连续性、流式反馈和可配置模型池,可将对话意图转为可执行的优化工作流;核心节点包括 Judger(vLLM 评测)、Analyzer、ObtainerCLI/DataMixer 数据处理和 Trainer(支持 LLaMA-Factory 或 verl 训练),支持 human-in-the-loop 干预,采用 Apache 2.0 许可证。

    推荐理由:原文给出了从评测、错误分析、数据获取到训练的完整节点化架构与部署细节,读者可以了解一条用自然语言驱动的模型优化闭环怎么搭。

  27. GitHub · 灵魂体仓库17

    hkustnlp-cmyk/enhancing-llms:用高级微调技术提升 LLM 的开源仓库

    该 GitHub 仓库实现了论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的方法,探索让预训练模型适配特定领域的新微调策略。实验显示在 GLUE 上达到 92.5%(基线 84.2%,提升 +8.3%),SuperGLUE 上达到 89.3%(基线 76.8%,提升 +12.5%),项目采用 MIT 许可证开源。

  28. GitHub · 灵魂体仓库34

    ICML 2025 论文开源实现:llm-adaptive-learning 自适应学习策略

    ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现代码已在 GitHub 开源,使 LLM 在动态环境中实时调整参数与行为,且不产生灾难性遗忘。方法包含自适应参数更新、动态记忆管理、环境检测与稳定性机制,在主题切换场景下从基线 72.3% 提升至 89.7%(+17.4%),时间变化场景提升 +19.1%。项目采用 Apache 2.0 许可证,适用于聊天助手、内容推荐等应用。

  29. Reddit · r/LocalLLaMA39

    Qwen3.8-27B 微调模型对比评测:mradermacher/Signal-3.8-27B-Terse-Coder 胜出,与 Opus 5.5 等前沿模型基线对比

    作者用 469 题领域评测对比多个 Qwen3.8-27B 微调模型,mradermacher/Signal-3.8-27B-Terse-Coder.i1-Q4_K_M 在准确率、token 用量和完成时间上最优,仅 1 次超限。Opus 5.5 以 99.6% 准确率居首,但本地模型比前沿模型慢 28 倍(19 分钟 vs 9 小时),换取约 100% 的隐私。gpt-oss-120b 在 pandas/numpy 任务上表现糟糕,评测工具已开源。

  30. arXiv · cs.AI47

    SLDR:通过选择性层恢复与动态路由防御恶意微调

    研究者提出后微调防御方法 SLDR,基于选择性层恢复与动态路由,仅在敏感度最高和最低的层上训练 LoRA 恢复适配器,并通过基于表示的动态路由只对恶意查询激活适配器。在 4 种模型架构、5 个下游任务和 4 个有害基准上,SLDR 在 Llama3.1/SST2 上将平均有害分数从 11.54 降至 0.08,投毒比例高达 0.9 时有害分数仍接近零,且保持下游准确率。代码已开源。

  31. GitHub · 灵魂体仓库49

    llm-agent-evals:基于 SmolLM2-360M 的工具调用杂货 Agent 评测与 LoRA 微调项目

    GitHub 开源项目 llm-agent-evals 构建了一个使用 run_sql(只读 SQL)和 FAISS 搜索两个工具的杂货目录 Agent,并对 SmolLM2-360M 的三种设置进行评测:zero-shot 提示、few-shot 提示和 CPU LoRA 微调。评测覆盖 200 个 held-out 问题,指标包括执行准确率、答案匹配、失败模式、延迟和 token 数;测试模板与训练数据不相交。项目代码采用 MIT 许可,模型权重为 Apache 2.0。

  32. GitHub · 灵魂体仓库13

    vingin17/enhancing-llms:用先进微调技术增强大语言模型

    GitHub 仓库 vingin17/enhancing-llms 发布论文 "Enhancing LLMs with Advanced Fine-Tuning Techniques" 的实现与实验,探索超越传统方法的微调策略和领域自适应技术,在 GLUE 与 SuperGLUE 上取得 SOTA 结果:GLUE 从 84.2% 提升至 92.5%(+8.3%),SuperGLUE 从 76.8% 提升至 89.3%(+12.5%)。项目含训练、评估代码与实验配置,采用 MIT 许可证开源。

  33. GitHub · 灵魂体仓库21

    enhancing-llms:用高级微调技术增强大语言模型

    GitHub 仓库 enhancing-llms 提供论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现与实验代码,探索面向领域任务的新型微调方法。其在 GLUE 上取得 92.5%(基线 84.2%,提升 8.3%),SuperGLUE 上取得 89.3%(基线 76.8%,提升 12.5%)的 SOTA 结果。仓库包含训练与评测脚本、实验配置及 Jupyter notebooks,采用 MIT License 开源。

  34. GitHub · 灵魂体仓库38

    LLMForge:从零实现并训练 decoder-only Transformer 的实验性训练框架

    LLMForge 是一个用 PyTorch 从零实现并训练的 decoder-only Transformer 语言模型训练框架,涵盖模型架构、tokenization、数据加载、训练循环、checkpoint 管理与推理全流程。架构采用 RoPE、GQA、RMSNorm、SwiGLU 和因果自注意力,训练引擎支持 AdamW、梯度累积、学习率调度和可恢复 checkpoint。项目支持 PyTorch MPS 在 Apple Silicon 上运行,数据集使用 FineWeb-Edu 子集,目前为实验性研究项目,不分发数据集文件和模型权重。