新闻、仓库与研究，按时间排列。
开源工具 Soup 发布，用一条命令和一份 YAML 配置完成 LLM 微调与后训练，支持 SFT、DPO、GRPO 等任务，无需 SSH 或云服务。其层流式（layer streaming）功能在 RTX 3050 Laptop 4 GB 上以 QLoRA 训练 Llama-3.1-8B-Instruct，峰值显存 3.32 GB、119.6 tok/s，并在 H100 上以 113.00 tok/s 独立复现（均为 v0.72.2 测量，重测待 issue #361）。v0.75.0 修复 MLX 后端静默丢弃已验证配置项的问题，未知配置键现在会报错拒绝加载，验证损失开始被记录和展示，并要求 torch>=2.6.0。
推荐理由：原文给出层流式训练的实测数据与位精确性验证方法，读者可据此评估在 4 GB 显卡上微调 8B 模型的可行性。
GitHub 仓库 zmayiquidon/llm-adaptive-learning 发布了 ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现，让 LLM 在动态环境中实时调整参数与行为，且无需全量重训、避免灾难性遗忘。在四类动态环境测试中，该方法较基线提升 16.8%–19.1%，如时序变化场景从 69.8% 提至 88.9%。项目采用 Apache 2.0 许可证开源。
GitHub 仓库 YYYJH1/LP-MAPPO 发布，实现 LLM 引导、计划约束的多智能体 PPO，用于城市空中走廊的协作无人机边缘计算，包含仿真器、实例生成器与 MAPPO 执行器训练（对比 IPPO、HAPPO、CoPPO、A2PO 基线）。规划器基于 Qwen3-1.7B 做 LoRA 微调，用 vLLM 生成计划并做计划约束评估，微调后的 LoRA 适配器以 Apache-2.0 附于 release v2.0，代码采用 MIT 许可。
开发者 doss1232 在 Hugging Face 上传了基于 unsloth/Qwen3.5-9B 微调的 uncensored_qwen3.5_9B 模型，采用 apache-2.0 许可证，训练过程借助 Unsloth 实现 2 倍加速。该模型已有 185 个微调衍生版本。
GitHub 仓库 greenmatt3/enhancing-llms 实现了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》中的微调方法，用于提升 LLM 在领域特定任务上的表现。该方法在 GLUE 和 SuperGLUE 上达到 SOTA，GLUE 从基线 84.2% 提升至 92.5%（+8.3%），SuperGLUE 从 76.8% 提升至 89.3%（+12.5%）。仓库以 MIT 协议开源，包含源码、实验脚本和 Jupyter notebooks。
mii-llm 在 GitHub 开源了 Palingenesis，一款零配置的 LLM 微调工具，通过 pgs autopilot 可对 Qwen/Qwen3.5-4B 等模型自动完成训练。工具支持 Agentic masking、SeCO 超长序列、DPO 及其变体、on-policy 蒸馏和基于 Docker 容器的 Harbor 式 Agent RL；Qwen3.5-4B 微调（训练注意力通路，36% 权重）约需 16 GiB 显存，并附 RTX 4090 到 8×A100 的多档配置。
推荐理由：原文给出从数据准备到 RL 的完整微调流程和显存数字，读者可以按硬件配置直接复用或挑选其中的训练方法。
Lexsi Labs 在 GitHub 开源 AlignTune，一个模块化的大模型后训练工具包，统一接口调度 TRL、Unsloth 和 ES 三种训练后端。支持 13+ 种 SFT/RL 算法（SFT、DPO、PPO、GRPO、GSPO、RAFT、蒸馏等），提供 VRAM/成本估算 CLI、多阶段流水线编排、模型合并、RLVR 可验证奖励、印度语系分词扩展与评测，附带 46 个本地可运行 notebook。MIT 许可，Unsloth 后端组件涉及 AGPL-3.0；仓库地址 https://github.com/Lexsi-Labs/aligntune。
推荐理由：原文列出了每个算法在后端路由下的具体配置和许可结构，读者可以直接评估这套训练接口是否适配自己的硬件与合规需求。
GitHub 开源项目 LLMOps-Engineer 构建“可复现、可评估、可观测”的 LLM 应用，用于回答资金/财务制度类问题，核心是搭建“检索→评估→观测→成本”工程闭环，为每个回答建立量化基线并实现引用溯源。项目基于 FastAPI、RAGAS 四指标、Langfuse 和 LiteLLM 等，通过 RAGAS、Grafana、云账单等追踪 faithfulness、P95 延迟等 5 个指标，并设有提交前脱敏门禁防止真实敏感信息入库。
GitHub 开源项目 MyLM 提供一套从零实现的完整语言模型训练流程代码，面向初学者和个人开发者，降低硬件门槛。项目基于 Transformer 架构的 GPT 模型，实现 RoPE 位置编码、门控注意力（Gated Attention）、MoE 等技术，覆盖数据预处理、BPE 分词器、训练循环与 SFT 监督微调。项目仍处于积极开发阶段，仅用于教育目的，不适用于生产环境。
该仓库基于 Llama 3.2 3B 设置四种条件（base、SFT、DPO、SFT+DPO），用 CULNIG 的 values-based 扩展拆解 SFT 与 DPO 对文化规范漂移的影响。SFT 在 Alpaca 52K 数据上训练 3 个 epoch，DPO 在 HH-RLHF 30K 子样本上训练 2 个 epoch，评测使用 NormAd。项目在 UMIACS Nexus 的 RTX A5000（24GB）上以 QLoRA 4-bit 运行，四个 LoRA adapter 总计不到 1 GB。
GitHub 仓库 enhancing-llms 开源了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现，探索面向领域任务的 LLM 微调方法。其方法在 GLUE 上取得 92.5%（较基线提升 8.3%）、SuperGLUE 上取得 89.3%（提升 12.5%），采用 MIT 许可证发布。
CoDe-LoRA 是一种免回放的大语言模型持续学习方法，用于解决 O-LoRA 等正交投影方法因严格参数隔离导致跨任务知识难以迁移积累的“正交困境”。该方法将学习拆解为巩固通用知识与解耦任务特定知识，借助自适应零空间投影和语义路由实现平衡。在 4 个骨干模型和 3 个持续学习基准上取得最佳平均准确率，代码已开源。
arXiv:2610.08718 研究微调中语言模型的伪遗忘（spurious forgetting），发现被遗忘的旧知识往往仍存储在模型中且可恢复。作者用最小联想记忆模型复现遗忘动态，指出其依赖共享结构的键、集中新值和网络归一化三个要素：微调使旧表示沿共同方向整体移动，暂时隐藏旧事实但保留其相对几何；新数据只把旧记忆一起移动时遗忘可逆，逐事实改变累积时才造成永久侵蚀。实验显示减去共同位移可消除 Transformer 的崩溃，从权重更新中移除单一方向可在预训练语言模型中恢复旧事实。
推荐理由：论文把微调遗忘拆成可逆的共同位移和不可逆的个体侵蚀两部分，并给出恢复旧知识的干预方法。
MemFLoRA 是一种以“激活记忆下限”准则为核心的低秩 CNN 适配器，冻结下投影、训练尺度匹配的上投影，使反向计算不依赖全宽层输入。在 3 个 HAR 数据集和 2 个 CNN 主干上，相比全量微调，其节省激活内存降低 98.5-98.7%，峰值训练状态内存降低 94.9-97.3%，且持平或超过 CNN PEFT 基线。该论文已被 ASP-DAC 2027 接收。
研究者提出 Sherpa，一个多轮强化学习框架，通过实例化多种学生原型并直接最大化其学习成果来训练教师模型。经 Sherpa 训练的教师 LLM 使被指导学生的成绩平均提升 20.5 个百分点，在 MathTutorBench 上的整体教学评分从 52.5% 升至 79.2%。人类评估中，训练后的教师在 79.6% 的成对比较中优于基础模型。
开发者 alice-kroi 发布 cultist-llm 项目，用《密教模拟器》和《司辰之书》的本地游戏文本微调 Qwen3，让模型学会游戏晦涩书卷气的写法，可生成卡牌描述、事件叙事、结局文本并做中英互译。语料由脚本从本地安装的游戏抽取，共 20,110 个文本单元、59,018 条训练样本，经 LLaMA-Factory LoRA/QLoRA 在 16GB 显存 GPU 上训练，已发布 0.6B 和 4B 两个合并模型到 Hugging Face，实测 4B 语感和格式遵循度更好，代码 MIT 协议开源。
tal-giladi 在 GitHub 发布 frontier-llm-research-course，这是 LLM Research Engineer 课程的进阶篇，围绕注意力、长上下文、优化器、后训练、推理 RL、Agent 和可解释性等研究问题，以 DeepSeek、Qwen、Kimi、gpt-oss、Gemma、Llama、OLMo 等公开模型为案例设计实验。主路径需租用 GPU（单卡 48–80 GB 至 8-GPU 节点），全程预计约 650–1,150 H100-hours，每个实验同时提供免费 Colab/Kaggle T4 和 CPU 版本。必修课程共 20 个模块，最终 capstone 要求复现并扩展一篇近期论文。
Arianna Method 发布 notorch，一个纯 C 编写、约 6400 行、仅两个文件的神经网络框架，可训练模型并直接推理 llama.cpp 格式的 GGUF 模型，无需 Python、PyTorch 或 llama.cpp。支持 llama、mistral3、qwen2/qwen3、gemma3、olmoe、mamba 等架构，Q4_K 权重保持打包不展开；在 i5-8500T 上与 llama.cpp 同权重温度 0 对照，六个文件中五个逐字节一致，decode 在参考的 1.09x 到 1.14x 内，Mac Mini M4 Pro 可跑 Mistral-Small-24B Q4_K_M 约 13.5 tok/s。
GitHub 上的 GenAI-AgenticAI 仓库提供一套从入门到进阶的生成式 AI 与智能体系统知识库，涵盖 LLM、prompting、嵌入向量、RAG、微调、多智能体系统、MCP、A2A 及系统设计。内容按编号目录组织，包括 Agentic AI、生产级 AI 工程（评测、安全、可观测性、延迟与成本）、设计模式与 AI 战略，并提供多条学习路线。
研究者提出 TRACE，一个面向 MoE 语言模型 RL 训练的 FP4 量化框架，用 rollout 侧量化结果引导训练侧 FP4 舍入决策，直接缩小训练与 rollout 两条量化路径的差异。它还采用选择性保留尾数与 scale 信息的量化缓存方案以降低存储和通信开销。在四个大规模 MoE 模型的推理、编码和长程 RL 任务上，TRACE 实现 FP4 权重/激活与 FP4 KV-cache 联合 rollout，RL 性能与 BF16 rollout 相当，rollout 最高加速 5.4x，最终 FP4 性能优于 BF16 训练策略的事后 FP4 量化。
研究者提出 DyPAM（Dynamic Positional Attention Modulation），一种参数高效微调（PEFT）方法，通过在 query 和 key 表示上进行输入条件化、维度级调制，并结合 head 级与 layer 级结构调制，对 RoPE 引入的位置注意力做细粒度适配，且不修改预训练骨干。在多个骨干模型的数学与常识推理 benchmark 上，DyPAM 持续超越现有强 PEFT 基线，论文已被 KDD 2026 接收。
Adaption Labs 发布 adaption-cursor-plugin，用于在 Cursor 中连接 Adaption 进行数据集管理与微调。插件支持从 Cursor Marketplace 一键安装、从 Git 仓库导入为 Team Marketplace，或通过 install-local.sh 脚本本地安装，需配置 ADAPTION_API_KEY（仅接受 API key，否则返回 403）。功能包括从 HuggingFace、Kaggle 或 Google Sheets 导入数据集、运行 adaptation pipelines、启动训练任务，以及用 Invent 从自然语言描述生成合成训练数据。
SaibaWaipu 的 make-it-flash 仓库是一个实验代码，将 LLM-jp 4.1 32B-A3B thinking（revision cda260706786758045e5e96bf4d738bbc01155b5）的 attention 替换为 Gated DeltaNet（GDN），当前仅做单层 pilot，输出单独 GDN block 和 fitting metrics，不生成可加载的 hybrid Causal LM。流程分 prepare、cache、fit 三段，cache 需至少 66 GiB 空闲 VRAM；标准运行方式为 Hugging Face Jobs，默认 a100-large、timeout 4 小时，约 $2.50/时，最多约 $10。
GitHub 开源项目 ASPIRE（Adversarial Student-Professor Internalized Reasoning Engine）提出让 AI 内化“导师思维方式”的训练框架：学生模型、批评模型与教师模型通过对抗式对话，训练 critic 预测教师的评分与推理，学生再从内化的批评中学习。
Google 发布了基于 JAX 的后训练库 Tunix（Tune-in-JAX），目前处于 V2 发布状态，支持 SFT、PPO、GRPO 等强化学习以及多轮工具使用和异步 rollout 的 Agentic RL。该库与 Flax NNX、MaxText 集成，并通过 vLLM 和 SGLang-JAX 在 TPU 上做推理 rollout，支持 Gemma、Llama、Qwen 模型族，可借助 Pathways 扩展到数千设备的多主机分布式训练。
GitHub 仓库 enhancing-llms 公开了论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现与实验，探索面向特定领域任务的先进微调方法。该方法在 GLUE 和 SuperGLUE 基准上取得 SOTA 结果：GLUE 从基线 84.2% 提升至 92.5%（+8.3%），SuperGLUE 从 76.8% 提升至 89.3%（+12.5%）。仓库采用 MIT 许可证开源，包含训练脚本、实验配置和评测工具。
GitHub 仓库 enhancing-llms 发布了论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现与实验，探索面向特定领域任务的新型微调方法。该方法在 GLUE 和 SuperGLUE 上取得 SOTA 结果：GLUE 从基线 84.2% 提升至 92.5%（+8.3%），SuperGLUE 从 76.8% 提升至 89.3%（+12.5%）。项目提供源码、训练与评估脚本，采用 MIT 许可证开源。
GitHub 仓库 abristo/enhancing-llms 发布论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现与实验，探索面向领域任务的新型微调方法。该方法在 GLUE 上达 92.5%（较基线 +8.3%）、SuperGLUE 上达 89.3%（较基线 +12.5%），并提供领域适配和高效训练流水线。仓库采用 MIT 许可证开源，附带 ACL 2024 论文引用信息。
GitHub 仓库 somandra4/enhancing-llms 提供论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现与实验代码，探索面向领域任务的新型微调方法。其方法在 GLUE 上取得 92.5%（较基线 +8.3%）、SuperGLUE 上取得 89.3%（较基线 +12.5%）的成绩，采用 MIT License 开源，并附训练脚本、实验配置与分析 notebooks。
Berkeley Sky Computing Lab 与 Anyscale 合作的全栈强化学习库 SkyRL，包含 skyrl、skyrl-gym、skyrl-agent 等组件，支持在自有硬件上做 RL 训练并实现 Tinker API 后端。仓库整合了 skyrl-train、skyrl-tx、skyrl-agent 与 skyrl-gym，后者提供基于 Gymnasium API 的数学、编码、搜索和 SQL 工具使用环境；动态记录了 2025 年 5 月 SkyRL-v0 发布至 2026 年 9 月与 Mercor 合作发布 APEX-Agents 数据集长时程知识工作配方等进展，并提供 v0.3.0 发布、多 LoRA 持续学习、vLLM 原生 RL API 等博客链接。
GitHub 上线 ATML PA2 课程作业仓库 Saad-0000/ATML-PA2-LLM-PostTraining，提供 DPO、PPO、GRPO、安全校准及 RLVR 与 RLAIF 对比共 5 个任务。代码刻意不完整，学生需自行实现训练循环与消融编排，每个核心目标代码含一个预设算法缺陷待修正。课程资产通过 GitHub Release 下载，参考环境锁定 Transformers 4.57.1、TRL 0.27.2、PEFT 0.17.1。
NVIDIA 开源的 NeMo AutoModel 是 PyTorch DTensor 原生的 SPMD 训练库，支持 LLM、VLM、扩散模型和检索模型的预训练、SFT、LoRA/QLoRA 微调与知识蒸馏。同一训练脚本通过修改 device mesh 配置即可从 1 GPU 扩展到 1000+ GPU，支持 FSDP2、TP、CP、PP 等可组合并行、FP8/MXFP8 训练、MoE 加速（DeepEP）、序列打包与异步 checkpointing，与 Hugging Face 生态兼容实现 day-0 模型支持。
推荐理由：官方仓库给出了从单卡到多节点的 YAML 配方和模型覆盖清单，读者可以据此评估是否用它做 LLM/VLM 微调。
sparkdoc 在 GitHub 发布 Layerwise Function Anchoring（LFA）工具，通过估计各子模块隐状态分布 p(h) 并在微调时惩罚输出偏移，使模型适配新领域的同时不依赖旧数据回放或权重冻结来保留原有能力。工具完全本地运行于单张 CUDA 卡，无需 API key，为 Qwen3-0.6B 和 Qwen3-1.7B 提供预计算 artifact（132 MB / 265 MB，经哈希校验下载），输出可直接用 AutoModelForCausalLM.from_pretrained 加载的 Hugging Face checkpoint。
推荐理由：原文给出完整命令流程和双轴评测数据，还用对照实验区分锚定效果与训练剂量，读者可按需复现到自己的语料。
GitHub 上的 tllm（transparent lightweight language modeling）是一个面向个人研究者和团队的 LLM 指令微调训练库，强调可复现、数据质量与人类监督。它内置数据去重、毒性过滤、LoRA/QLoRA 等 Adapter 优先设计、实时训练遥测、沙箱对抗评估，覆盖 40 多个语系，并每次实验产出可复现的 YAML manifest。
GitHub 上的 ai-pretraining-llm 项目以 TinySolar-248m-4k 模型为例演示 continued pretraining，通过调整权重让模型更好地预测下一个 token，示例仅跑 30 步训练。项目用 Weights & Biases 监控训练过程，可在 CPU 上运行，GPU 用户可将 main.py 中 device_map 改为 auto 提速。文中指出从零预训练成本可达数十万美元、耗时数周甚至数月。
GitHub 用户 wdenejko 发布 aviai 仓库，一个用于应用 LLM 实践的个人学习沙盒，采用 uv workspace 结构，涵盖数据集构建、eval harness、微调与 RAG。其中 avtext 项目构建 METAR/TAF 解码数据集与评测基准，并验证对 Gemma 4 E4B 做 LoRA 微调能否超越基座模型，成果 aviai-e4b 已上线 Hugging Face；dsbench 为 Qwen3.x-35B 微调研究提供执行验证基准，v1 与 v2 均已可用。
作者 Mal1cc 在 Hugging Face 放出 Qwen3.5-9B 的 HERETIC 无审查微调版，用 Unsloth 在本地硬件上以 Claude 4.6 大型蒸馏数据集微调，称将 Qwen 思考替换为 Claude 4.6 式思考且基准有所提升。去审查数据显示 100 题拒绝数从原版 100 降至 6，KL 散度 0.0793；ARC 等 7 项基准给出 thinking、instruct 版与原模型对比分数，视觉输入经测试可用，视频部分未测试。建议最低 q4ks（非 imatrix）或 IQ3S（imatrix）量化，默认上下文 256k，其他版本仍在测试中。
推荐理由：作者给出了各基准的前后对比、KL 散度和 100 题拒绝率数据，读者可以据此自行判断这个去对齐微调版的质量。
GitHub 仓库 llm-adaptive-learning 开源了 ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现，让 LLM 在动态环境中实时自适应且避免灾难性遗忘。方法在多类动态环境中较基线提升 16.8%-19.1%，如时间变化场景从 69.8% 提升至 88.9%。项目采用轻量级更新机制无需全量重训，基于 Apache 2.0 许可开源。
GitHub 仓库 llm-adaptive-learning 发布了 ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现，让 LLM 在动态环境中实时调整行为。方法包含自适应参数更新、动态记忆管理、环境检测和防灾难性遗忘机制，无需全量重训练。实验显示在话题切换、新领域、混合上下文、时序变化四类场景中，相比基线提升 16.8%-19.1%，项目采用 Apache 2.0 许可证开源。
GitHub 仓库 muchiecents-bot/enhancing-llms 实现了论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques"，探索改进 LLM 在领域特定任务上的微调方法。该方法在 GLUE 上取得 92.5%（基线 84.2%，+8.3%）、SuperGLUE 上取得 89.3%（基线 76.8%，+12.5%）的结果，采用 MIT 许可证。