新闻、仓库与研究，按时间排列。
GitHub 仓库 llm-adaptive-learning 发布了 ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现，让 LLM 在动态环境中实时调整参数与行为，无需全量重训。方法包括自适应参数更新、动态记忆管理、环境检测和防灾难性遗忘机制。在四类动态环境中较基线提升 +16.8% 至 +19.1%，如 Temporal Changes 场景从 69.8% 提至 88.9%，项目采用 Apache 2.0 开源。
Jiachen Zhao 在 arXiv 发布论文提出 Persona Hierarchy Model，用共享默认人格解释微调行为在不同情境下的泛化差异。基于 Qwen3-4B 等共 120 个微调模型、4 种行为和 15 个训练情境的实验显示，泛化窄度与训练情境人格和默认人格的相似度正相关（Pearson's r = 0.72）；在默认情境下先微调可拓宽后续泛化。作者还提出 persona-preserving regularization（PPR），在 RL 中将 reward hacking 从 42-55% 降至最多 0.2%，同时保留准确率提升。论文链接 https://arxiv.org/abs/2610.09384v1
推荐理由：论文用 120 个微调模型的数据解释行为为何跨情境泛化，并给出能将 reward hacking 压到 0.2% 的正则化方法。
研究者提出 CHASE（Channel-Aligned Structure Exploitation），利用几何与谱对齐（GSA）刻画的结构开展模型修改、重构与压缩，共覆盖六项应用。其中 CORA、COEC、CORAM 分别用于参数高效微调、结构化剪枝补偿和模型合并，新方法 CAGA 通过多头注意力共享 KV 表示改进 MHA-to-GQA 转换，SAKV 与 CAPS 分别在 KV-cache 压缩和结构化剪枝上优于代表性基线。结果表明 GSA 识别的结构可直接用于多种模型操作的方法设计。
Tianle Wang 等在 arXiv 发布论文，提出 Step-Aligned Privileged Distillation（SAPD），一种免 rollout 的自蒸馏方法，将示范解法转化为步对齐的分布性监督。在数学推理基准上平均优于 SFT 和标签平滑，与 on-policy 强化学习和自蒸馏相当，同时大体保持域外编码性能，训练循环较 on-policy 基线提速约 2x。代码已开源。
Jonghyun Han 在 arXiv 发布论文，发现持续预训练和微调中的灾难性遗忘集中在语料中罕见出现的 token 的输出嵌入，由 Adam 二阶矩归一化放大单侧 softmax 梯度所致。提出仅对输出投影提高 Adam epsilon 的干预，在 160M 到 12B 参数、四个模型族的八个设置中消除 39.4% 到 67.9% 的遗忘且不损害目标学习，与 replay 叠加后在 Qwen/Korean 上达到 79.8%，但事后编辑漂移行只能恢复不到 5%，因此必须在训练期间施加干预。
推荐理由：论文把灾难性遗忘定位于低频词的输出嵌入，并给出仅调 Adam epsilon 的单行干预及其跨 8 个设置的验证数据。
Jackrong-llm-finetuning-guide 是一份面向新手的端到端 LLM 微调指南，覆盖 Windows 本机和 Google Colab 两种运行方式，适合内存有限的机器。它以 Llama 3、Qwen 2.5、DeepSeek 蒸馏模型等 Hugging Face 开源模型为例，讲解数据集准备、LoRA/PEFT 训练、导出与上传全流程，并使用 PyTorch 和 Unsloth 降低内存占用。
GitHub 仓库 enhancing-llms 实现了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的微调方法，用于提升 LLM 在特定领域任务上的表现，并在 GLUE 和 SuperGLUE 上取得 SOTA 结果。其中 GLUE 从基线 84.2% 提升至 92.5%（+8.3%），SuperGLUE 从 76.8% 提升至 89.3%（+12.5%）。项目采用 MIT 许可证开源。
IndustrialGrip 在 GitHub 开源了 ICML 2025 论文《Adaptive Learning Strategies for Large Language Models in Dynamic Environments》的实现仓库，支持 LLM 在动态环境中实时调整行为且不发生灾难性遗忘。该方法在多类动态环境上较基线 LLM 提升 16.8% 至 19.1%（如时间变化场景 69.8% 对 88.9%）。项目采用 Apache 2.0 许可证，提供训练、评估与环境模拟脚本。
ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现已在 GitHub 开源，采用 Apache 2.0 协议。该方法支持实时参数调整、动态记忆管理与防灾难遗忘机制，无需全量重训练。在动态环境中，性能较基线提升 +16.8% 至 +19.1%，如时间变化场景从 69.8% 提升至 88.9%。
GitHub 仓库 riverhe459-lgtm/enhancing-llms 开源了论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现与实验代码，探索面向领域任务的高级微调方法。该方法在 GLUE 上达 92.5%（较基线提升 +8.3%），SuperGLUE 上达 89.3%（提升 +12.5%）。仓库采用 MIT 许可证，附带 ACL 2024 引用信息。
PyTRIO Code Assistant Skill v2.0.0 是一个帮助 AI 编程智能体生成 PyTRIO SDK 远程 LLM 训练与推理代码的工具包，可自动处理分布式训练、数据分片、checkpoint 和身份认证。它开箱集成 OpenAI API 和 Claude API，支持 Claude Code、OpenAI Agents 及 LangChain 兼容系统，宣称智能体首次生成正确代码的比例为 93%，可自动管理 1-1000+ 节点并拦截 50+ 常见编码错误。
ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现代码已在 GitHub 开源，采用 Apache 2.0 协议。该方法支持 LLM 实时自适应调整、持续学习且避免灾难性遗忘，无需全量重训练，在多个动态环境测试中较 baseline 提升 16.8%-19.1%（如时序变化场景 69.8% 提升至 88.9%）。
GitHub 仓库 enhancing-llms 实现了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》中的微调方法，面向领域特定任务提升 LLM 性能。其方法在 GLUE 和 SuperGLUE 上分别取得 92.5% 和 89.3% 的成绩，比基线提升 +8.3% 和 +12.5%。仓库包含训练、评估脚本与实验配置，基于 MIT 许可证开源。
该 LlamaIndex 示例展示如何用 MistralAI 微调 API 微调 open-mistral-7b，以 IPCC_AR6_WGII_Chapter03.pdf 为数据源，先用 mistral-small-latest 生成 40 条训练和 40 条评估问题，再用 mistral-large-latest 生成合成数据输出 training.jsonl，并通过 MistralAIFinetuneEngine 完成微调。评估使用 Ragas 库和 OpenAI，指标由 Weights & Biases 监控。微调后 open-mistral-7b 的 answer_relevancy 从 0.8247 升至 0.8442，faithfulness 从 0.9296 升至 0.9635。
cavi-ai 在 GitHub 发布 mlx-workbench，一个面向 Apple Silicon 的浏览器前端，通过子进程调用 mlx-agent 完成 GGUF 扫描、HF 缓存转换、量化、服务与 LoRA 训练，UI 服务器仅依赖标准库并只绑定 loopback。配套的原生 SwiftUI 应用 mlx-mac 增加转换质量门（canary 探测）、实测 tok/s 与 TTFT 对比、模型溯源时间线、内存适配建议和 GGUF 隔离回收等功能。转换全程采用 preview/confirm 机制，HTTP API 带 per-process session token，MIT 许可。
推荐理由：README给出了完整的安装流程、功能清单和安全边界，读者可以据此评估这个 Apple Silicon 本地 MLX 模型管理工具是否够用。
IBM 以 alpha 状态开源了 Granite.Build，用于在 YAML 中定义多步骤 LLM 构建流水线，涵盖模型下载、微调、评测和部署，可在本地或云端执行。系统由编排服务器 gbserver（REST API + BuildWatcher）、命令行客户端 gb 和 build.yaml 三部分组成，支持 Docker、Kubernetes、Bash、RunPod、SkyPilot 等执行环境，目标之间通过 artifact 绑定自动触发下游任务，内置 HuggingFace Hub 集成与 lineage 追踪，附带 Web 仪表盘、Agent Skills 和基于 MCP 的 gbmcp 工具集（18 个工具），采用 Apache License 2.0。
推荐理由：原文完整给出了 YAML 管线定义、多环境执行和依赖绑定的设计细节，读者可以照着快速上手部署自己的 LLM 训练流水线。
gke-labs 发布 OpenRL，一个可在自有机器或 Kubernetes 集群上自托管的 Tinker 兼容 API，用于微调大语言模型。研究者可用 Tinker SDK 在本地用命令式 Python 编排 RL 训练循环，多个 RL 任务可并发共享 GPU 以提升利用率；项目支持本地原型开发后远程扩展，含 autoresearch 配方、SFT 与 RL 示例，采用 Apache 2.0 许可证，非官方支持的 Google 产品。
推荐理由：原文讲清了 OpenRL 如何把训练基建抽象成 Tinker 兼容 API，读者可以了解自托管 RL 微调的可行架构和 GPU 复用思路。
GitHub 上的 llm-finetune 项目提供纯 C++ 单头文件工具，用于将原始数据转换为微调数据集（如 llm-finetune prepare --input yourfile.txt --output dataset.jsonl），并通过 API key 直接向 OpenAI 或 Anthropic 提交微调任务。它零依赖、免安装，支持 --provider 切换服务商，以及 --output、--verbose、--job-name 等配置选项。工具需 Windows 10 及以上（64 位推荐）、4 GB 可用磁盘空间和网络连接。
GitHub 开源项目 NanoMind 发布 v3.0.0，用 30 天、605 次 commits 从零实现了一个覆盖现代大语言模型完整技术栈的 PyTorch 库。它包含 21 个子包，涵盖 BPE 分词、Transformer、Flash Attention、MoE、RLHF、DPO、知识蒸馏、INT8 量化与 REST API 服务，且无强制外部依赖。项目采用 MIT 许可证开源。
GitHub 上的 faisu6339-glitch/LLMs 仓库收录了一套从入门到进阶的大语言模型实现、教程与实战示例，使用 Python、TensorFlow、PyTorch、Hugging Face Transformers、LangChain 和 OpenAI APIs。内容覆盖 Transformer 架构、GPT 到 GPT-5 等主流模型、LoRA/QLoRA 微调、提示词工程、向量数据库、RAG 与 AI Agents，共 21 个目录并附学习路径。仓库开源、面向学生与工程师，可用于学习、面试准备和实际项目，未来计划补充 RLHF、DPO、MCP 等主题。
GitHub 开源仓库 awesome-llm-interview-code 按 13 个模块整理 LLM 面试知识点，覆盖注意力机制、RoPE、MoE、LoRA、KV cache、推理优化等主题。每个题目包含原理描述、核心公式、ASCII 张量流程图、可运行 Python 代码实现和面试要点。
GitHub 仓库 mycodingjounrey/Fine-Tuning-LLM-with-Unsloth 记录了使用 Unsloth.AI 学习微调大语言模型的过程。仓库包含 Hermes-3 微调 Notebook，以及 Phi_4 和 gpt-oss 相关的示例文件。
GitHub 开源项目 flame 是一个基于 torchtitan 构建的极简高效语言模型训练框架，可无缝集成 fla 与 transformers，支持在线 tokenization、数据集打乱等零成本数据预处理，4D 并行即将推出。项目提供在 Fineweb-edu 的 sample-100BT 子集上从零训练 340M FLA Transformer（LLaMA-like 架构）的完整配方，默认学习率 1e-3、cosine 调度，也支持 WSD（wsd）等调度器，默认 8 卡、NGPU=1 可单卡调试。
AMD 在 GitHub 开源 hip-kernel-llm-lab，一个涵盖持续预训练（CPT）、监督微调（SFT）和强化学习（RL）三个阶段的 LLM 训练框架，用于训练模型生成、理解和优化 HIP kernel。仓库还提供 hip-kernel-generator 数据生成工具，支持 PyTorch 到 HIP kernel 的转换与优化，训练数据托管在 Hugging Face 的 amd/hip_llm_dataset。CPT 和 SFT 基于 LLaMA-Factory，RL 部分提供基于 veRL 的 HIP 训练栈及 32-MI325X 的多轮 Triton RL 配置。
该仓库提供 LLM-JEPA 与 Semantic Tube Prediction 微调的完整实现，包括 stp.py 与 finetune.py 脚本、消融研究选项和 JEPA-loss 的多种替换方式。最新版本用 4D additive attention mask 将 Text 和 Code 的两次前向合并为一次，并支持 --jepa_ratio 随机 JEPA-loss dropout，在 LD=0.75 时约 1.25X 算力即可维持微调性能；另提供 8B 模型在 H200 上训练的脚本、LoRA 微调与预训练流程，实验固定 4 个 epoch、5 个随机种子并报告平均准确率与标准差。
开源项目 TinyDTVi 从零预训练了约 500M 参数（509M）的越南语 causal 语言模型，可在单张 RTX 3080（12GB）上完成训练。模型采用 24 层、16 头、embedding 维度 1088、1024 token 上下文，融合 RMSNorm、SwiGLU、RoPE 等现代改进，并使用 50,304 token 的定制 BPE 分词器。训练数据处理了 135GB 越南语原始文本，仓库含完整代码，模型权重与论文后续将在 HuggingFace 和 arXiv 发布。
基于 Qwen3.5-4B 的社区对话/角色扮演微调模型在 Hugging Face 发布，提供 ~3.5 GB 的 Q6_K GGUF 量化文件，支持 llama.cpp、LM Studio 和 Ollama。模型用 Unsloth QLoRA（rank 16、alpha 32）在 AMD RX 6700 XT 上训练，数据集约 11,400 行对话，最终 train loss 约 0.92，上下文最长 2048 token。另有 ~672 MB 的 F16 视觉投影文件，仅图像输入时需要。
lecharles 在 GitHub 发布 llm-fine-tuner-agent-tester，让用户在 Apple Silicon Mac 上用 MLX + QLoRA 微调小型开放权重 LLM，一条命令安装。流程包括用自然语言生成或从 Hugging Face、CSV/JSONL 导入 Q&A 数据集、训练时实时绘制 loss 曲线、将 adapter 融合后导出 GGUF 供 Ollama 运行，并在多列聊天界面对比微调模型、未微调 base 与 OpenAI、Anthropic 托管模型，回答限约 150 词。VPS 版只支持生成与对比，训练返回 425 需在 Mac 应用进行；需约 10 GB 磁盘空间，v0.1.0 已于 9 月 30 日发布。
推荐理由：原文给出了从数据集构建、QLoRA 训练到多列对比聊天的完整本地微调流程，读者可以照着在 Apple Silicon 上复现。
mlx-node 项目开源，可在 Node.js 中运行 MLX 模型，公开 API 为 TypeScript，原生层用 Rust 和 C++，运行时无需 Python。支持语言和多模态推理、HTTP 服务器、模型转换及 GRPO/SFT 训练，主要面向 Apple Silicon Metal，另有在 NVIDIA GB10 / DGX Spark 上的实验性 CUDA 后端（仅推理）。CLI 需 Node.js 22.19+，macOS 二进制要求 macOS 26+。
推荐理由：在 Node.js 里跑 MLX 模型的完整工具链，推理、训练、多模态一站式覆盖，对 Apple Silicon 本地部署有直接参考价值。
NVIDIA 基于 Nemotron 3，通过 SFT、RL 和反馈驱动推理分别构建了达到 IMO 2026 和 IOI 2026 金牌水平的系统。IOI 2026 上 Nemotron-3-Ultra-CC 得 535.4/600，高于 361.12 的金牌线和 498.27 的人类最高分；IMO 系统用 SFT 与 RL 检查点加 generate-verify-refine 流程得 30/42，超过 29 分金牌线，全程仅用自然语言，无形式化证明器或外部工具。SFT/RL 检查点、训练数据集、含 200 道竞赛题的 Nemotron-IMO-Bench 及 NeMo-Skills 推理管线已在 Hugging Face 开放。
推荐理由：原文完整给出了两个项目的训练数据规模、各阶段分数和可复用的四步特化配方，权重、数据和推理管线都已开放。
SIS（Selective Importance Sampling）发布首个公开版本，通过将 off-policy 样本转化为 on-policy 训练素材，提升 LLM 强化学习训练的效率与稳定性。该项目内置 SIS 插件，支持数学强化学习（GRPO/CISPO）和智能体搜索强化学习（GRPO/DAPO/GSPO）训练方案，代码已在 GitHub 开源，配套论文发布于 arXiv:2607.04728。
bitbeen 在 GitHub 发布 llm-min-train 仓库，从随机初始化训练一个约 0.75B 的解码器 TinyLM（24 层、隐层 1536、24 头），不加载任何第三方权重，涵盖分词器、RMSNorm、RoPE、SwiGLU、第 2 层 4 专家 MoE、视觉补块和工具调用循环。训练按预训练、监督微调、DPO、LoRA、图像视频、工具调用等阶段推进，DPO 用冻结参考拷贝，GRPO 默认关闭，LoRA 秩 8、α=16，算术由程序解析 <工具> 调用完成而非网络内计算。语料为手写中文样本加 WikiText-2，仓库明确说明只够跑通机制，不与千亿参数模型比通用能力，也不附带语料和权重。
推荐理由：仓库把预训练、SFT、DPO、GRPO、LoRA、MoE 和工具调用全部摊在一个目录里，想通读训练链路实现细节的读者可以直接对照源码。
ATML PA2（LLM Post-Training）课程作业的学生 starter 仓库上线，涵盖 DPO、PPO、GRPO、安全校准与 RLVR vs RLAIF 五个任务。课程资产（固定数据集、诊断缓存和续训 checkpoint）通过 GitHub Release 以 pinned revision 0b350481fb03f5525a35bcdec4131bd4fe487f98 分发；环境固定 Transformers 4.57.1、TRL 0.27.2、PEFT 0.17.1。Tasks 1-3 各含一个刻意算法缺陷待学生修正，PPO/GRPO 从提供的 midpoint checkpoint 续训，RLVR 和 RLAIF 使用冻结策略仅做评估，续训生成上限默认 512 tokens。
Physical Intelligence 团队在 GitHub 开源 openpi 仓库，提供三款机器人视觉-语言-动作模型：π₀、采用 FAST action tokenizer 的自回归版本 π₀-FAST，以及通过 knowledge insulation 提升开放世界泛化能力的 π₀.₅。所有模型附带基于数千小时机器人数据预训练的 base checkpoints 和示例代码，支持用户直接使用或对自有数据集微调。
一份从 LLM 和 Transformer 理论转向动手实践的学习路线图，目标在 9 月底前掌握微调与训练。内容按 8 个阶段推进，覆盖 Tokenization、Embeddings、向量数据库（ChromaDB、FAISS、Qdrant）、RAG、Hugging Face 数据管道，以及 LoRA / QLoRA / PEFT 实操微调。硬件策略建议本地用 0.5B–1B 小模型起步，7B 用 QLoRA，算力不足时改用 Google Colab 或 Kaggle GPU。
GitHub 仓库 enhancing-llms 公开了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验代码，探索超越传统方法的微调策略与领域适配技术，采用 MIT 协议。其微调方法在 GLUE 上达 92.5%（基线 84.2%，提升 +8.3%），在 SuperGLUE 上达 89.3%（基线 76.8%，提升 +12.5%）。
GitHub 仓库 crensv/enhancing-llms 实现了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》中的高级微调方法，用于提升 LLM 在领域特定任务上的表现。据仓库数据，其方法在 GLUE 上从基线 84.2% 提升到 92.5%（+8.3%），在 SuperGLUE 上从 76.8% 提升到 89.3%（+12.5%）。项目采用 MIT License 开源，包含训练、评测脚本与实验配置。
GitHub 仓库 enhancing-llms 开源了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验代码，探索提升 LLM 在领域特定任务上的微调方法。该方法在 GLUE 上从 baseline 84.2% 提升至 92.5%（+8.3%），在 SuperGLUE 上从 76.8% 提升至 89.3%（+12.5%）。项目采用 MIT 许可证，包含训练、评估脚本和单元测试。
GitHub 仓库 enhancing-llms 发布了论文《Enhancing LLMs with Advanced Fine-Tuning Techniques》的实现与实验代码，探索面向领域任务的新型微调方法。该方法在 GLUE 上取得 92.5%（对比基线 84.2%，提升 8.3%），在 SuperGLUE 上取得 89.3%（对比基线 76.8%，提升 12.5%），达到 SOTA 结果。仓库提供训练、评估脚本与实验配置，采用 MIT 许可证开源。
GitHub 仓库 igersuinv/enhancing-llms 实现了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》，提供面向领域任务的高级微调算法与领域适配技术。其方法在 GLUE 上取得 92.5%（提升 8.3%）、SuperGLUE 上取得 89.3%（提升 12.5%）的 SOTA 结果。仓库采用 MIT 许可证开源，包含训练、评估脚本与实验配置。