新闻、仓库与研究，按时间排列。
论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 被 ICML 2025 接收，其实现已在 GitHub 开源。该方法支持实时参数调整、动态记忆管理、环境检测，并防止灾难性遗忘，无需完整重训。在四类动态环境测试中，新领域提升 +18.1%，时序变化提升 +19.1%，项目采用 Apache 2.0 许可证。
GitHub 仓库 gogbylq/enhancing-llms 实现了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的微调方法，聚焦领域适配与高效训练，在 GLUE 和 SuperGLUE 上取得 SOTA 结果：GLUE 从基线 84.2% 提升至 92.5%（+8.3%），SuperGLUE 从 76.8% 提升至 89.3%（+12.5%）。该项目基于 ACL 2024 论文，采用 MIT License 开源，并提供训练、评测脚本与 Jupyter notebooks。
GitHub 仓库 enhancing-llms 公开了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验，探索面向领域任务的新型微调方法。该方法在 GLUE 上从基线 84.2% 提升至 92.5%（+8.3%），在 SuperGLUE 上从 76.8% 提升至 89.3%（+12.5%），并支持基于 bert-base-uncased 在 GLUE 任务上微调与评测。项目采用 MIT License 开源。
ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现代码在 GitHub 开源，提出让 LLM 在动态环境中实时调整行为的自适应学习框架。方法支持无灾难性遗忘的持续学习与轻量更新，无需全量重训练；在主题切换、新领域、混合上下文、时序变化四类场景中分别取得 89.7%、86.2%、91.3%、88.9% 的成绩，较基线提升 16.8%-19.1%。项目采用 Apache 2.0 许可证。
GitHub 开源仓库 enhancing-llms 提供论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验，探索新的微调方法提升 LLM 在特定领域任务上的表现。其方法在 GLUE 上取得 92.5%（基线 84.2%，提升 +8.3%）、SuperGLUE 上取得 89.3%（基线 76.8%，提升 +12.5%）的 SOTA 结果，并含领域适配与高效训练流水线。项目采用 MIT License 开源。
论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments"（ICML 2025）的实现代码库已在 GitHub 开源，采用 Apache 2.0 许可证。该方法支持 LLM 在动态环境中实时调整参数、持续学习且避免灾难性遗忘，无需全量重训练。在主题切换、新领域、混合上下文和时间变化四类环境中，性能较基线分别提升 17.4%、18.1%、16.8% 和 19.1%。
GitHub 仓库 enhancing-llms 提供论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现，探索超越传统方法的微调策略与领域自适应技术。其方法在 GLUE 上达 92.5%（基线 84.2%，+8.3%）、SuperGLUE 上达 89.3%（基线 76.8%，+12.5%），并提供优化训练管线。项目采用 MIT License 开源。
论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 被 ICML 2025 接收，其实现代码开源在 GitHub 仓库 llm-adaptive-learning，采用 Apache 2.0 许可证。该方法支持实时参数调整与动态记忆管理，无需完整重训练，且避免灾难性遗忘。在四类动态环境中性能较基线提升 +16.8% 至 +19.1%，如新领域 68.1% 提至 86.2%、时序变化 69.8% 提至 88.9%。
devcoderb 在 GitHub 开源了课程作业 llm-assignment-1a 仓库，实现了两阶段模型适配流程：先在 10 份来自 RBI 和 SEBI 的金融 PDF 语料上做 Continued Pretraining（CPT），再用金融指令数据集进行 QLoRA 监督微调。流程覆盖 PDF 抽取、清洗、tokenization 与打包、基于 held-out perplexity 的领域评测，并对比 Base、CPT 与 CPT+QLoRA 三个阶段的效果。
ai4os 的 arena-fl-server-llm 仓库提供了在 EOSC ARENA 上运行、基于 Flower 的联邦 LLM 服务器（SuperLink）部署，各节点上的客户端（SuperNode）用本地数据集连接训练。默认模型为 Qwen/Qwen2.5-0.5B，量化设为 4，训练 10 轮、每轮 3 epoch，客户端启动示例为 ./start_supernode.sh，可通过 flwr run . remote 发起远程运行。项目采用 Apache 2.0 许可证，由欧盟 EOSC-ARENA 项目（Horizon Europe，Grant number 101292597）资助。
bilibili Index LLM Team 发布 Index-Translate 多语言翻译模型家族，基于 Qwen3.5，文本模型覆盖 150 种语言，提供 2B、9B 和 35B-A3B（preview）权重，已在 Hugging Face 和 ModelScope 开放。
推荐理由：原文给出了各尺寸模型的评测数字、量化版本和免费API入口，读者可以直接对比选型并上手部署。
论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments"（被 ICML 2025 接收）的实现代码已在 GitHub 开源，采用 Apache 2.0 许可证。该方法支持实时参数调整、动态记忆管理与防灾难性遗忘，无需完整重训。在四类动态环境中较基线提升 16.8%–19.1%，如话题切换 89.7% 对 72.3%、时序变化 88.9% 对 69.8%。
GitHub 仓库 enhancing-llms 实现并实验了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》中的微调方法。其先进微调技术在 GLUE 和 SuperGLUE 基准上分别取得 92.5% 和 89.3% 的成绩，较基线提升 +8.3% 和 +12.5%。项目包含领域适配与高效训练管线，基于 MIT 协议开源，可对 GLUE 任务（如 sst2）进行微调与评测。
GitHub 仓库 enhancing-llms 提供论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现与实验，探索面向领域任务的新型微调方法。其在 GLUE 基准上达 92.5%（基线 84.2%，提升 +8.3%），SuperGLUE 达 89.3%（基线 76.8%，提升 +12.5%），包含模型实现、训练脚本与实验配置，采用 MIT 许可证开源。
这是一个将 SMS Spam Collection 数据集分类为 spam/not_spam 的学习项目，采用 TF-IDF + Multinomial Naive Bayes 和 Logistic Regression 经典基线，以及微调小型 LLM（默认 cointegrated/rubert-tiny2）两条路线。项目支持 Docker 或 Poetry 本地运行，LLM 微调在 CPU 上进行，无需 GPU/CUDA。
GitHub 上的 STEAM-DROPS/finetune-lab-notes 是一个面向学习者和工程师的开源微调实验仓库，涵盖全量微调、LoRA 式参数高效微调、instruction tuning 等多种范式。仓库提供自包含注释式 notebook、多语言数据集实验、可复现配置，兼容 Hugging Face 生态中 encoder-only、decoder-only 与 encoder-decoder 架构，并附偏差与数据来源等安全伦理笔记。
victor-kuznetsov-org 在 GitHub 发布 Databricks LLMOps 课程配套仓库 llmops-victor-bot-1，预先配好开发、验收、生产三个 schema 及 LLM endpoint（course_ops.gateway.chat）、嵌入端点 databricks-gte-large-en 和 Vector Search 端点 vs-llmops。仓库包含 arXiv agent 课程包（含 MCP 工具与 Lakebase 会话记忆），并通过 GitHub Actions 以 OpenID Connect 无密钥部署到 dev、acc、prd 三个目标。
kreuzhofer 在 GitHub 发布 slurm-llm-training-templates，提供 Slurm 集群上大语言模型微调、评测与推理的可用模板，涵盖 Qwen3.8-27B 的 LoRA 与全量微调、merge、评测与 serving，以及 GLM-5.3 用 vLLM 配 FP8 或 NVFP4 权重的推理。模板已在 2 × 8 NVIDIA B300 SXM6、Slurm 25.11.3（Soperator on Nebius）、CUDA 13.0 上验证，Qwen3.8-27B 模板的实测结果见 docs/RESULTS.md，采用 MIT 许可证。
推荐理由：仓库提供可直接复用的 Slurm 微调与推理模板，硬件环境、目录结构和实测结果文档都写清楚了，便于迁移到自己集群。
论文《Adaptive Learning Strategies for Large Language Models in Dynamic Environments》被 ICML 2025 接收，其实现代码已在 GitHub 开源，采用 Apache 2.0 许可证。该方法支持 LLM 在动态环境中实时调整参数与行为，且无需完整重训练、避免灾难性遗忘。在主题切换、新领域、混合上下文和时间变化四类环境中分别较基线提升 17.4%、18.1%、16.8% 和 19.1%。
streamweights 发布开源工具 spill，可在 Mac 或 Linux 上本地微调和蒸馏比内存更大的 LLM，通过按层从磁盘流式读取全精度权重，让 48 GB MacBook 以满精度运行 141 GB 的 Llama 3.3 70B。实测在 M4 Pro 上用 500 条标注样本将 qwen2.5:0.5b 蒸馏出 banking77 分类模型，44 秒完成构建，成绩从基线 0.200 提升到 0.640。支持跨机器可移植的任务状态（s3:// 等路径）断点续跑，可通过 spill export 合并适配器并转 GGUF 供 Ollama 使用，数据不离开本机；目前 spill build 仅在 Apple silicon 上验证通过，NVIDIA CUDA 版待验证。
推荐理由：原文给出了在 48 GB MacBook 上流式运行 141 GB 模型并蒸馏出小模型的实测数据和耗时，方法可直接复用。
kvelmurugan18 在 GitHub 开源 sycophancy-rl，一个通过多轮受控反驳的强化学习来降低 LLM 谄媚行为的可复现管线，奖励抵抗无效施压同时保留对有效更正的接受。管线支持导入用户数据集、4-bit QLoRA/GRPO 训练、同条件前后基准与配对统计对比，首发实验注册 Qwen/Qwen2.5-0.5B-Instruct，可在本地 GPU 容器或 Kaggle GPU 内核运行；仓库未声称任何训练提升，首个 Kaggle smoke 实验仍需操作者执行，代码采用 Apache-2.0 协议。
推荐理由：这是一个可复现的完整管线，从数据导入到训练前后的配对基准对比都有明确契约，适合关注谄媚行为微调的读者参考。
tfwcn 在 GitHub 开源 CrucibleLM，一个约 128M 总参数、48M 激活参数的实验性小模型，将 DeepSeek 式 MLA、细粒度 MoE、MTP 与 Qwen-Next 式混合线性注意力、Muon 优化器等 SOTA 技术融合，用于在 1/1000 规模研究这些方法的行为。模型可在单张 16GB GPU 上从零预训练（约 46 小时），支持 200K 上下文推理（latent KV cache + 稀疏注意力，实测约 0.2GB KV），RTX 3080 Laptop 上约 31 tok/s。
推荐理由：一个把 MLA、混合线性注意力、细粒度 MoE 等 SOTA 架构压进 128M 小模型的实验测试床，单张 16GB GPU 可复现完整训练流程。
作者为 PrismML 的 Ternary Bonsai 2 27B 重训了原针对 bf16 Qwen3.8-27B 的 z-lab DFlash 2 drafter，用 1.5M tokens 的 Bonsai 2 贪心输出微调，并在 Hugging Face 放出 safetensors 和 Q4_K_M GGUF 权重。单张 L4 贪心解码下 GSM8K 2.17x、MBPP 2.17x、MATH-500 2.20x、MT-Bench 1.39x，代码编辑叠加 ngram-mod 后达 3.15x；M4 Pro 上代码补全 1.5x；浏览器内 LocalMind 的 WGSL 移植在代码上 1.18x 且输出一致。作者注明数据来自一台 L4 和一台 M4 Pro，并给出三套运行时的配置文档。
推荐理由：作者重训了投机解码 drafter 并给出三套运行环境的实测加速数据，本地部署 Bonsai 2 的读者可以直接复用配置。
GitHub 项目 Text-LLM-Training-from-scratch 提供从零构建、训练和调优语言模型的教学工具，覆盖 tokenization、预训练、SFT 以及 DPO、GRPO 等对齐流程。项目基于 PyTorch，要求 Windows 10/11、Intel 或 AMD 多核处理器、16 GB 以上内存、显存至少 8 GB 的 NVIDIA GPU 和 20 GB SSD 空间，通过 .exe 安装包在本地运行。
GitHub 开源仓库 harry33span/enhancing-llms 实现了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》中的微调方法，用于提升 LLM 在特定领域任务上的表现。该方法在 GLUE 上取得 92.5%（较基线提升 8.3%）、SuperGLUE 上取得 89.3%（提升 12.5%）的 SOTA 结果。仓库采用 MIT 许可证开源，包含训练、评估脚本与实验配置。
GitHub 开源仓库 SLM-Lab 提供一套结构化的 SLM 与 LLM 动手实验笔记，覆盖从模型加载、微调、知识蒸馏、量化（INT8/INT4/GPTQ/GGUF）到 LLaMA Factory、Unsloth 加速及 RLHF/PPO/DPO 对齐的完整流程。内容含 13 个模块，包括基于 BERT 的 4 项 NLP 任务微调、以 TinyLlama-1.1B 构建药理学领域助手的四阶段管线，以及支持 100+ 开源 LLM 的 LLaMA Factory 实战教程。
GitHub 仓库 losophy/llm-finetuning-guide 记录大语言模型 LoRA 与 QLoRA 微调的学习路径，分为原理、Unsloth 纯代码跑通 Qwen2.5 微调、LlamaFactory 工业化封装、评估部署四个阶段，并含用蒸馏把 7B 模型知识灌进 0.5B 小模型的实战。仓库整理了 Unsloth（加速 2-5 倍、显存减半）与 LlamaFactory（71K+ Stars）等实战资源清单，强调 70% 时间应花在洗数据、100 条精品数据优先于 10000 条脏数据等心法。
GitHub 仓库 xugng08/llm-adaptive-learning 发布了 ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现，使 LLM 能在动态环境中实时自适应且避免灾难性遗忘。该方法在多类动态环境上较 baseline 提升 +16.8% 至 +19.1%（如时间变化场景 69.8% → 88.9%），采用选择性参数更新等轻量机制，无需完整重训练，项目以 Apache 2.0 许可开源。
该仓库实现了 ICML 2025 论文《Adaptive Learning Strategies for Large Language Models in Dynamic Environments》的自适应学习方法，使 LLM 能在动态环境中实时调整且不发生灾难性遗忘。实验显示方法在 shifting topics、new domains 等四类环境上较 baseline 提升约 +16.8% 至 +19.1%。项目以 Apache 2.0 许可开源，适用于聊天机器人、内容推荐与多语言系统等场景。
论文《Adaptive Learning Strategies for Large Language Models in Dynamic Environments》（ICML 2025）的实现代码在 GitHub 开源。方法支持实时适应动态环境、持续学习且避免灾难性遗忘，无需全量重训练。实验显示在话题漂移、新领域、混合上下文、时间变化四类场景下分别提升 +17.4%、+18.1%、+16.8%、+19.1%，项目采用 Apache 2.0 许可证。
ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现代码在 GitHub 开源，采用 Apache 2.0 许可证。该方法支持实时适应与持续学习且避免灾难性遗忘，在 Shifting Topics 等四类动态环境中性能较 Baseline LLM 提升 16.8%-19.1%（如 Temporal Changes 从 69.8% 提升至 88.9%），无需完全重训练即可轻量化更新。
Lior Baruch 在 Reichman University 的硕士论文仓库中，比较前瞻奖励在 Preference Tree Optimization（PTO）与 GRPO 两种优化器下训练 Llama-3.2-1B 执行动机式访谈（MI）的效果。GRPO 在 K=5 前瞻视野下在全部八个评测量表上胜过 K=0（Wilcoxon 检验 p < .001），Q1+Q2 奖励从基线 3.01 提升到 4.52，且更多学到复杂反映而非空洞表扬，但对阻抗的说服式回应增至 39%；PTO 在 K=0 下更优且算力便宜得多（8.1/19.7 GPU 小时对 GRPO 的 27.9/51.2）。作者注明每配置仅一次训练、无人类评估等局限。
推荐理由：论文给出前瞻奖励在两种优化器下的对照数据和算力成本，读者可以据此权衡奖励视野与优化器的取舍。
GitHub 仓库 Rami2212/PSSN-LLM-Reasoning 提出了用于提升 LLM 推理效率的 Predictive Semantic State Navigation（PSSN）项目，基于未量化 Qwen/Qwen3-4B 模型，在 Hugging Face GSM8K 数据集与 Google Colab 上搭建。项目包含 CoT 基线、答案抽取与准确率评估，默认生成长度 1,024 tokens，使用 BF16（不支持时 FP16），初始实验在固定 seed=42 的 75 题 GSM8K 开发子集上运行，结果以 JSONL 记录 token 数、延迟和 CUDA 峰值内存。
作者在 RuMedTop3（俄语患者主诉预测 ICD-10 编码，105 类，测试集 n=822）上对比了 TF-IDF、DeepSeek 提示/RAG、Qwen3-8B QLoRA 与 Kev-0.8B 直选五种方法。TF-IDF+逻辑回归 Hit@1 49.03 / Hit@3 72.63，零样本 DeepSeek 仅约 33；Qwen3-8B 在 Apple M2 Pro 上用 MLX 训练一轮 QLoRA（6 小时 32 分钟），Hit@1 从基座 7.66 提升到 35.64（配对差 +27.98 点）但仍低于 TF-IDF；Kev-0.8B 零样本 Hit@1 12.41，迁移效果差，中位推理延迟 523 ms。
推荐理由：同一测试集上系统对比了线性基线、API 提示、RAG、QLoRA 和小型模型直选五种方案，并给出置信区间与配对差异，结论克制可复核。
Prime Intellect 在 GitHub 上开放 prime-rl 框架，这是一个面向大规模异步强化学习训练的框架，可扩展到 1000+ GPU，采用 FSDP2 训练和 vLLM 推理，支持 FP8 推理、PD 分离、EP 和 CP 并行。框架原生集成 verifiers 环境与 Environments Hub，覆盖 SFT、RL 训练和评测的端到端后训练流程，支持 GLM-5、Qwen3 MoE、MiniMax M2、GPT-OSS 等模型的优化训练代码，并提供 Slurm 和 Kubernetes 多节点部署及一行式 SLURM 部署示例。项目附带从单张消费级 GPU 到 2048 GPU 的训练示例和文档，采用 Apache 2.0 许可证。
GitHub 仓库 genji970/pretraining_llm_from_scratch 记录从零实现 LLM 预训练的进展，项目仍在进行中。内容涵盖 Chinchilla 缩放律、FineWeb 数据处理管线（CommonCrawl 抽取、过滤、MinHash 去重）、DataTrove、NeMo Curator、Distilbibel 合成数据及 GPU 显存优化，未来计划包括模型并行、deepspeed、flashattention 和 MoE。
Joakimpalm-Zen 发布 xyntetik-runner 1.0.2，一个纯 C 编写的单文件本地推理引擎，支持 Linux、macOS 和 Windows，兼容 GGUF 与 OpenAI、Anthropic API，Apache 2.0 开源。工具可仅读模型文件前几 MB 判断是否装得下，在 72 次测试中 70 次命中真实 GPU/CPU 分层且从不乐观；--kv k8v4 将上下文缓存压到约 41%，空闲时 63 GB 模型仅占 35 MB 内存（llama-server 为 60.8 GB）；被截断的工具调用仍可解析，LoRA 可直接在量化文件上训练，Qwen3-4B 4-bit 工具调用准确率从 0.69 升至 1.00。
推荐理由：README 给出可复现的实测数据，读者可以拿这些数字与 llama.cpp 等现有推理引擎做具体对比。
GitHub 开源项目 PolyglotMind（NLP-LLM-Fine-Tuning-Studio）是一个大语言模型微调工作台，提供模块化训练编排、数据集精炼与开箱支持 40 多种自然语言的评估器。它内置 LoRA 适配器融合、bf16 到 int8 再到 4-bit 的量化阶梯、ZeRO 式分片与 CPU offload 的省显存训练核心，以及记录 seed、库版本、硬件指纹和数据集哈希的可复现性账本，并可完全离线运行。
GitHub 上的探索性项目 llm-survival-time-prediction 用合成临床数据微调 meta-llama/Llama-3.1-8B（4-bit 量化 + LoRA），从自然语言患者特征预测期望生存时间。目标值经 Weibull AFT 残差与 Kaplan–Meier、Buckley–James 方式做右删失校正，代表性设置（rank 16、alpha 32、学习率 5e-5）在 3 个数据种子上平均测试 RMSE 为 3.06 ± 0.47 年，原始输出 invalid ratio 为 0%。项目仅用合成数据、以年龄和治疗分组为输入，未与 Cox 等基准模型对比。
Aravind0403 在 GitHub 开源 AetherControl，一个连接 GPU 硬件执行与后训练开发管线的 LLM 生产级控制平面，涵盖数据预检、DeepSeek-R1 风格 GRPO 微调、vLLM 推理服务与 Kubernetes 遥测四个阶段。实测部分为 RTX 4090 上 vLLM 0.7.2 跑 Qwen2.5-1.5B-Instruct，达到 1,141.41 tokens/s、TTFT P50 22.1ms，成本 $0.08–$0.10 每 1M tokens；GRPO 训练批数学准确率从 42% 提到 70%（作者注明非 held-out 测试）。仓库提供 64 个 CPU 可跑的单元测试、指标溯源注册表和 HuggingFace 上的微调模型与数据集，MIT 协议。
推荐理由：仓库把每项指标都标注了实测、训练批或分析模型分类并附复现路径，还提供零 GPU 的 CPU 单测入口，便于读者自行验证。