enhancing-llms：用高级微调技术增强大语言模型（LLM）的开源仓库
GitHub 仓库 enhancing-llms 实现了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》中的微调方法，面向领域特定任务优化预训练模型。
#微调
新闻、仓库与研究，按时间排列。
GitHub · 去对齐工具与仓库AI 评分2424 GitHub · 去对齐工具与仓库AI 评分2020 Nailordefend 开源 enhancing-llms：LLM 高级微调技术实现仓库
GitHub 仓库 enhancing-llms 实现了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》中的微调方法，用于将预训练模型适配到特定领域任务。
GitHub · 去对齐工具与仓库AI 评分2020 enhancing-llms：用高级微调技术增强大语言模型（LLM）的开源实现仓库
trisypandi 在 GitHub 开源了论文 "Enhancing Large Language Models with Advanced Fine-Tuning Techniques" 的实现仓库，探索面向领域任务的新型微调方法。
GitHub · 去对齐工具与仓库精选AI 评分7070 
ShadowLM Trainer 开源：面向任意开放模型的微调 SDK
Lyzr Research Labs 在 GitHub 开源了 ShadowLM Trainer，一个微调 SDK，支持对任意开放模型用 LoRA、QLoRA、DoRA、DPO、GRPO、MoRE 等 13 种方法训练，覆盖 CUDA、TPU、Trainium、Intel、Apple Silicon 和 CPU。
推荐理由：原文完整列出了 13 种训练方法、后端与硬件支持，以及从流量捕获到接管前缘模型的完整迁移流程，可按需复用。
GitHub · 去对齐工具与仓库AI 评分7575 Unsloth 发布桌面应用，支持本地运行与训练 LLM 等多类模型
Unsloth 推出首个可在桌面端运行和训练模型的 Unsloth Desktop 应用，覆盖 Windows、macOS、Linux 和 WSL，支持 NVIDIA、AMD、Intel GPU、CPU 及 Vulkan 后端。可运行和微调 Qwen3.8、GLM-5.3-Flash、Kimi K3、DeepSeek-V4、Gemma 4 等 LLM、扩散、嵌入和音频模型，微调速度提升 2 倍、VRAM 减少 70%；通过 unsloth start 一条命令把本地模型接入 Claude Code、Codex 等 Agent，并提供 OpenAI 兼容 API、RAG、Cloudflare HTTPS 远程访问和 Docker 镜像。项目采用 Apache 2.0 与 AGPL-3.0 双许可。
arXiv · cs.CLAI 评分3636 冻结因子还是频谱带？解耦低秩 LoRA 中的两个选择
该 arXiv 论文将 LoRA 谱变体中的“冻结哪个因子”与“选哪个奇异方向带”两个选择解耦，发现 rank 2 时冻结输入因子 A 的同带优势大于带间差异，冻结 B 在五个任务对上比同等预算的自由 LoRA 低 8-18 个百分点。
arXiv · cs.CL精选AI 评分5353 LoGRA：用低秩梯度草图降低 LLM 强化学习训练内存
论文提出 LoGRA，一种通过低秩梯度草图保留学习信号的 RL 后训练方法，可将平均训练内存最多降低 45.7% 且不损失性能。该方法配合 predicted-KL 步长控制防止更新过大，并支持在单个八 GPU 节点上稳定训练 27B 参数模型超过 1,100 步，而 dense Adam 在此场景下会内存溢出。代码开源于 Molt 库。
推荐理由：原文给出了 LoGRA 的内存压缩幅度和 27B 模型单节点训练步数等具体数据，可据此评估该方法对 RL 训练内存瓶颈的缓解程度。
arXiv · cs.CLAI 评分5151 arXiv 论文提出扩散语言模型的表示空间 MMD 后训练方法
Ilya Drobyshevskiy 在 arXiv 发布技术报告，提出一种扩散语言模型（DLM）后训练方法，在冻结的预训练 DLM 特征空间中最小化生成分布与参考分布之间的 Maximum Mean Discrepancy（MMD）。
arXiv · cs.CLAI 评分3434 RuModernBERT-ruLaw：俄语 ModernBERT 在长法律文档上的领域适配研究
一项 arXiv 研究对俄语 ModernBERT 编码器在俄语立法文档上继续预训练，得到适配模型 RuModernBERT-ruLaw，训练语料含 304,382 份立法文档、194,425,905 个语料 token。
GitHub · 灵魂体仓库AI 评分2020 enhancing-llms：用高级微调技术增强大语言模型（LLM）的论文实现仓库
GitHub 仓库 74rosieclayerfri/enhancing-llms 实现了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》中的微调方法，用于提升 LLM 在领域特定任务上的表现。
GitHub · 去对齐工具与仓库精选AI 评分5959 Nib 发布 v2.3：macOS 纯本地语法与写作助手
Nib 是一款 macOS 本地优先的语法与写作助手，通过 Accessibility API 监控任意应用中的文本框，结合 Harper 规则引擎与本地 LLM 提供点击纠错和整句 AI 改写，100% 端侧运行、无网络请求、无需账号。
推荐理由：原文给出各档本地模型的实测分数与逐应用兼容策略，可对照评估纯离线写作助手的可行方案。
GitHub · 去对齐工具与仓库AI 评分4040 peymanpro 开源 Pretrained-LLM-Adaptation：基于 LoRA/PEFT 的预训练大语言模型下游任务适配研究仓库
GitHub 仓库 peymanpro/Pretrained-LLM-Adaptation 提供一套可复现的预训练大语言模型适配流程，以 BANKING77 的 77 类银行意图分类为任务，主模型为 microsoft/deberta-v3-small（44M backbone 参数），主方法为通过 PEFT 的 LoRA 微调。
arXiv · cs.CLAI 评分4444 Task Vector Descent：从非 IID 批次中学习的研究
一项 arXiv 研究针对语言模型持续学习中数据按时间聚簇（非 IID）导致的稳定性-可塑性权衡，提出对 task vector 按 λ 部分缩放后再应用，并同步缩放 optimizer state。在持续预训练、随机初始化预训练、监督后训练与强化后训练等场景中，中间 λ 值常优于完全应用（λ=1），且该收益无法仅靠调学习率复现。
arXiv · cs.CLAI 评分4040 U-LoRA：基于条件门控的自适应低秩适配利用方法
U-LoRA 是一种对 LoRA 的自适应利用方法，通过条件门控为每个 token 生成低秩方向上的利用系数，并用序列级上下文信息协调约束，同时引入偏差校正的 EMA 历史先验以稳定训练。该方法不扩展低秩子空间，而是在数学推理与自然语言理解 benchmark 上以相近参数预算取得与 LoRA 基线及近期变体相当的性能。
arXiv · cs.CLAI 评分4343 选择长程轨迹以实现可靠高效的终端智能体训练
一项 arXiv 研究发现，终端智能体训练中的监督视野（保留的轨迹 token 数）是决定可靠性与成本的关键设计维度：在 Terminal-Bench 上，12K-token 视野比 16K 多解题（29±0.7 对 26±0.8）且训练时间少 30%。
GitHub · 去对齐工具与仓库AI 评分2424 DyT-NoNorm-LLMs-REWILD：用 Dynamic Tanh 替换 LayerNorm 优化 DistilGPT2
MRROBOT401 开源的 DyT-NoNorm-LLMs-REWILD 项目将 DistilGPT2 中的 LayerNorm 替换为 Dynamic Tanh（DyT），并结合 LoRA 微调。在 RE-WILD、Alpaca 和 ShareGPT 三个基准上的评测显示，该方法带来更快的收敛速度、更好的性能指标和更低的微调资源消耗。项目采用 MIT 许可证发布在 GitHub。
GitHub · 去对齐工具与仓库AI 评分2121 enhancing-llms：基于高级微调技术增强大语言模型的开源仓库
GitHub 仓库 enhancing-llms 开源了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验，探索面向领域任务的大语言模型微调方法。
GitHub · 去对齐工具与仓库AI 评分7979 
sgaofen 开源 humanizer 12B 本地模型，将 AI 稿件改写得更像人写
sgaofen 在 GitHub 发布 humanizer 12B v2，一个基于 google/gemma-4-12B 微调的本地文本补全模型，可将英文和中文的 AI 稿件（邮件、论文、报告、论坛帖等）改写得更像人写，训练全程未使用 AI 检测器。
GitHub · 去对齐工具与仓库AI 评分4242 ASB：衡量大语言模型情绪引导干预稳定性的基准
ASB 是一个开源基准（MIT 许可），用于测量 LLM 情绪引导干预在真实部署压力下的稳定性，可在单张 6 GB GPU 上完整复现。
GitHub · 去对齐工具与仓库AI 评分2020 enhancing-llms：用先进微调技术增强大语言模型的开源仓库
GitHub 开源仓库 enhancing-llms 提供论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验代码，探索面向领域任务的大语言模型微调方法。
GitHub · 灵魂体仓库精选AI 评分6666 ckpt-reshard-cli：单个 Rust 二进制检查、转换与重分片分布式训练 checkpoint
作者发布 ckpt，一个无需 Python、torch 和 pickle 执行的 Rust 单二进制工具，可检查、转换、重分片和对比分布式训练 checkpoint。
推荐理由：作者用 Rust 单二进制替代一次性 Python 转换脚本，给出了与各框架参考实现逐位对齐的验证结果和内存占用对比。
Reddit · r/LocalLLaMAAI 评分2323 
Update #5：从零后训练 yandex/AliceAI-80B-A3B（instruct 版）
Reddit r/LocalLLaMA 用户 jjjusko20 正在对 AliceAI-80B-A3B-Base 做 instruct 微调，目标是让模型具备智能体工作与对话能力，并用 Qwen 3.8 27B 的浅层知识蒸馏教其链式推理。
Hugging Face · 新模型：uncensoredAI 评分4141 minas2025 发布 Gemma-4-E2B-Coder-Uncensored：面向 Python 与前端的 QLoRA 微调模型
minas2025 基于 Gemma 4 E2B（约 4.6B）的 uncensored 版本微调出 Coder-Gemma-4-E2B-Uncensored，专注 Python 与 React/TypeScript/HTML/CSS 前端开发，采用 QLoRA 4-bit 训练，上下文 2048，提供 Q8_0 GGUF（约 5.0 GB）。
GitHub · 去对齐工具与仓库精选AI 评分6363 finetune-studio：自托管本地模型微调与 RAG 一体化工作台
GenorTG 发布 finetune-studio，一个自托管的浏览器 WebUI，覆盖本地模型训练、推理与评测全生命周期：构建 RAG 语料、用 LoRA/QLoRA 微调、运行 MMLU/GSM8K/HellaSwag 风格的离线评测套件并对比两次训练、以及本地聊天，支持 safetensors 和 GGUF 模型。
推荐理由：把 RAG 构建、LoRA 微调、评测对比和本地推理整合进一个自托管 WebUI，适合想在一处完成模型训练全流程的本地用户。
Reddit · r/LocalLLaMAAI 评分4545 用 FFT 替换 AdamW 优化器状态，微调 8B/70B 模型时 VRAM 减半
一组开发者在微调 8B 和 70B 模型时，用 FFT 在频域压缩 AdamW 优化器状态，替代 8-bit 量化，VRAM 占用减少约 50%，且避免收敛退化。代价是每步训练因 FFT 运算略慢，但可避免 OOM 并显著增大 batch size。团队已开放内部 Colab 环境和基线权重供测试。
Reddit · r/LocalLLaMAAI 评分4444 
UCVG.cpp：用一对提示词为任意 LLM 生成控制向量的 C++ 工具
Reddit r/LocalLLaMA 用户发布 C++ 工具 UCVG.cpp，安装流程尽量贴近 llama.cpp，只需输入一对对比提示词即可为任意 LLM 生成控制向量。控制向量比系统提示词更持久，不会被用户输入覆盖，且可在对话中途调整向量强度即时改变模型响应；缺点是难以满足高度具体的要求，且高转向强度会降低回复质量。
Reddit · r/LocalLLaMAAI 评分3838 微调 1.5B Qwen 生成 bash 命令达 GPT-4o 水平，数据集完全开源
有开发者在 r/LocalLLaMA 分享业余项目：用约 40 万条全合成数据微调 1.5B 的 Qwen，使其生成 bash 命令的能力达到 GPT-4o 水平。训练流程以自动化为主，微调数据集已完全开源，模型与 CLI 工具一并放出，任何人可自由训练或使用该数据。
Reddit · r/LocalLLaMA精选AI 评分7373 
Speakrail 开源：单张 RTX 4090 上运行的低延迟全本地语音助手
作者 /u/danil_rootint 开源了 Speakrail，一个完全本地运行的全双工语音 Agent，称在部分基准上可比肩 GPT-Live，仅需单张 RTX 4090。
推荐理由：作者完整复盘了微调数据从 150 条中断样本到重建数据集的迭代过程，对想复现全双工语音 Agent 的人有直接参考价值。
GitHub · 去对齐工具与仓库精选AI 评分5858 ForgeLLM 开源：面向开放大模型的微调与 MLOps 控制平面
作者发布开源项目 ForgeLLM，提供管理大模型生命周期的控制平面与开发平台，统一覆盖数据准备、LoRA/QLoRA SFT、评测、MLflow 追踪、回归质量门控与模型注册管理。
推荐理由：开源的 LLM 微调控制平面项目，覆盖数据、训练、评测与回归门控全流程，并附在 4GB 消费级 GPU 上的完整实验数据与复现产物。
Reddit · r/LocalLLaMAAI 评分77 本地微调中最让人头疼的环节是什么？
一位 Reddit r/LocalLLaMA 用户正在开发本地微调工具，征集大家在微调过程中最耗时的痛点：环境配置、数据集准备、VRAM 显存占用，还是导出模型表现与测试时不一致、训练完成但效果几乎没提升。帖子同时询问所用模型与 GPU，以及最终的解决方案或放弃原因。
Reddit · r/LocalLLaMAAI 评分3232 用什么 GPU 笔记本做本地 AI 微调？Reddit r/LocalLLaMA 征集真实经验
Reddit r/LocalLLaMA 用户 MKP_Nimilka 发帖征集用 GPU 笔记本真正完成过模型微调的实操经验，要求注明 GPU 与 VRAM、笔记本内存、模型参数量、微调方法（LoRA / QLoRA / 全量微调）、上下文长度与 batch size，以及训练后是否真的有用。发帖者关注消费级笔记本的实际能力上限，而不只是模型能否加载。
Reddit · r/LocalLLaMAAI 评分5151 Apex-2 训练复盘：双 GH200 实例跑 DiLoCo 比单卡快约 1.9 倍且成本更低
作者复盘自己训练模型 Apex-2 的经验：原计划训练约 1T tokens，因单张 H100 不够用最终只训了约 80B。
Hugging Face · 趋势模型精选AI 评分6969 Microsoft 开源 FrogNano-4B 仓库级编程 Agent 模型
Microsoft 在 Hugging Face 发布 FrogNano-4B-2609，基于 Qwen3.5-4B 纯强化学习后训练的仓库级编程 Agent。
推荐理由：微软以约 1500 个合成任务做纯强化学习，把 4B 模型的 SWE-bench Verified 分数从 39.4% 提到 61.5%，未依赖更强模型的轨迹。
GitHub · 去对齐工具与仓库精选AI 评分7272 Distillery：把大模型蒸馏成单任务小模型的开源流水线
gelevanog 发布开源项目 Distillery，提供从教师模型生成与标注数据、LoRA 微调小模型到路由器分流评测的完整可复现流水线。
推荐理由：作者用真实跑通的数据展示蒸馏全流程的每一步收益与短板，包括路由器分流比例和每千条成本，方法可直接迁移到类似单任务场景。
Reddit · r/LocalLLaMAAI 评分3636 
Update #4：从零后训练 yandex/AliceAI-80B-A3B（instruct 版）进展
Reddit r/LocalLLaMA 用户汇报 AliceAI-80B-A3B-Base 的 instruct 微调进展：第 1 轮 SFT 完成，模型初步学会链式推理和对话，但 500 万 token 训练数据广度不足，checkpoint #1 严重欠拟合并暂不发布。
Hugging Face · 新模型：uncensoredAI 评分2626 Wan2.2 GSsmart Uncensored：同时支持 I2V 与 T2V 的无审查 LightX2V LoRA 发布
Hugging Face 用户 GSsmart 发布 Wan2.2 GSsmart Uncensored，一套同时适配 I2V 与 T2V 的无审查 LightX2V LoRA，免去在两类模型间反复切换。T2V 下人体准确率约 80–85%，I2V 效果取决于输入图像；叠加其他 LoRA 建议用 0.55–0.65 强度，本 LoRA 需保持接近满强度否则画面易模糊。
Hugging Face · 趋势模型精选AI 评分6464 
nerkyor 发布 Qwen3.8-27B-Coder390 微调版，修复不停止推理问题并放出十余档量化权重
nerkyor 在 Hugging Face 发布基于 Qwen3.8-27B-EfficientThink 的多轮 SFT 与 RLOO 后训练模型 Qwen3.8-27B-Coder390-EfficientThink，目标是修复原模型已有答案却反复推导直至撞上 94K 上限导致空答案的习惯。GPQA 178/198、MMLU 450/500、LCB 90/100（静态 FP8，原模型为 177/444/83），94K 截断从 GPQA 4 降到 1、LCB 13 降到 3。仓库提供 BF16、静态 FP8、NVFP4、INT8、INT4、GGUF Q2 至 Q8_0 等多档权重，均含内置 MTP，支持 SGLang 免补丁加载，并给出 DFlash2 与 MTP 两种投机解码的测速建议。
推荐理由：从模型卡给出多档量化的完整三套评测与截断对比，读者可据此判断修复后模型在精度和速度上的实际表现。
Hugging Face · 趋势模型精选AI 评分7171 
ausboss 发布 Qwen Image 2.1 换装一致性 LoRA
ausboss 在 Hugging Face 发布 Qwen-Image-2.1-Outfit-Swap-Consistency-LoRA，让 Qwen Image 2.1 在把图片 2 的服装穿到图片 1 人物身上时保持画面原位。在 16 个未训练过的换装样本上，结果偏离从无 LoRA 的 3.6 px 降到 0.1 px，面部明显变化像素从 14.1% 降到 1.7%，背景从 10.8% 降到 0.9%；提供 step 1000/1250/1500 三个权重文件，主推 step 1000，rank 32，用 ostris/ai-toolkit 以 66 对样本训练 1500 步。不改变服装绘制质量，且保持原有姿势，需要换姿势的服装不适用。
推荐理由：作者用 16 个未训练过的换装样本给出位移、面部和背景像素级对比，读者可据此判断这个 LoRA 值不值得装进自己的 ComfyUI 工作流。
arXiv · cs.AIAI 评分4747 迈向本地部署的智能体 Co-Scientist：小型模型规划用于早期药物发现
一项研究提出轻量级工具增强框架，让可本地部署的紧凑语言模型为早期药物发现规划 18 个模块化工具的调用。研究者构建 1,263 条人工精修的 query-plan 对，对三个紧凑模型家族做 LoRA 微调；Llama 3.2-3B 在 query 级划分下工具选择 F1 达 0.998、序列精确匹配 0.979，更严格的 workflow-grouped 划分下精确匹配为 0.452 至 0.548，表明组合泛化仍是难点。
arXiv · cs.AIAI 评分3535 遗忘的热带几何视角：面向知识保持微调的逐单元投影器
一篇 arXiv 论文用 ReLU 层的热带几何解释了 Adam-NSCL、GPM 等无回放投影器共享子空间约束过粗的原因，并提出门控感知的逐单元投影器。在 OPT-1.3b 上，该方法在 9 到 60 个约束方向/行的全部六个匹配预算下遗忘均低于 Adam-NSCL，差距从 1.1 倍扩大到 4.3 倍，仅用 1/5.5 的方向即在 GPM 能量阈值下将遗忘减半；在 OPT-6.7b 上以相同预算匹配 Adam-NSCL 且学到更多。