enhancing-llms：用高级微调技术增强大语言模型
GitHub 仓库 enhancing-llms 提供论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验，探索面向特定领域任务的新型微调方法。其方法在 GLUE 上达到 92.5%（较基线 +8.3%），SuperGLUE 上达到 89.3%（较基线 +12.5%），并针对快速收敛优化了训练流程。
#微调
新闻、仓库与研究，按时间排列。
GitHub · 灵魂体仓库AI 评分1717 Reddit · r/LocalLLaMAAI 评分1212 在 2B 法律语料上 CPT 微调 Qwen3.5-9B 后，如何恢复 Instruct 与思考能力？
一位 r/LocalLLaMA 用户计划对 Qwen3.5-9B 在 2B 规模法律语料上做 CPT 继续预训练，询问如何将其恢复为 Instruct 与思考模型：是否通过蒸馏回 instruct 版本、该参数量能否具备 agentic 能力，以及如何用法院判决等原始数据合成训练数据，在其调用 vector_search_laws() 与 graph_search() 的 harness 中做 SFT 和 RL。
GitHub · 去对齐工具与仓库AI 评分3131 FactorioLLM：用自然语言生成 Factorio 蓝图的开源工具
FactorioLLM 是一个开源 AI 工具，可根据自然语言提示生成可直接导入 Factorio 的蓝图字符串。它采用 Text-to-Code 方案，让微调后的 Llama-3-8B-Instruct 或 CodeQwen 生成调用 factorio-draftsman 的 Python 脚本，再经 Docker 沙箱执行并编译为 base64 蓝图，并通过自愈式 Agentic Loop 自动修复语法与逻辑错误。项目基于 Unsloth、Hugging Face transformers 和 PEFT（LoRA）训练，目前处于活跃开发阶段，采用 MIT 许可证。
Hugging Face · 新模型：uncensoredAI 评分3636 minas2025 发布 Qwen-3.5-0.8B-Uncensored-Conversational 微调模型
minas2025 基于 sh0ck0r/Qwen3.5-0.8B-heretic 用 QLoRA（4-bit）微调出 Qwen-3.5-0.8B-Uncensored-Conversational，使用含 11,400 条温暖对话数据的 minas2025/warm-chat-12k 数据集，让 0.8B 模型以热情、口语化风格聊天且无拒绝回答。模型提供 Q8_0 GGUF（约 812 MB），上下文 2048，可在 LM Studio、Ollama、llama.cpp 中加载。
GitHub · 灵魂体仓库AI 评分5454 QLoRA 微调 Qwen3-4B 替代工单分诊中的 Claude 调用实测
作者微调 Qwen3-4B-Instruct-2507（QLoRA）处理德/英太阳能与热泵支持工单并输出校验 JSON，在 25 张真实工单上 CORE 准确率 0.76 对 Claude Sonnet 4.6 生产调用的 0.72，schema 有效率 100%，每千张工单成本 $0.29 对 $5.11，T4 上延迟慢约 1.4 倍。训练用约 3,500 张 Claude Haiku 4.5 生成的合成工单（约 $1.40），Unsloth + TRL 在免费 Colab T4 上跑 2 个 epoch，合并 fp16 后用 vLLM 部署；盈亏平衡点约每月 48,000-50,000 张工单，未调优的 Qwen 准确率仅 0.28 schema 失败率 28%。
GitHub · 去对齐工具与仓库AI 评分2020 enhancing-llms：用先进微调技术增强 LLM 的开源实现仓库
GitHub 仓库 enhancing-llms 开源了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验，探索面向领域任务的新型微调方法。
GitHub · 去对齐工具与仓库AI 评分1919 beadle5499-kinsh/enhancing-llms：用高级微调技术增强大语言模型（LLM）的论文实现仓库
GitHub 仓库 beadle5499-kinsh/enhancing-llms 实现了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》中的微调方法，面向领域特定任务优化预训练模型。该方法在 GLUE 上取得 92.5%（较基线 +8.3%）、SuperGLUE 上取得 89.3%（较基线 +12.5%）的成绩，采用 MIT 许可证开源。
GitHub · 去对齐工具与仓库AI 评分2525 enhancing-llms：用高级微调技术增强大语言模型的论文实现仓库
该仓库实现了论文《Enhancing LLMs with Advanced Fine-Tuning Techniques》，探索面向领域任务的大语言模型微调方法，在 GLUE 和 SuperGLUE 上取得 SOTA 结果：GLUE 从基线 84.2% 提升至 92.5%（+8.3%），SuperGLUE 从 76.8% 提升至 89.3%（+12.5%）。仓库含训练、评估脚本与实验配置，采用 MIT 许可证开源。
GitHub · 去对齐工具与仓库AI 评分2727 sunwills/enhancing-llms：LLM 高级微调技术实现与实验仓库
GitHub 仓库 sunwills/enhancing-llms 实现了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》中的微调方法，用于提升 LLM 在领域特定任务上的表现。其方法在 GLUE 上取得 92.5%（较基线 84.2% 提升 +8.3%）、SuperGLUE 上取得 89.3%（较基线 76.8% 提升 +12.5%），采用 MIT 许可证开源。
GitHub · 去对齐工具与仓库AI 评分2121 enhancing-llms：用高级微调技术增强大语言模型的开源仓库
GitHub 仓库 enhancing-llms 开源了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验，探索面向领域任务的大语言模型微调方法。
Reddit · r/LocalLLaMAAI 评分5353 ricyoung 基于 Qwen3.5-9B 微调出故意答错的决策模型 Bev
作者 /u/ricyoung 发布了 Bev，一个基于 Qwen3.5-9B 微调、故意选最差答案的决策模型，在 324 个保留决策上正确率仅 1.9%，平均置信度 96%。
GitHub · 去对齐工具与仓库AI 评分3131 tracord 开源：旅行记录 + AI 行程规划 + 记账三合一移动应用
GitHub 开源项目 tracord 是一款集旅行记录、AI 行程规划与智能记账于一体的移动端应用。它用 Qwen3.5-0.8B LoRA 微调模型加 llama.cpp 本地推理，通过槽位填充与自研 DFS 规划引擎，把"上海去杭州玩4天，预算3000"一句话生成含逐项费用的时间轴行程单，并支持地图点亮城市、自然语言记账和基于 Chroma 向量检索的攻略问答。
GitHub · 灵魂体仓库AI 评分1919 higgsfield：让多台计算机协同训练大型 AI 模型的入门指南
higgsfield 是一个面向零代码用户的 AI 模型训练工具，通过协调多台计算机协同工作来训练大型语言模型，具备容错和可扩展能力。用户可用它构建聊天机器人、翻译模型或分析大规模数据集，并推荐 NVIDIA GTX 1060 以上 GPU、16 GB 内存和 50 GB 存储空间（SSD）。软件通过安装向导部署，内置 Quick Demo 供新手快速验证环境。
GitHub · 灵魂体仓库AI 评分2121 enhancing-llms：用高级微调技术增强大语言模型（LLM）的开源仓库
GitHub 仓库 enhancing-llms 实现了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》中的微调方法，用于提升 LLM 在领域特定任务上的表现。
GitHub · 去对齐工具与仓库AI 评分2525 ATML PA2 LLM 后训练作业启动仓库（sohauv/ATML-PA2-LLM-PostTraining）
ATML PA2 的 LLM 后训练学生启动仓库已在 GitHub 发布，涵盖 DPO、PPO、GRPO、安全校准及 RLVR 与 RLAIF 对比五个任务。代码有意不完整，学生需自行实现训练循环与消融编排，并找出 Task 1-3 中各一处故意埋下的算法缺陷。
GitHub · 灵魂体仓库AI 评分2525 RAH：深度剪枝小型 LLM 的可恢复性修复实验复现指南（Qwen2.5-1.5B / Llama-3.2-1B / SmolLM2-1.7B / OLMo-2-1B）
GitHub 仓库 piyushdhoka/Recoverability-Aware-Healing-of-Depth-Pruned-Small-LLMs 提供在两台笔记本（RTX 4070 与 RTX 4060）上并行运行 Qwen2.5-1.5B-Instruct 和 Llama-3.2-1B-Instruct 的完整流程，全流程约 6–8 小时，可断点续跑。
GitHub · 去对齐工具与仓库AI 评分2424 LoongSage 1.0.0 发布：面向普通用户的 AI 模型训练助手
LoongSage 1.0.0 是一款免费的大模型训练助手应用，通过强化学习技术优化训练流程，无需命令行经验即可使用。它提供经验证的训练配方与图形界面，支持 Windows 10/11（64 位），最低需 8 GB 内存和 2 GB 磁盘空间，初始设置需联网，之后多数功能可离线使用。
GitHub · 去对齐工具与仓库AI 评分3131 kunal-sinha-coding/post-training：基于 GRPO 训练 Qwen3.5-0.8B 解决 MBPP 的实验仓库
该仓库包含一个 GRPO 实验，训练 Qwen/Qwen3.5-0.8B 生成 MBPP 的 Python 解法。数据方面排除 canonical EvalPlus MBPP runner 使用的 399 个任务 ID，保留 572 条训练样本，奖励支持 test_pass 与 hybrid 两种模式，候选代码在限时隔离子进程沙箱中执行。
GitHub · 去对齐工具与仓库AI 评分5252 Sutra-1.3B 从零预训练并开源权重，附完整训练管线与评测
作者用 PyTorch 从零实现了预训练、SFT 和 DPO 全流程，训练出 Sutra-1.3B-Chat 并开放权重（huggingface.co/Abhisingh-18/Sutra-1.3B-Chat），不使用 HuggingFace Trainer 或预训练权重，目标硬件为 4x RTX 6000 Ada（48GB）。
Reddit · r/LocalLLaMA精选AI 评分5858 作者用免费 Kaggle T4 微调 Qwen2.5-Coder-1.5B 离线审查 Node.js 代码
作者 /u/jeeva1398 发布了 npm 包 eventa，基于 Qwen2.5-Coder-1.5B-Instruct 做 QLoRA 微调（Unsloth，r=16，2 epochs，Q4_K_M，986 MB），在免费 Kaggle T4 上训练约 9 分钟，可完全离线审查 Node.js 代码。
推荐理由：作者公开了数据构成、训练配置和保留集评测数字，还写明了微调版变差的一面，读者可以核对这套小模型微调流程。
GitHub · 灵魂体仓库AI 评分1818 liteng3159-netizen 开源 llm-alignment：GRPO 训练使 OLMo-2-1B 的 GSM8K 从 38.59 提升至 52.92
GitHub 上的 llm-alignment 项目实践 LLM 后训练与对齐，重点实现 GRPO，并对比 DPO 与 SFT：GRPO 基于 group-relative rewards 做强化学习，DPO 基于 chosen/rejected 偏好数据，SFT 基于 instruction-response 数据做监督微调。
GitHub · 灵魂体仓库AI 评分5252 LLM Engineer's Handbook 配套仓库发布 LLM Twin 端到端工程实现
OscarTMa 发布基于 Paul Iusztin 与 Maxime Labonne 所著《LLM Engineer's Handbook》的配套实践仓库，实现了 LLM Twin，即一个学习个人写作风格、语气和技术视角的 AI 智能体。
Reddit · r/LocalLLaMAAI 评分3232 用 LoRA 适配器作为可开关的持久技能替代 context/RAG，这个思路可行吗？
有团队在验证一个想法：把技能和领域知识编码进 LoRA 适配器，按需加载或卸载，而不是持续占用模型上下文，例如编码技能、公司内部领域、特定写作风格等。潜在收益包括减少 context 占用、能力可复用、与基座模型解耦以及降低部分场景的推理成本。团队希望了解若创建和管理这些 LoRA 像管理知识库一样简单，用户是否会采用。
GitHub · 去对齐工具与仓库精选AI 评分6161 递归微调知识退化研究发布完整复现包 v1.0.4
作者发布递归微调知识退化研究的复现包 v1.0.4，投稿 Knowledge-Based Systems（审稿中），涵盖 Qwen 2.5 1.5B 与 Gemma 3 1B 两个骨干、10 代递归、共 52 次实验。
推荐理由：复现包附带全部统计、图表生成脚本和 14 项机械校验，读者可自行验证递归微调退化的剂量响应结论。
GitHub · 去对齐工具与仓库AI 评分3030 AgentMujo 训练系统：微调波斯尼亚语小模型的工具调用与多步任务能力
xnet-ba 开源 AgentMujo AI 智能体的训练系统 v0.5，基于 alphaedge-ai/Qwen3.5-2B-bos-32768（1.77B 参数、原生上下文 262k）微调，使模型能调用 14 个工具、执行多步任务并校验结果。
Reddit · r/LocalLLaMAAI 评分1818 如何判断是否信任 Hugging Face 上的社区微调模型？
一位 Reddit r/LocalLLaMA 用户发起调研，询问大家如何选择和评估来自 Hugging Face 的微调与合并模型。问题涵盖模型获取渠道、使用前的检查方式（benchmark、model card、自测提示词），以及微调是否曾出现比基座模型更差的表现，并询问对基座模型快速对比工具的需求。
GitHub · 灵魂体仓库精选AI 评分7272 Surogate 开源：C++/CUDA 一体化 LLM 训练与推理工具链
Invergent 在 GitHub 开源 Surogate，一套原生 C++/CUDA 的 LLM 训练与推理工具链，覆盖预训练、LoRA/QLoRA、GRPO、DPO、蒸馏和 HTTP 推理服务。
推荐理由：原文给出训练与推理两条基准的具体数字和对比对象，读者可以按自己的 GPU 和并发场景核对这套 C++/CUDA 工具链是否值得试。
Reddit · r/LocalLLaMAAI 评分5656 作者在单台 DGX Spark 上微调 MedGemma 4B 与 27B 用于肿瘤学并公开权重
/u/Few-Rough-2215 仅用公开数据在单台 DGX Spark 上对 MedGemma 4B（LoRA）和 27B（QLoRA）做肿瘤学微调：4B 准确率 56.0% 升至 71.6%，27B 68.8% 升至 77.9%，微调后 4B 胜过基座 27B（p = 0.002）。
GitHub · 去对齐工具与仓库AI 评分2121 thispinquinde8k 开源 enhancing-llms：先进微调技术提升 LLM 性能
GitHub 仓库 thispinquinde8k/enhancing-llms 开源了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验代码，探索面向领域任务的新型微调方法。
GitHub · 灵魂体仓库AI 评分2424 gdf：面向所有人的开源分布式 GPU 训练网络
开源项目 gdf 提供社区 GPU 网络，支持在多台机器间进行分布式 AI 模型训练，采用点对点设计并兼容 PyTorch 训练流程。该工具面向 Windows 10/11 用户，要求至少 8 GB 内存和当前驱动的 GPU，可自动处理任务拆分、同步与结果收集，让普通用户用游戏 PC 参与共享模型训练。
GitHub · 灵魂体仓库AI 评分1818 finetuning-quantize-evaluate：Windows 上的模型微调、量化与评测工具指南
GitHub 上的 finetuning-quantize-evaluate 是一套面向 Windows 的微调、量化与评测指南和工具集，覆盖语言模型、视觉语言模型和嵌入向量模型。它支持 LoRA、QLoRA 和知识蒸馏以降低显存需求，要求 Windows 10/11、至少 8 GB 内存和 20 GB 磁盘空间，并提供从数据准备到评测对比的完整工作流程。
GitHub · 灵魂体仓库AI 评分2525 enhancing-llms：用高级微调技术增强大语言模型（LLM）的开源仓库
GitHub 仓库 enhancing-llms 实现了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》中的微调方法，用于提升 LLM 在领域特定任务上的表现。
Reddit · r/LocalLLaMAAI 评分5353 
MOLT：面向消费级 GPU 的本地微调系统，含 fit 测试、checkpoint 与部署追踪
作者 /u/MKP_Nimilka 发布自建的本地微调系统 MOLT，面向消费级 NVIDIA GPU，覆盖数据集检测与校验、运行前 GPU/VRAM/内存/存储/温度检查。
Reddit · r/LocalLLaMAAI 评分2727 Reddit 用户探索领域专用本地模型：通用模型编排专注编码模型
一位 Reddit r/LocalLLaMA 用户提出从通用预训练加严格后训练构建领域专用本地模型：由通用模型负责推理并生成规格，专注编码模型负责实现，可编排并行以充分利用 GPU。作者认为这种“专家组+通用编排器”架构可能胜过 MoE，更适合 8-16GB 显存的低端 PC；其自用 28GB 显存（4070 加 5060ti 16GB）可跑双模型知识蒸馏与 RL 后训练。
GitHub · 去对齐工具与仓库精选AI 评分6262 基于 QLoRA 微调 Qwen2.5-7B-Instruct 处理 CUAD 合同条款分类与问答的开源项目
作者开源了一个用 QLoRA 在 CUAD（510 份商业合同、35 类条款）上微调 Qwen2.5-7B-Instruct 的项目，覆盖条款分类和有依据的条款问答两项任务，LoRA 适配器（165 MB）已上传 Hugging Face（PimoLee5/qwen2.5-7b-cuad-qlora）。
推荐理由：原文给出基座、3-shot 与微调三组对照的完整指标，并人工审计幻觉标记，可看清微调带来的召回与校准收益及其代价。
GitHub · 去对齐工具与仓库AI 评分2121 awesome-automated-ai：收录 250+ 款 AI 自动化工具的 GitHub 资源清单
GitHub 仓库 awesome-automated-ai 收录超过 250 款自动化 AI 与机器学习工具，覆盖特征工程、模型选择、神经架构搜索、超参数优化和自主智能体等类别。清单本身不托管文件，而是链接到各项目官方页面，多数工具支持本地处理，数据不出本机。
GitHub · 去对齐工具与仓库AI 评分5353 LLM-internals 教育项目完成多阶段实验：从字符级 GPT 到 RoPE、GQA、INT4 量化与 LoRA
sergeiredkin 在 GitHub 开源 LLM-internals 教育项目，用隔离的 PyTorch 演示讲解 LLM 核心机制并组装成可运行的 decoder-only 模型。
GitHub · 去对齐工具与仓库精选AI 评分6262 DuDuClaw 开源：用一个 Rust binary 把 Claude Code 等 CLI 工具变成常驻 11 个通讯软件的 AI 员工
DuDuClaw 在 GitHub 发布，用一个 Rust binary 把 Claude Code、Codex、Antigravity 等 CLI 工具接入 Telegram、LINE、Discord 等 11 个通讯软件，核心采用 Apache 2.0 授权。
推荐理由：README完整给出了架构、通道与runtime清单和安全机制细节，读者可以据此评估这个把CLI工具接入多通讯软件的开源方案是否够用。
arXiv · cs.AIAI 评分4141 DGA-Muon：面向 Muon 的解耦几何对齐自适应缩放优化器
论文首次系统分析 NorMuon 自适应机制的来源，发现其自适应性主要源于正交化诱导的几何结构而非真正的优化信息，并提出“正交化—自适应性悖论”。基于此提出 DGA-Muon 优化器，将自适应缩放与正交化解耦、直接由原始梯度计算缩放因子，并按矩阵形状采用行/列缩放对齐极分解因子的几何结构，给出收敛性保证，实验显示其优于 NorMuon。
GitHub · 去对齐工具与仓库AI 评分2020 enhancing-llms：用高级微调技术增强大语言模型的开源仓库
GitHub 仓库 dmezalei-ci/enhancing-llms 开源了论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验，探索面向领域任务的大语言模型微调方法。