跳到正文
  1. GitHub · 灵魂体仓库66

    storeops-copilot:QLoRA 微调 Qwen2.5-3B 实现本地门店运营 Copilot,任务成功率 95.4%

    meanderinghuman 发布 storeops-copilot 项目,用 QLoRA 在免费 Kaggle T4 上微调 Qwen2.5-3B,结合代码级安全网关和大模型兜底,在 500 个held-out场景中达到 95.4% 任务成功率,94% 请求本地处理,有害动作率 0.4%。训练数据由 GLM-5.3 出题、DeepSeek-V4.1-Flash 以真实工具执行作答,过滤后保留 2,645 条;网关强制规则包括订单只能进待确认队列、产品 ID 必须来自同会话搜索、数字必须来自工具返回。项目基于 Walmart M5 数据集,附 1.5B 与 3B、多种量化精度的完整对比评测和失败复盘,代码 MIT 许可,3B 模型为 Qwen Research License。

    推荐理由:原文给出完整的训练配方、评测数字和失败复盘,读者可以照着在免费 T4 上复现这条小模型本地 Agent 路线。

  1. GitHub · 去对齐工具与仓库57

    Swedish Embedded 开源 brain:单个 Rust 程序完成模型推理、训练与量化部署

    Swedish Embedded AB 开源 brain,用单个 Rust 程序在现有硬件上下载、运行、微调、量化模型,并通过 OpenAI 兼容 API 提供服务,无需 Python、PyTorch 或独立推理运行时。支持 Qwen3、GLM、YOLOv8、FLUX.2 Klein、Qwen3-TTS 等文本、视觉、语音和世界模型,内置 wgpu、vulkan、cuda、cpu 四个后端,可跑在 NVIDIA/AMD/Intel GPU、CPU、Intel NPU 和浏览器中;每个导入模型与参考实现逐步对比测试,训练用有限差分数值校验,后端间做一致性检查,许可证为 Apache-2.0。

    推荐理由:一个 Rust 程序覆盖下载、推理、微调、量化和 OpenAI 兼容服务,不依赖 Python 或 PyTorch,并给出后端一致性等自检测试。

  2. Reddit · r/LocalLLaMA68

    mlx-decision 开源工具:在 Apple Silicon 上用 MLX 本地运行和微调决策模型

    作者发布开源 Python 包 mlx-decision,可在 Mac 上用 MLX 本地运行 Clef、pplx-decider、d3、H2O-Lightning、LiquidAI d1 等开放决策模型。输入消息、文档或截图加带类型的问题,一次前向即返回各选项的概率与置信度;与原 PyTorch 代码逐 token 校验,同答案下在 MPS 上通常快 1.4–6 倍,M5 Pro 上 d1-3B 短请求 0.06 秒。附带本地 Web Studio 支持对比模型、跑数据集评测和微调,d1-3B 微调 4 分钟在 TREC 上从 86.6% 提到 96.4%;MIT 协议,需 macOS 14+ 和 Python 3.12+,仓库 https://github.com/armbues/mlx-decision。

    推荐理由:作者给出了各模型在 Apple Silicon 上的实测延迟和微调前后准确率对比,本地部署决策模型时可参考这些数字选型。

  1. GitHub · 灵魂体仓库64

    千问杯多模态大赛第3名方案开源:Qwen3.5-0.8B 蒸馏 SFT + GRPO 小剂量 RL 全流水线

    参赛队「广州智行科技」开源千问杯多模态推理大赛最终第3名(获2万元奖金)的完整方案:在 Qwen3.5-0.8B 上先蒸馏 Qwen3.6-27B 的 113K 样本做 SFT(初赛 41.8 分压线晋级),再用 GRPO 30 步小剂量 RL(决赛榜 20.2 分,第 9/20),答辩后终评第 3。仓库公开训练/导出脚本、真实日志与技术报告,权重托管于 Hugging Face;核心发现包括 RL 剂量轴在 30 步达峰、同权重 ZIP CRC 消融证明采样解码白送约 3 分、0.8B 模型 RL 池内学习量与平台分强反相关。

    推荐理由:作者用同权重 CRC 消融和剂量轴实验分离出每个增量的因果证据,0.8B 小模型 RL 剂量与遗忘的权衡刻画对类似场景可迁移。

  1. GitHub · 灵魂体仓库66

    overbrainer 开源:命令行把大模型蒸馏成小模型并用 Axolotl 微调

    GitHub 开源工具 overbrainer v0.9.0 支持从命令行把大的父模型蒸馏成更小的开放权重子模型:向父模型生成问题并收集带推理的回答,用 Axolotl 在本地、SSH 机器或 Runpod 上做 LoRA 微调,再导出量化 GGUF 和 Ollama Modelfile。overbrainer compare 在评测集上对比子模型与父模型的胜率、延迟和每千次请求成本,并提供六视图终端 UI、Prometheus 指标和可安装到 Claude Code 的 agent skill。项目处于早期开发阶段,1.0 前小版本可能有破坏性变更。

    推荐理由:从生成数据集到用 Axolotl 微调再到导出 GGUF 全流程一条命令走完,还用胜负率和成本对比衡量孩子与父模型的差距。

  2. Reddit · r/LocalLLaMA70

    开发者为 llama.cpp 实现快速 LoRA kernel,Strix Halo 上 PP 从 300 提升到 1400 t/s

    /u/woct0rdho 为 llama.cpp 编写了 LoRA 推理 kernel,代码见 https://github.com/woct0rdho/llama.cpp 。在 Strix Halo 上,加载 35 MB 的 LoRA(如把 Qwen3.8-Flash-Next 转成 uncensored 版的 chenrm/qwen3.8-flash-next-abliterated-lora)原本使 PP 从约 1500 降到 300 t/s,通用 kernel 提升到 1000 t/s,fused kernel 进一步到 1400 t/s。LoRA scale 可调节去审查与能力损失之间的平衡,且无需重新下载整个模型。

    推荐理由:作者给出了 LoRA 推理在 Strix Halo 上从 300 到 1400 t/s 的实测数据,并开放了可复用的 kernel 代码。

  1. GitHub · 灵魂体仓库60

    qibin0506 开源 llm_trainer 全流程 LLM/VLM 训练与强化学习框架

    GitHub 仓库 qibin0506/llm_trainer 发布,是一个基于 PyTorch 与 DeepSpeed 的 LLM/VLM 训练框架,覆盖 Pretrain、SFT、DPO/ORPO/SimPO 到 PPO 与 GRPO 的完整流程,支持 8 种 GRPO 变体算子(grpo、bnpo、dr_grpo、cispo、dapo、luspo、sapo、vespo)。框架内置 Muon 优化器自动混合参数分组与多学习率比例调度,通过分块交叉熵、Active Token Filtering 和生成/评估分块降低显存峰值,支持多轮 Agent 强化学习交互与奖励折叠,并适配 NVIDIA CUDA、华为昇腾 NPU、寒武纪 MLU 和 Apple Silicon MPS 后端。

    推荐理由:原文完整给出了从预训练到 GRPO 的训练流程与关键显存优化手段,读者可以对照自己的硬件环境判断哪些模块可直接迁移。

  2. GitHub · 去对齐工具与仓库58

    next-experiment 开源:用因果实验定位 LLM 微调失败原因

    MaxKharlan 发布 next-experiment,一个在 Nebius Token Factory 上诊断微调失败原因并做因果验证的智能体。它先按概率排序可能病因,用最便宜的探针和 fix/control 对照实验确认病因,确认后才在批准后重训。演示案例中 Qwen3-0.6B 因学习率 1e-5 过低只答对 14% 的 200 条 held-out 查询,4 个 Post-training job 证实病因后重训达 42.5%,全程约 $0.075。基准在 13 个 Token Factory 任务上对比四种方法,Next Experiment 9/9 找到病因、0 误报,成本比 ReAct 低 30%。仓库含 HTTP API、调查回放页面、权重探针与完整文档,Apache 2.0 许可。

    推荐理由:原文给出基准对比数据,这个诊断智能体以低 30% 的成本达到与 ReAct 相同的病因定位成功率,方法可迁移到自己的微调排查。

  3. GitHub · 去对齐工具与仓库66

    dragonfarm:在 R 中用自己的文档微调本地语言模型

    tejas4patel 发布 R 包 dragonfarm,可从 PDF、Word、网页等文档自动生成问答训练数据,经人工审核后用 QLoRA 微调本地模型,内置 RAG 可直接基于文档作答。7B 模型 4-bit 加载可放进 8 GB 笔记本 GPU,示例中 Qwen2.5-7B-Instruct 在 RTX 406 上训练约 22 分钟,修复了 0.5B 版本答错的退换政策细节;0.5B 训练约 2-4 分钟。产出为 Hugging Face transformers 可加载的 adapter 或合并模型,MIT 许可,已上架 CRAN。

    推荐理由:作者用同一批工单给出 0.5B 与 7B 微调前后的对照输出和耗时数据,读者可据此评估在自己文档上微调的可行路径。

  1. GitHub · 灵魂体仓库74

    airgpt 开源:一条命令在 Apple Silicon Mac 上从零训练并对话自己的小模型

    作者 navthings 发布 airgpt 仓库,一条命令在 Apple Silicon Mac 上完成下载TinyStories/Cosmopedia数据、训练 byte-level BPE tokenizer、预训练 llama 风格小模型并教它聊天,只用 MLX,无需 CUDA 或云端。作者在 MacBook Air(M5, 16GB)上用 hour preset 训练 8M 参数模型 1 小时、55M tokens,val loss 从 2 分钟的 4.09 降到 46 分钟的 2.27,全程热状态保持 nominal,速度约 20k tokens/s,训练后能写出句子并回答提问但会编造事实。

    推荐理由:作者公开了在无风扇 MacBook Air 上从零训练小模型的全流程与实测数据,val loss 下降和对话样例都可对照复现。

  2. Reddit · r/LocalLLaMA71

    ExLlamaV3 量化模型 QLoRA 训练工具 exl3-qlora 开源,支持 2-8bpw 训练

    /u/Unstable_Llama 发布 exl3-qlora,一个基于 ExLlamaV3 的原生量化训练分支,用纯 PyTorch 实现、不依赖 transformers,可对 2-8bpw 的 EXL3 量化模型做 QLoRA 训练,摆脱 BNB 4bit 的限制。适配器按标准 PEFT 格式保存,可加载进 TabbyAPI、PEFT 或合并回基座模型;支持 Llama3、Mistral、Qwen3 dense/MoE、Qwen3.5/3.6/3.8 hybrid、Gemma3/4、Arcee Trinity。

    推荐理由:作者给出同数据同硬件下 EXL3 与 bnb NF4 的 eval loss 和显存对比,读者可自行判断这套量化训练管线的取舍。

  1. GitHub · 去对齐工具与仓库77

    lora-kernel:基于 Gemma 4 E4B 的本地专用 Agent 记忆与路由系统

    EvolvingAgentsLabs 发布开源项目 lora-kernel(Apache-2.0),将事实存放在可人工编辑的 markdown 笔记库中,仅用 LoRA 训练小模型导航检索,由微型路由器把超出专家范围请求转交前沿模型。实测包括 inbox triage 专家 0.989 对裸基座 0.345、wiki 多跳问答 38/40 对 19/40、改笔记后 17/17 返回新值且零重训;引用门控拦截 165 个错误答案中的 86 个、误拦 347 个正确值中的 43 个。项目在 16 GB MacBook Air M4 上经 llama.cpp 和 OpenClaw 实跑通过,但全部测量基于生成测试集与真实法规文档,尚无真实用户流量;未通过项记录于 docs/RECORD.md。

    推荐理由:项目用可编辑的 markdown 笔记库存放事实、LoRA 只学导航流程,并公开每项实验的成败记录,方法与数据都可查证。

  1. GitHub · 去对齐工具与仓库59

    SpectraLLM 开源:PDF 文档一键微调出本地领域模型

    GitHub 项目 devdownin/SpectraLLM 发布,宣称在单一应用内将 PDF、DOCX 等文档经混合检索问答后微调为本地模型,100% 本地运行、无云端 API。流程包括摄入、问答(关键词+向量混合搜索、reranking、ReAct 多跳推理)、QLoRA/DPO 微调和单文件 GGUF 导出,可配合 llama.cpp、Ollama 等运行。默认模型下载约 4.8 GB,需 Docker Engine 25+ 与 16 GB 内存,GPU 可选,AGPL-3.0 协议。

    推荐理由:把文档摄入、混合 RAG、QLoRA 微调和 GGUF 导出整合成一个本地 Docker 项目,对想私有化部署知识库的人有可参考的完整流程。

  2. GitHub · 灵魂体仓库58

    autoclaim-adjudicator:开源车险理赔多智能体 harness

    作者在 GitHub 发布 autoclaim-adjudicator,一个车险物理损失理赔的确定性多智能体工作流,由代码控制流程和金额、LLM 负责判断与文案,独立校验并只用免费额度模型(Groq、Google AI Studio、Ollama 本地模型)。锁定测试 300 条理赔中 55.3% 自动决定、其中 97.6% 正确;欺诈两段式筛查以 10% 审查率拦截 78.3% 真实欺诈(ROC-AUC 0.860/0.955);用 Qwen3-4B QLoRA 微调本地 judge 后捕获率 30% 升至 95%。作者提醒多数理赔为模拟数据,judge 和微调结果来自合成测试用例,详见 limitations.md。

    推荐理由:作者给出了车险理赔 harness 的完整实测数据与消融结果,可看到确定性代码与 LLM 分工在具体业务里的落地方式。

  3. Reddit · r/LocalLLaMA62

    LoRA over GGUF:在 40G 显存中训练 Qwen3.8-Flash-Next

    作者更新其 LoRA over GGUF 系列,现可在 40 GiB 显存内无 CPU offloading 地训练 Qwen3.8-Flash-Next(125B-A6B + 51B engram),engram 置于磁盘不拖慢训练。在 Strix Halo 上以 2048 上下文块达到 9.5 s/it(200 token/s),距已实现的 >1600 token/s PP 还有优化空间;transformers 5.18 起已合并对现代 GGUF 的初步支持,作者还预告 torch-ggml-ops 仓库中的 GGTensile 在 MMQ 内核上做汇编级优化,多数场景已快于 HIP。代码见 https://github.com/woct0rdho/transformers5-qwen3.5-recipe

    推荐理由:作者给出了在 40 GiB 显存内训练 Qwen3.8-Flash-Next 的方法与实测速度,读者可复现这套 LoRA over GGUF 训练流程。

  4. GitHub · 灵魂体仓库59

    modal-dojo:在 Modal 上进行生产级 LLM 训练的开源库

    modal-projects 发布开源库 modal-dojo,用于在 Modal 上快速开展生产级 LLM 训练。可通过 uv pip install 安装,用 modal-dojo skills install 为本地 Agent 安装技能包,示例展示了以自定义奖励函数对 Qwen3.5-4B 在 GSM8K 数据上做 RL 训练。库支持 DeepSeek、GLM、Gemma、Kimi、Qwen3 至 Qwen3.8 等多系列模型,要求 Python 3.12。

    推荐理由:这个开源库把 Modal 上的生产级 LLM 训练封装成可安装的技能包,Agent 可直接调用,附多模型支持清单和可复现代码示例。

  5. GitHub · 灵魂体仓库71

    PMetal发布:面向Apple Silicon的Rust机器学习SDK与全套训练推理工具

    Epistates在GitHub发布PMetal,一个用Rust编写的Apple Silicon机器学习SDK、框架和应用套件,覆盖Metal GPU内核、ANE集成、训练API、终端TUI和Tauri+Svelte桌面GUI。支持LoRA/QLoRA、DPO/KTO/GRPO等偏好与推理训练、知识蒸馏、模型合并、GGUF量化、OpenAI兼容服务,并支持通过Thunderbolt组网的多Mac分布式训练,M1至M5全系完全支持,MIT或Apache-2.0许可。

    推荐理由:仓库README覆盖从Metal内核到TUI、CLI和多Mac集群训练的完整链路,想研究Apple Silicon本地训练推理工具结构的读者可以按需查阅。

  1. GitHub · 去对齐工具与仓库65

    FineEnvs 开源 LLM Agent 强化学习环境仓库,覆盖设计、部署到训练全流程

    adithya-s-k 发布开源 RL 环境仓库 FineEnvs,提供从环境设计、部署、训练到评测的端到端可复现项目,素材同步发布在 huggingface.co/FineEnvs。包含 3 环境乘 6 框架的 RL Environments 101、用 GRPO 训练 Qwen3-VL-2B 做 LaTeX OCR、以审美偏好模型为奖励的水彩绘画项目、多轮 GeoGuesser(Qwen3.5-4B 在 200 题保留集上超过 gpt-5.4-mini 和 claude-haiku-4.5,成本约 $100)、5,394 个经真实沙盒验证的数据分析任务数据集,以及基于巴塞罗那港 2024 记录的 PortSimEnv。

    推荐理由:这个仓库提供从环境设计到训练部署的完整可复现代码,还附上三个跨框架实现同一环境的对照样本。

  2. GitHub · 灵魂体仓库65

    Yeto 开源:在分散低价 GPU 算力上微调语言与扩散模型

    GitHub 仓库 agentenv/yeto 发布,支持用 spot 实例、混合区域、混合云甚至混合硬件家族跨便宜 GPU 算力微调语言和扩散模型。基于 Decoupled DiLoCo 异步同步,省略 --gpu 时由求解器在预算内最大化有效 TFLOPs,支持 QLoRA、Diffusers、Megatron-Core、MLX 和 Ascend NPU 后端,附 DeepSeek-V4-Flash、Qwen3.6-27B、GLM-5.2 等已实测模型及最小岛显存表。

    推荐理由:原文给出了完整的跨云 spot GPU 微调工具用法和已实测模型清单,读者可以直接复用其预算规划与异构算力训练方法。

  3. GitHub · 灵魂体仓库55

    chendi-Shi/llm-posttraining:无 GPU 本机跑通 Qwen2.5-0.5B-Instruct 的 QLoRA SFT/DPO 后训练

    作者在约 16 GB 内存、无独立 GPU 的本机上对 Qwen2.5-0.5B-Instruct 做 4-bit QLoRA SFT/DPO,完成中文结构化抽取与意图分类实验,数据采用 MASSIVE 中文子集。v6 混合系统严格实体 F1 为 62.59%,首次达到预设绝对 F1 ≥60% 门槛,但相对旧 v5 混合的配对 95% 区间为 −3.58 至 +7.19,未通过相对收益门槛;v3 DPO 将无槽失败从 126/167 降至 28/167 但阳性句 F1 下降。仓库公开复现命令、选择锁与失败报告,不含权重和逐题预测,结果定位为后训练研究而非可自动上线服务。

    推荐理由:作者在 16 GB 无 GPU 本机上完整跑通 QLoRA SFT/DPO 并公开预设门槛、配对区间和失败记录,方法与边界都可复用。