新闻、仓库与研究，按时间排列。
meanderinghuman 发布 storeops-copilot 项目，用 QLoRA 在免费 Kaggle T4 上微调 Qwen2.5-3B，结合代码级安全网关和大模型兜底，在 500 个held-out场景中达到 95.4% 任务成功率，94% 请求本地处理，有害动作率 0.4%。训练数据由 GLM-5.3 出题、DeepSeek-V4.1-Flash 以真实工具执行作答，过滤后保留 2,645 条；网关强制规则包括订单只能进待确认队列、产品 ID 必须来自同会话搜索、数字必须来自工具返回。项目基于 Walmart M5 数据集，附 1.5B 与 3B、多种量化精度的完整对比评测和失败复盘，代码 MIT 许可，3B 模型为 Qwen Research License。
推荐理由：原文给出完整的训练配方、评测数字和失败复盘，读者可以照着在免费 T4 上复现这条小模型本地 Agent 路线。
GitHub 用户 dosthcpp 发布 llm-pipeline 仓库，分享在单张 RTX 3090 上进行的本地 LLM 生成、训练、评估与量化实验源码快照。包含 Qwen3 系列 4B/8B 模型的 QLoRA SFT、RAFT、DPO 训练脚本，以及 GGUF 转换和 llama.cpp 部署脚本。仓库不含训练数据、模型权重与适配器，也未整理成开箱即用的安装包，使用前需自行检查脚本路径与服务控制。
GitHub 新仓库 kurtvalcorza/kandinsky-generation-pipeline 提供面向 Kandinsky 2.2 文生图（1.25B 参数 UNet，支持 512×512 与 1024×1024）的 DIMER 流水线。权重固定在不可变的 Hugging Face revision，全部为 safetensors，并附带留出集 denoising loss、CLIP 评分评估、60 张 CC0 iNaturalist 鸟类照片样本数据，以及带 safetensors 适配器的有界 LoRA 微调（rank 8，1,646,592 参数）。上游解码器与 prior 采用 Apache-2.0 许可，CLIP 评分为 MIT。
一位 Reddit r/LocalLLaMA 用户询问如何在 PolyStrata 中加载不同的微调模型。直接用 --gguf-dir 时必须声明基座模型架构，且显示的是原始模型名（CyberTiel 的 tiel 架构被显示为 TielCoder）；手动改 JSON 和 config 文件虽部分有效，但换用 ./setup.sh 之外的启动脚本会出问题，用户希望找到更干净的自动生成正确名称与配置的方法。
GitHub 新仓库 cpp-transformer-core 提供一套从零实现的 decoder-only transformer 训练管线，专注 C++ 源代码，包含自定义 BPE tokenizer、语料收集与清洗脚本、微调与本地推理脚本，训练配置版本化于 configs/training.json。该项目并非通用语言模型，原始数据集与 checkpoint 不纳入版本控制，依赖可通过 pip install -r requirements.txt 安装。
sysofwan 在 GitHub 发布 HifzGuide 仓库，为 iOS 实时古兰经跟读校验应用 Muraja 提供数据与工具，采用 AGPL v3.0 许可。预构建资源以 GitHub Releases 分发，包含 6 段 Wav2Vec2-BERT CoreML 模型（6-bit 调色板量化，约 443 MB）、604 个 QCF2 页面字体、约 48 MB 的 quran.db 等。工具链含基于 Muaalem 音素头的 LoRA 微调与 Tadabur 质量过滤流水线，训练环境为 Linux + CUDA，CoreML 导出在 macOS/Apple Silicon 完成。
一位用户在 N1X 128GB（88GB VRAM）Windows on Arm 设备上，通过 WSL3/Ubuntu-26.04 调优 Qwen3.8-Flash-Next-W4A16-AutoRound-hybrid 模型并取得满意结果。虽然生成速度（tk/s）不算最快，但面向智能体的并发表现好于预期。
开发者推出 ThousandML 平台，用自研免校准量化 CQ 4-bit 做 QLoRA 微调以降低 GPU 成本。在 Qwen3.8-27B 的 Alpaca 微调对比中（单张 NVIDIA A40 48 GB，LoRA r=32、500 步），CQ 最终验证损失 1.0315 优于 Unsloth NF4 的 1.2484，且峰值显存略低，但每步耗时 27.60 s 远慢于 NF4 的 3.20 s，速度仍在优化中。已发布 thousandml/Qwen3.8-27B-CQ-4bit 等多个 CQ 4-bit 底座模型及复现脚本。
一位 Reddit r/LocalLLaMA 用户用 8x T4 服务器部署 Qwen 3.5-9B Q5_K_XL，实现 87k 上下文、44 个 slot、单用户 35-40 tps，现想用 QLoRA 微调约 500 GB 的图像、扫描件、PDF、Word/Excel 数据。他持有 Mi50、V620、3060 等多块显卡但多台主板存在启动兼容问题，纠结于 3060 组合还是单价约 700 美元的单卡 R9700，并询问 unsloth 是否支持 Intel GPU。
Umicom Foundation 在 GitHub 开源 Umicom LLM 项目，涵盖训练、评估与微调。仓库采用 src/、include/、docs/、scripts/ 等标准目录结构，包含 C/C++ 源码、公共头文件、文档与 CI 工作流，项目由 Sammy Hegab 编写，采用 MIT 许可证，代码直接提交 main 分支并要求详尽注释。
GitHub 仓库 trasher88/ml-engineering-lab 是一个覆盖数据准备、分类、检索、RAG、LLM 微调与部署的教学项目，分为 F1–F5 五个阶段共 43 个学习步骤。本地实验记录显示：经典 ML（TF-IDF + Logistic Regression）Test macro F1 为 0.8838，优于 PyTorch 分类器的 0.7813；向量检索 Recall@5 达 0.8500，高于 hybrid 的 0.5500；SFT tiny LLM 未带来提升。项目有意保留负结果与局限，数据采用 CC BY-NC-SA 4.0，暂未提供开源许可证。
Swedish Embedded AB 开源 brain，用单个 Rust 程序在现有硬件上下载、运行、微调、量化模型，并通过 OpenAI 兼容 API 提供服务，无需 Python、PyTorch 或独立推理运行时。支持 Qwen3、GLM、YOLOv8、FLUX.2 Klein、Qwen3-TTS 等文本、视觉、语音和世界模型，内置 wgpu、vulkan、cuda、cpu 四个后端，可跑在 NVIDIA/AMD/Intel GPU、CPU、Intel NPU 和浏览器中；每个导入模型与参考实现逐步对比测试，训练用有限差分数值校验，后端间做一致性检查，许可证为 Apache-2.0。
推荐理由：一个 Rust 程序覆盖下载、推理、微调、量化和 OpenAI 兼容服务，不依赖 Python 或 PyTorch，并给出后端一致性等自检测试。
GitHub 开源项目 emoji-studio 探索用后训练生成新 emoji 概念，已完成 SDXL LoRA 试点训练和 72 组盲评，确定选用 step 25 checkpoint。单张 40 GB A100 负载测试中 18 个生成任务全部成功，吞吐 6.73 images/minute，p95 延迟 35.93 秒，总支出约 $1.49。两个模型都能渲染连贯物体但难以生成双手交互，机械物体如自行车仍是已知弱点，项目尚未训练交互 adapter。
作者发布开源 Python 包 mlx-decision，可在 Mac 上用 MLX 本地运行 Clef、pplx-decider、d3、H2O-Lightning、LiquidAI d1 等开放决策模型。输入消息、文档或截图加带类型的问题，一次前向即返回各选项的概率与置信度；与原 PyTorch 代码逐 token 校验，同答案下在 MPS 上通常快 1.4–6 倍，M5 Pro 上 d1-3B 短请求 0.06 秒。附带本地 Web Studio 支持对比模型、跑数据集评测和微调，d1-3B 微调 4 分钟在 TREC 上从 86.6% 提到 96.4%；MIT 协议，需 macOS 14+ 和 Python 3.12+，仓库 https://github.com/armbues/mlx-decision。
推荐理由：作者给出了各模型在 Apple Silicon 上的实测延迟和微调前后准确率对比，本地部署决策模型时可参考这些数字选型。
GitHub 开源项目 LLM Developer 发布 v1.0.0，可在本地 CPU 上训练、微调和测试小型 GPT 语言模型，无需 GPU，建议至少 4GB 内存。项目基于 NanoGPT 从零实现，使用 Streamlit 界面与 PyTorch，支持自定义字符级 tokenizer、实时 loss 图表、预置模型（Cedar、Talkative Dumbo）加载及 Hugging Face transformers 集成。
goya4140 开源的 minimind-training-lab 是一个面向学习的可复现训练项目，沿同一能力路线从零训练 MiniMind LLM（Decoder-only，64M）、VLM 和 Video-Omni（视频+文本输入→文本输出）。LLM 已完成预训练 317,048 步与 SFT 40,000 步，2026-10-24 因本地空间不足迁至服务器进行 CUDA 重训，正式 run mm64-cuda-20261024T075332Z 已启动；VLM 与 Video-Omni 代码已实现，服务器重训待启动。项目交付模型代码、训练配置、评估与中文学习报告，代码采用 Apache-2.0 许可。
GitHub 上的 llm-training-toolkit 仓库，是用于理解和实验大语言模型训练与微调的学习项目，覆盖不同架构。仓库包含 .gitignore 与 README 等基础文件。
作者 /u/textclf 发布了用于微调开源模型的 Training Factory 平台，主打对 4-bit 量化模型做 QLoRA 而非全精度微调以降低 GPU 成本。所用 CQ（Coded Quantization）为免校准量化，作者在 Qwen 3.8 27B 上用 Wikitext-2 对比称其 KLD 优于 unsloth-bnb-4bit（磁盘占用 18GB 对 22.4GB，Top 1% 一致率 92.419% 对 91.954%）；在 Alpaca 数据集上用单张 A40（48GB）跑通训练，峰值 PyTorch 分配显存 25.5 GiB、稳态中位每步约 14.99 秒。
GitHub 仓库 thackerhelik/finetuningcourse 提供端到端的三阶段 LLM 后训练流程（Domain Adaptation → SFT → DPO），将 TinyLlama-1.1B 适配到药理学领域，并通过 Ollama 本地部署。仓库包含 data、experiments/metformin、notebooks 目录及 export_to_ollama.py 导出脚本，目前尚无 star 和 fork。
参赛队「广州智行科技」开源千问杯多模态推理大赛最终第3名（获2万元奖金）的完整方案：在 Qwen3.5-0.8B 上先蒸馏 Qwen3.6-27B 的 113K 样本做 SFT（初赛 41.8 分压线晋级），再用 GRPO 30 步小剂量 RL（决赛榜 20.2 分，第 9/20），答辩后终评第 3。仓库公开训练/导出脚本、真实日志与技术报告，权重托管于 Hugging Face；核心发现包括 RL 剂量轴在 30 步达峰、同权重 ZIP CRC 消融证明采样解码白送约 3 分、0.8B 模型 RL 池内学习量与平台分强反相关。
推荐理由：作者用同权重 CRC 消融和剂量轴实验分离出每个增量的因果证据，0.8B 小模型 RL 剂量与遗忘的权衡刻画对类似场景可迁移。
Seed 是一个本地语言模型训练工作室，可用自己的文本从零训练小模型，并观察学习进度与实验输出。界面包含 Training、文本生成、Chat 和 New life 四个部分，默认模型约 3.36 million 参数、在 CPU 上运行，macOS 可选原生加速。前端采用 React、TypeScript 与 Vite，Transformer 引擎（包括 attention、梯度和优化）直接用 TypeScript 实现，不依赖机器学习库或外部推理 API，可本地或通过 Docker 运行并保存 checkpoint。
Axolotl 是一个免费开源的大语言模型微调框架。2026/10 更新加入 Reflection 的 Beam 支持（含 QLoRA 与 NVFP4 expert-parallel LoRA 配置）、DeepSpeed Ulysses 上下文并行及 expert-LoRA resume 修复；此前版本新增 Qwen3.6、MiniCPM5、K2 Horizon 等模型支持，并提供 `axolotl export` 的 GGUF 导出以配合 llama.cpp 和 Ollama 部署。
GitHub 仓库 rmems/Dioscuri-Cloud 提供面向学生/免费云额度训练的云运维层，涵盖对象存储（S3）、CUDA 镜像、GPU 节点、SageMaker/Azure ML 托管训练任务、成本追踪与 HCP Terraform 控制平面。训练实现位于配套仓库 rmems/agoge-forger，使用 TRL SFTTrainer + PEFT + bitsandbytes QLoRA，通过 `uv run agoge train-qlora` 执行；仓库以 AWS 为主、Azure 为备份，并用 cost-ledger.md 跟踪云支出。
该开源项目用 QLoRA 微调 Qwen3-4B-Instruct-2507（Apache 2.0），将法语/英语/混用的招聘邮件转换为经 schema 校验的 JSON，并与同款基座模型的 zero-shot 和 few-shot 表现在人工核验的 200 条测试集上对比。训练数据为 LLM 生成的合成数据，微调模型使用单行指令以避免超出 1024-token 预算，其部分延迟优势来自更短的提示词。项目尚处进行中（Day 1），备选模型为 Qwen3-1.7B。
JatinF 在 GitHub 发布开源项目 intelliforge-ai-platform 0.1.0，一个模型无关的 LLM 评测、LoRA 适配、模型路由与治理参考实现。本地 NumPy LoRA（rank 2）held-out 准确率 1.0，基线 0.333333，本地诊断 P95 为 2.667 ms；开源权重槽位为 Qwen/Qwen2.5-3B-Instruct（vLLM），商业槽位为 grok-4.7，两者均未实际运行，部署决策为 NO-GO。
GitHub 开源项目 llm-extraction-finetune 用 QLoRA（LoRA + PEFT + Unsloth 4 bit 量化）微调 Qwen2.5-3B-Instruct，抽取法/英/美多币种发票为结构化 JSON。v3 报告称 JSON 有效率 100%、Exact Match 95%。数据集含 600 条合成发票文本及 600 张 PNG，按 Train 480/Val 60/Test 60 划分，并用 Pydantic v2 做输出校验与金额一致性检查。
Esxyko 在 GitHub 发布 llm-classification-finetuning 项目，用于 Kaggle LLM Classification Finetuning 竞赛，比较两个模型对同一提示词的回答并预测 A 胜、B 胜或平局。项目支持冻结 Qwen3-4B 主干加可训练成对分类器，以及 LoRA 和 4-bit NF4 QLoRA 训练，提供防泄漏的 80/20 分层划分、holdout 验证和混淆矩阵报告。训练需 1 块 CUDA GPU，提交推理需 2 块。
开发者开源了一个概念验证项目 MiniGPT，在清洗后的英文 Wikipedia 子集上端到端训练小型 Transformer 语言模型，覆盖数据清洗、Byte-Level BPE 分词、训练、checkpoint 与文本生成全流程。模型默认配置为 n_embd=128、n_layer=4、nhead=4、block_size=1024，训练采用 AdamW(lr=3e-4) 和 0.1 验证集划分，自研部分包括断点续训、CSV 持久化日志与采样生成。项目还记录了在 NVIDIA Blackwell GPU 早期通过版本对齐解决驱动/CUDA/PyTorch 兼容问题的经验。
GitHub 开源项目 heisenberg-trainer 提供 AIOps 时序曲线工具集，覆盖时序图像生成、预处理标注、网页预览，以及基于 Qwen3.5 的多模态模型训练（GRPO / OPD / JEV）。其 JEV 判别式模型对候选选项打分做曲线分类，GRPO 则用 format、accuracy、consistency 等奖励函数训练 Qwen3.5-0.8B 输出 trend（7 类）与 recover（4 类）标签。数据共 3248 样本且类别严重不均衡，奖励采用三级梯度设计，错误标签罚 -0.2、输出 other 罚 -0.5，以避免组内零方差导致梯度消失。
GitHub 开源工具 overbrainer v0.9.0 支持从命令行把大的父模型蒸馏成更小的开放权重子模型：向父模型生成问题并收集带推理的回答，用 Axolotl 在本地、SSH 机器或 Runpod 上做 LoRA 微调，再导出量化 GGUF 和 Ollama Modelfile。overbrainer compare 在评测集上对比子模型与父模型的胜率、延迟和每千次请求成本，并提供六视图终端 UI、Prometheus 指标和可安装到 Claude Code 的 agent skill。项目处于早期开发阶段，1.0 前小版本可能有破坏性变更。
推荐理由：从生成数据集到用 Axolotl 微调再到导出 GGUF 全流程一条命令走完，还用胜负率和成本对比衡量孩子与父模型的差距。
ThousandML 发布开源微调平台 Training Factory，用 QLoRA 对 4-bit 量化模型做微调以降低 GPU 成本。其采用的 CQ（Coded Quantization）是无校准量化，效果与主流量化相当，已提供 Qwen3.8-27B-CQ-4bit、Llama-3.1-8B-Instruct-CQ-4bit、Llama-3.3-70B-Instruct-CQ-4bit 等底座，并支持用 vLLM 加载 LoRA adapter 部署。
/u/woct0rdho 为 llama.cpp 编写了 LoRA 推理 kernel，代码见 https://github.com/woct0rdho/llama.cpp 。在 Strix Halo 上，加载 35 MB 的 LoRA（如把 Qwen3.8-Flash-Next 转成 uncensored 版的 chenrm/qwen3.8-flash-next-abliterated-lora）原本使 PP 从约 1500 降到 300 t/s，通用 kernel 提升到 1000 t/s，fused kernel 进一步到 1400 t/s。LoRA scale 可调节去审查与能力损失之间的平衡，且无需重新下载整个模型。
推荐理由：作者给出了 LoRA 推理在 Strix Halo 上从 300 到 1400 t/s 的实测数据，并开放了可复用的 kernel 代码。
Google 推出 TorchTitan TPU 分叉，配合 TorchTPU 原生后端，可在 Cloud TPU 上训练 PyTorch 模型。该分叉提供 SimpleFSDP、Graph Trainer、Pallas 内核和优化 Playbook，代码已在 GitHub 开源。
GitHub 开源仓库 IntelligentNetworkingLAB/evolvable-dl-platform 提供一个可在分布式边缘节点上用联邦学习构建领域模型的演进式深度学习平台。后端基于 PyTorch 运行 LoRA 适配器的 FedAvg 联邦学习（含分层量化与剪枝，CPU 即可运行），内置内容缓存、推理卸载和信道估计三个应用，训练中可触发数据分布偏移、节点加入、级联过载等事件，采用 Apache-2.0 许可证。
该项目以 slime（THUDM，GLM-5.2 同款后训练栈）为蓝本，在无 GPU 的 CPU 节点上复现 RL 后训练的控制流与 CPU 负载画像，rollout 前向用 llama.cpp + Qwen3-4B 本地推理，training 反向 mock。设计原则是闭环可假、负载失真不可接受，涵盖 agentic RL sandbox 驱动方式、E0–E6 实验与双节点 SWE-bench 设计。
GitHub 开源了一个端到端微调流水线，把基础 instruct 模型训练成对话信号分类器与合规回应建议器，覆盖合成数据生成、SFT、DPO、评估和 LoRA 合并导出。默认使用 sshleifer/tiny-gpt2（约 5MB），整个流程可在 CPU 上数分钟内跑完，也可传入 HuggingFaceTB/SmolLM2-135M-Instruct 等小模型运行。
GitHub 仓库 qibin0506/llm_trainer 发布，是一个基于 PyTorch 与 DeepSpeed 的 LLM/VLM 训练框架，覆盖 Pretrain、SFT、DPO/ORPO/SimPO 到 PPO 与 GRPO 的完整流程，支持 8 种 GRPO 变体算子（grpo、bnpo、dr_grpo、cispo、dapo、luspo、sapo、vespo）。框架内置 Muon 优化器自动混合参数分组与多学习率比例调度，通过分块交叉熵、Active Token Filtering 和生成/评估分块降低显存峰值，支持多轮 Agent 强化学习交互与奖励折叠，并适配 NVIDIA CUDA、华为昇腾 NPU、寒武纪 MLU 和 Apple Silicon MPS 后端。
推荐理由：原文完整给出了从预训练到 GRPO 的训练流程与关键显存优化手段，读者可以对照自己的硬件环境判断哪些模块可直接迁移。
一个为土耳其 Darıca 市政服务开发的 RAG（检索增强生成）AI 助手项目，用于解答市民关于市政服务、婚姻与设施收费、行政流程等问题。模型为经 QLoRA 微调的 3B LLM，结合向量检索市政文档，并通过 Python 函数工具支持动态价格与实时查询。界面采用 Streamlit，许可证为 Apache-2.0。
受 IBM Granite Switch 启发，开发者发布 rubick——一个指向 LLaMA 端点的代理网关，用同一模型通过 aLoRA 同时暴露常规 LLM、systemone（jev-like）与 embeddings 端点。它复用 KV cache、无需模型切换，支持即插即用 aLoRA，训练配方可在用户硬件上约 1 小时完成。项目为 POC，Apache2 开源，含 benchmark、用例与 Docker 配置。
MaxKharlan 发布 next-experiment，一个在 Nebius Token Factory 上诊断微调失败原因并做因果验证的智能体。它先按概率排序可能病因，用最便宜的探针和 fix/control 对照实验确认病因，确认后才在批准后重训。演示案例中 Qwen3-0.6B 因学习率 1e-5 过低只答对 14% 的 200 条 held-out 查询，4 个 Post-training job 证实病因后重训达 42.5%，全程约 $0.075。基准在 13 个 Token Factory 任务上对比四种方法，Next Experiment 9/9 找到病因、0 误报，成本比 ReAct 低 30%。仓库含 HTTP API、调查回放页面、权重探针与完整文档，Apache 2.0 许可。
推荐理由：原文给出基准对比数据，这个诊断智能体以低 30% 的成本达到与 ReAct 相同的病因定位成功率，方法可迁移到自己的微调排查。