llm-from-scratch：用 NumPy 从零构建 decoder 大语言模型的完整实现

GitHub 开源项目 llm-from-scratch 提供完整的小型 decoder 语言模型实现，基于 Python 3.11–3.13 和 NumPy 2.3.5 在 CPU 上运行，无需预训练权重或 API keys。仓库自行实现注意力、RMSNorm、SwiGLU、反向传播、Adam、byte-level BPE 和 KV 缓存生成，不使用自动微分或 transformer 框架；默认模型含 2 个 decoder blocks、13,904 个参数，120 步训练中验证 loss 从 5.5820 降至 2.7286 nats per token，支持保存、恢复训练与生成。