跳到正文
GitHub · 去对齐工具与仓库·· 21 天前AI 评分44

Transformers From Scratch:从第一性原理拆解现代 LLM 架构与后训练的开源指南

xnileshtiwari/transformers-from-scratch

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/xnileshtiwari/transformers-from-scratch

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 开源项目 Transformers From Scratch 将现代大语言模型拆解为 8 大模块、23 个原子组件,覆盖从 Word2Vec 静态嵌入到 GRPO、DeepSeek-R1、OpenAI o1 等推理强化学习。每个组件按“为什么、定义与架构、数学推导、真实 NLP 案例”四部分讲解,并附完整架构依赖图,内容涉及 RoPE、KV-Cache、RMSNorm、SwiGLU、DPO 等技术。

来源:GitHub · 去对齐工具与仓库 · github.com