GitHub · 去对齐工具与仓库·· 11 天前AI 评分42
mo-ri-ch 开源 build-an-llm-from-scratch:从零构建小型 LLM 的交互式课程
mo-ri-ch/build-an-llm-from-scratch
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/mo-ri-ch/build-an-llm-from-scratch
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 上的 build-an-llm-from-scratch 项目提供交互式课程,从一列数字开始逐步构建一个小型语言模型,每课以模型答不上的问题收尾、下一课解答。课程面向零 AI 基础的初学者,只需基础 Python 和 PyTorch,无需 GPU 或微积分;前 4 课(Tensors、文本转数字、预测下一个词、模型学习)已上线,共规划 10 课,涵盖 Embeddings、Attention 和 Transformer block。代码可在 Google Colab 或本地运行,最终模型是在 Grimm's Fairy Tales 上训练的小型 transformer,可在浏览器中运行。
来源:GitHub · 去对齐工具与仓库 · github.com