GitHub · 去对齐工具与仓库·· 20 天前AI 评分25
BabyGPT：从最小神经网络思想逐层重建小型 GPT 的学习路径
minhquan-123-hue/babygpt
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/minhquan-123-hue/babygpt
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
BabyGPT 项目正从最基础的神经网络概念出发逐步重建一个小型 GPT，当前推进到步骤 08-12，包括 Token→Number、Word Prediction、Context→Token、Embedding、Attention 及 Attention v2。各步骤先用简单打分表和查找表实现，softmax、可学习的 Q/K/V 矩阵和多头注意力留待后续；早期词预测实验代码保留在 old_experiment/ 目录作参考。
来源：GitHub · 去对齐工具与仓库 · github.com