AARUL：在笔记本 GPU 上从零训练的 15.7M 参数语言模型，可在浏览器中运行

作者发布了完全从零编写的语言模型 AARUL：15.74M 参数的 decoder-only transformer，采用 Llama 同款设计，在 RTX 3070 Ti 笔记本 GPU 上用 TinyStories 数据训练 2.6 小时、229M tokens，验证损失从 8.40 降到 1.274。浏览器端以 19 KB 无依赖 JavaScript 运行 int8 量化模型（约 40-50 tokens/s），可实时展示 48 个注意力头的权重和各 token 概率分布，并通过与 PyTorch 对照的测试验证实现一致性。仓库 MIT 许可，含完整复现脚本。