GitHub · 去对齐工具与仓库·· 7 天前AI 评分45
bd4sur/Nano:可部署在树莓派、路由器与浏览器的开源小型语言模型项目
bd4sur/Nano
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/bd4sur/Nano
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
bd4sur 在 GitHub 开源 Transformer 结构的小型语言模型项目 Nano,主要复刻自 Karpathy 的 nanoGPT,提供 Nano-56M、Nano-168M 等模型及 LoRA 插件。其纯 C 语言推理引擎支持 FP32、Q80、Q4K 量化,可离线部署在树莓派、红米 AX5 路由器、ESP32 单片机集群和浏览器 WASM 中,也适配 Qwen2-0.5B 与 Qwen3-0.6B/1.7B/4B。项目同时支持预训练与监督微调,实测单卡 A100 训练 58M 模型 MFU 约 25%。
来源:GitHub · 去对齐工具与仓库 · github.com