GitHub · 去对齐工具与仓库·· 20 天前AI 评分40
thofranca 开源 llm-lab:可视化大语言模型内部运行数据的独立实验项目
thofranca/llm-lab
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/thofranca/llm-lab
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
thofranca 发布独立项目 llm-lab,用于可视化大语言模型内部数据,自带 FastAPI、Python 环境和本地 Git 仓库,不依赖 Ollama。默认模型为 Qwen/Qwen3-0.6B(0.6B 参数、28 个 decoder 块,捕获第 0、5、11、16、22、27 块),安装器创建 .venv 并安装 PyTorch 2.7.1 with CUDA 12.8。界面展示激活 RMS、注意力 top-12 贡献和前五 next token 概率,初始限制 256 输入 token、默认 32 输出(最高 128),16 位权重约 1.2 GB,建议 16 GB RAM 和 6 GB VRAM。
来源:GitHub · 去对齐工具与仓库 · github.com