跳到正文
我的
热点事件持续更新

小组在 GitHub 发布课程 Transformer 训练项目仓库

1 篇报道1 个报道来源14 小时前更新

先了解这件事

AI 综述

Deep Learning 课程第 4 组在 GitHub 发布项目仓库 baochan24/Project_LLMs_Group4,包含一个用 PyTorch 从零实现的 decoder-only Transformer 小模型,以及 GPT-2 预训练模型的推理对照。模型在 Tiny Shakespeare 数据集(90/10 划分)上训练,采用 2 blocks、4 heads、d=128、context=128,参数量 421,632。仓库提供训练、评估、生成(greedy/temperature/top-k)等 pipeline 命令及 Windows/Linux 环境搭建说明。 仓库注明该自训模型并非大规模 LLM,也不直接加载 GPT-2 权重;据仓库说明,项目尚未在小组的 Windows 机器上验证过。

AI 根据报道生成 · 13 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. GitHub · 灵魂体仓库
    baochan24/Project_LLMs_Group4:Deep Learning 课程 decoder-only Transformer 小模型项目仓库

    这是 Deep Learning 课程的第 4 组演示项目仓库,包含一个用 PyTorch 从零实现的 decoder-only Transformer 小模型,以及 GPT-2 预训练模型推理,自定义模型不加载 GPT-2 权重。模型在 Tiny Shakespeare 数据集(90/10 划分)上训练,采用 2 blocks、4 heads、d=128、context=128,参数量 421,632。仓库提供训练、评估、生成(greedy/temperature/top-k)等 pipeline 命令及 Windows/Linux 环境搭建说明。

本事件热度走势

可比范围当前
7
可比范围峰值
1011月5日 01:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。