xilex05/fgai-rnn-text-generation:用 SimpleRNN、BiRNN、LSTM 和 GRU 做词级自回归文本生成
一个生成式 AI 课程作业仓库用四种循环神经网络(SimpleRNN、BiRNN、LSTM、GRU)在《福尔摩斯冒险史》语料上做词级自回归文本生成,语料含 120,510 个 token、词表 3,158 项。四种模型在相同设置(Embedding 128、Dropout 0.3、Adam 学习率 1e-3)下训练,GRU 全指标最优:验证困惑度 91.52、top-1 准确率 20.02%、top-5 准确率 43.67%。仓库还比较了 0.5、1.0、1.5 三档采样温度对生成连贯性与多样性的影响。