Reddit · r/LocalLLaMA· /u/RevealIndividual7567·· 11 天前精选AI 评分59
CHIPformer:把 Transformer 变成能跑 Pong、Tetris 等 119 款游戏的 CHIP-8 游戏机
I turned a transformer into a game console that runs Pong, Tetris, Space Invaders and 116 more games.
来源与原文
Reddit · r/LocalLLaMA
作者:/u/RevealIndividual7567
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x6uaav/i_turned_a_transformer_into_a_game_console_that/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
作者 /u/RevealIndividual7567 将 CHIP-8 游戏机实现为 decoder-only Transformer,模型本身就是游戏引擎,通过 next-token prediction 执行指令、更新内存并渲染每一帧,每个生成的 token 都是一次内存写入,按键直接进入上下文窗口,没有单独的模拟器。权重由电路编译而非训练得到:attention 负责通过查找地址最近一次写入来读内存,ReLU 电路处理 opcode 解码、算术、比较和位运算,兼容性怪癖编码在初始 prompt 中,换游戏只需在 prompt 里换 ROM。
推荐理由
作者把 CHIP-8 模拟器编译成 32M 参数的 Transformer,权重来自电路而非训练,思路和权重、代码都可直接复现。
来源:Reddit · r/LocalLLaMA · reddit.com