HeliosLM 开源 DeepSeek-V3 级架构的 CPU 可运行 PyTorch 参考实现与 RLCD 决策层论文草稿

作者 Chien-Hsin Lin 在 GitHub 开源 HeliosLM，一个从零实现的 PyTorch 参考实现，涵盖 MLA 注意力、sigmoid 门控 MoE、混合线性注意力、FP8 训练、DualPipe、投机解码与 vLLM 风格推理引擎，全部可在 CPU 上运行并有 115+ 单元测试和位级等价校验。仓库同时是 RLCD 决策层范式的开源参考，在 8.5M/360M/Qwen3-0.6B 三个规模上测量错误答案上的过度自信（0.94 到约 1.0），在 7,193 条实例的 RLCDAlignBench 上开源读出器达到 0.726 中位 AUROC，并在 11/41 项基准上超过商业 Jev 检测器的零样本成绩，配套论文草稿与版本化基准数据。