GitHub · 灵魂体仓库·· 8 天前AI 评分44
FedLLM 复现:面向可解释交通流预测的隐私保护联邦大语言模型(Qwen2.5-1.5B + QLoRA)
MNJXT/FedLLM
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/MNJXT/FedLLM
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 上有研究者端到端复现了 Wilfrid Laurier University 团队的 FedLLM 论文,用 Qwen2.5-1.5B 结合 LoRA、4-bit QLoRA 与联邦学习做可解释交通流预测,仅训练 18,464,768 个权重(1.18%)。复现结果接近原论文:FedLLM 误差与论文相差 2% 以内,15/30/45/60 分钟预测的 R² 匹配到小数点后三位;复现中 5,000 条测试提示词 RMSE 为 31.84,低于论文的 35.66。仓库包含完整代码、LoRA adapter、合并模型与运行日志,GRU、DCRNN 等基线未在本次发布中运行。
来源:GitHub · 灵魂体仓库 · github.com