GitHub · 灵魂体仓库·· 20 天前AI 评分22
ai4os/arena-fl-server-llm:基于 Flower 的联邦大模型服务器部署
ai4os/arena-fl-server-llm
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/ai4os/arena-fl-server-llm
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
ai4os 的 arena-fl-server-llm 仓库提供了在 EOSC ARENA 上运行、基于 Flower 的联邦 LLM 服务器(SuperLink)部署,各节点上的客户端(SuperNode)用本地数据集连接训练。默认模型为 Qwen/Qwen2.5-0.5B,量化设为 4,训练 10 轮、每轮 3 epoch,客户端启动示例为 ./start_supernode.sh,可通过 flwr run . remote 发起远程运行。项目采用 Apache 2.0 许可证,由欧盟 EOSC-ARENA 项目(Horizon Europe,Grant number 101292597)资助。
来源:GitHub · 灵魂体仓库 · github.com