跳到正文
GitHub · 去对齐工具与仓库·· 20 天前AI 评分36

alexchandy13/multicultural-llm-probe:用 CULNIG 扩展拆解 LLM 文化规范漂移中 SFT 与 DPO 的影响

alexchandy13/multicultural-llm-probe

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/alexchandy13/multicultural-llm-probe

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

该仓库基于 Llama 3.2 3B 设置四种条件(base、SFT、DPO、SFT+DPO),用 CULNIG 的 values-based 扩展拆解 SFT 与 DPO 对文化规范漂移的影响。SFT 在 Alpaca 52K 数据上训练 3 个 epoch,DPO 在 HH-RLHF 30K 子样本上训练 2 个 epoch,评测使用 NormAd。项目在 UMIACS Nexus 的 RTX A5000(24GB)上以 QLoRA 4-bit 运行,四个 LoRA adapter 总计不到 1 GB。

来源:GitHub · 去对齐工具与仓库 · github.com