GitHub · 去对齐工具与仓库·· 3 天前精选AI 评分60
Phova 开源 uTTT:面向 RTX 5090 的通用测试时训练框架
Phova/uTTTCompanion
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Phova/uTTTCompanion
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Phova 在 GitHub 发布 uTTT(Universal Test-Time Training)框架,覆盖远端元训练、自动化部署与交互式个性化推理全流程,针对单卡 NVIDIA RTX 5090(32GB GDDR7,Blackwell sm_120)做算子级与显存级优化。核心包括跨层共享快权重池与 SwiGLU 解析式块状梯度(用 torch.bmm 一次算出)、双轨 Checkpoint 管理(base_uttt.pt 加 personas/{user_id}_state.pt)与三级 LRU 缓存,个性化通过流式生成、Chunk TTT 更新、惊奇度门控与弹性锚点实现。
推荐理由
原文给出了从元训练到多租户个性化服务的完整部署链路和指令集,读者可以照着在单卡 RTX 5090 上复现这套测试时训练流程。
来源:GitHub · 去对齐工具与仓库 · github.com