Phova 开源 uTTT:面向 RTX 5090 的通用测试时训练框架
Phova 在 GitHub 发布 uTTT(Universal Test-Time Training)框架,覆盖远端元训练、自动化部署与交互式个性化推理全流程,针对单卡 NVIDIA RTX 5090(32GB GDDR7,Blackwell sm_120)做算子级与显存级优化。核心包括跨层共享快权重池与 SwiGLU 解析式块状梯度(用 torch.bmm 一次算出)、双轨 Checkpoint 管理(base_uttt.pt 加 personas/{user_id}_state.pt)与三级 LRU 缓存,个性化通过流式生成、Chunk TTT 更新、惊奇度门控与弹性锚点实现。
推荐理由:原文给出了从元训练到多租户个性化服务的完整部署链路和指令集,读者可以照着在单卡 RTX 5090 上复现这套测试时训练流程。