arXiv · cs.CL· Hongyang Su·· 21 小时前AI 评分25
LatentRec:用训练时隐式推理替代 LLM 推荐的推理时 CoT
Do Recommenders Need to Think in Words? Latent Reasoning for Efficient LLM-Based Recommendation
来源与原文
arXiv · cs.CL
作者:Hongyang Su
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.07866v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
LatentRec 提出用训练时的逐步隐式推理监督替代 LLM 推荐推理阶段的 CoT 文本生成,部署时可丢弃推理模块。其 2.5M 参数的 Continuous Thought Module 在训练中迭代 K 步隐式推理,配合 Soft Token Selection 弥合隐藏状态与输入嵌入约 14x 的范数差距,并以 Per-step Reasoning Loss 监督每个中间状态。在三个 Amazon 基准上,HR@10 相对提升 4.0-5.0%,延迟降低 18.3x(batch=1)。
来源:arXiv · cs.CL · arxiv.org
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。