跳到正文
我的
arXiv · cs.CL· Hongyang Su·· 21 小时前AI 评分25

LatentRec:用训练时隐式推理替代 LLM 推荐的推理时 CoT

Do Recommenders Need to Think in Words? Latent Reasoning for Efficient LLM-Based Recommendation

来源与原文

arXiv · cs.CL

作者:Hongyang Su

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2611.07866v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

LatentRec 提出用训练时的逐步隐式推理监督替代 LLM 推荐推理阶段的 CoT 文本生成,部署时可丢弃推理模块。其 2.5M 参数的 Continuous Thought Module 在训练中迭代 K 步隐式推理,配合 Soft Token Selection 弥合隐藏状态与输入嵌入约 14x 的范数差距,并以 Per-step Reasoning Loss 监督每个中间状态。在三个 Amazon 基准上,HR@10 相对提升 4.0-5.0%,延迟降低 18.3x(batch=1)。

来源:arXiv · cs.CL · arxiv.org

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。