跳到正文
arXiv · cs.CL· Yichuan Chen·· 10 天前AI 评分42

重复循环何时锁死?截断采样、有界惩罚与 DRY 的盲点

When Do Repetition Loops Lock? Truncation Sampling, Bounded Penalties, and a Blind Spot in DRY

来源与原文

arXiv · cs.CL

作者:Yichuan Chen

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.24715v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

语言模型有时会逐字重复直到生成上限,一项研究分析循环的逃逸条件:给定某片段已重复 n 次,逃逸何时仍可能。研究发现有界惩罚可导致位置锁死,并预测广泛部署的 DRY 采样器存在盲点——在 11 个开源模型上,66% 的 g=6 锁死单元在 DRY 下保持锁死,自由生成中存活于 DRY 的 109 个循环全部满足 g≤7。作者提出 DRY-C,720 次结构化输出生成均未循环到长度上限,任务完成率与 DRY 接近。

来源:arXiv · cs.CL · arxiv.org