HuggingFace Daily Papers· Zhizhuo Kou, Sizai Hou, Long Chen, Jian Yang, Junyu Luo, Jingshu Peng, Wenkai Zhang, Sirui Han, Yike Guo·· 3 天前AI 评分35
推理模型中 wait 标记的来源追踪研究
Inherited, Not Invented: Tracing the Provenance of Wait in Reasoning Models
AI 导读
研究发现推理模型中的 wait 标记并非强化学习（RL）原创，而是继承自训练数据。在缺乏该标记的模型基座上，RL 能显著提升 MATH-500 准确率但不会引入 wait；而监督微调会将该标记植入模型。标记频率变化与 RL 诱导的推理能力无直接关联。
来源：HuggingFace Daily Papers · arxiv.org