跳到正文
HuggingFace Daily Papers· Jiashuo Sun, Hao Zhang, Xueqiang Xu, Heng Wang, Yixuan Xie, Pengcheng Jiang, Zhenrui Yue, Jiajun Fan, Peiran Li, Ge Liu, Shaowen Wang, Jiawei Han·· 6 天前AI 评分40

Ask to Distill:学习合成用于同策略蒸馏的数据

Ask to Distill: Learning to Synthesize Data for On-Policy Distillation

AI 导读

Ask-to-Distill 框架通过优化合成问题提升同策略蒸馏性能,在数学推理、代码生成和智能体任务中优于未优化的学生生成提示和KL过滤的真实问题,匹配或超过真实数据集表现。该方法利用教师-学生分歧和概率质量分布作为奖励信号,无需正确答案或候选学生更新。

来源:HuggingFace Daily Papers · arxiv.org