HuggingFace Daily Papers· Jiashuo Sun, Hao Zhang, Xueqiang Xu, Heng Wang, Yixuan Xie, Pengcheng Jiang, Zhenrui Yue, Jiajun Fan, Peiran Li, Ge Liu, Shaowen Wang, Jiawei Han·· 6 天前AI 评分40
Ask to Distill:学习合成用于同策略蒸馏的数据
Ask to Distill: Learning to Synthesize Data for On-Policy Distillation
AI 导读
Ask-to-Distill 框架通过优化合成问题提升同策略蒸馏性能,在数学推理、代码生成和智能体任务中优于未优化的学生生成提示和KL过滤的真实问题,匹配或超过真实数据集表现。该方法利用教师-学生分歧和概率质量分布作为奖励信号,无需正确答案或候选学生更新。
来源:HuggingFace Daily Papers · arxiv.org