跳到正文
Hugging Face Blog·· 2 小时前精选AI 评分65

Hugging Face发布HOPE:MoE模型专家剪枝新方法

Your Experts Have Partners. There's HOPE for Keeping Them Together

AI 导读

Hugging Face团队提出HOPE(Higher-Order Pruning of Experts)方法,用于MoE语言模型中的专家剪枝。该方法考虑专家间的二阶交互关系,在50%剪枝率下相比其他方法性能提升最高达6.1%,特别是在智能体编码任务上表现优异。团队已发布相关代码包,支持Qwen和GLM等模型。

推荐理由

通过考虑专家间的二阶交互关系,HOPE方法在专家剪枝中实现了显著性能提升,尤其在50%剪枝率下表现突出。

来源:Hugging Face Blog · huggingface.co