HuggingFace Daily Papers· Sheldon Liang, Ali Taghibakhshi, Saurav Muralidharan, Sharath Turuvekere Sreenivas, Ashwath Aithal, Pavlo Molchanov, Nima Tajbakhsh·· 4 天前精选AI 评分65
AutoCompress: 自动化硬件引导的模型压缩
AutoCompress: Automated Hardware-Guided Model Compression
AI 导读
研究人员提出AutoCompress框架,通过硬件引导的压缩方法直接将延迟、吞吐量和内存约束融入可微分架构搜索,优化全局和每层结构以生成异构架构。
推荐理由
AutoCompress通过硬件引导的压缩框架,直接将延迟、吞吐量和内存约束融入架构搜索,解决了参数数量无法准确预测性能的问题。
来源:HuggingFace Daily Papers · arxiv.org