跳到正文
HuggingFace Daily Papers· Sheldon Liang, Ali Taghibakhshi, Saurav Muralidharan, Sharath Turuvekere Sreenivas, Ashwath Aithal, Pavlo Molchanov, Nima Tajbakhsh·· 4 天前精选AI 评分65

AutoCompress: 自动化硬件引导的模型压缩

AutoCompress: Automated Hardware-Guided Model Compression

AI 导读

研究人员提出AutoCompress框架,通过硬件引导的压缩方法直接将延迟、吞吐量和内存约束融入可微分架构搜索,优化全局和每层结构以生成异构架构。

推荐理由

AutoCompress通过硬件引导的压缩框架,直接将延迟、吞吐量和内存约束融入架构搜索,解决了参数数量无法准确预测性能的问题。

来源:HuggingFace Daily Papers · arxiv.org