HuggingFace Daily Papers· Ofek Avivi, Eliron Rahimi, Avi Mendelson, Chaim Baskin·· 4 天前AI 评分35
T2Quant:扩散语言模型的任务与时间感知量化框架
Different Tasks, Different Timesteps: Temporal Task-Aware Quantization for Diffusion Language Models
AI 导读
T2Quant 通过任务和时间敏感的混合精度量化,在固定比特预算下提升扩散语言模型平均精度达6.7个百分点。该框架无需真实标签或任务特定评估指标即可预测量化敏感模式,在三个DLM和六个基准测试中优于现有方法。
来源:HuggingFace Daily Papers · arxiv.org