Hugging Face Blog·· 5 天前精选AI 评分65
PyTorch 2.15 为 Mac 带来 MPS 性能大幅提升
MPS in PyTorch 2.15
AI 导读
PyTorch 2.15 为 Apple Silicon Mac 带来多项性能提升:FP8 支持让模型占用内存减半,MoE 模型解码速度提升 5-6.5 倍,视频解码内存占用从 270GB 降至 8GB,线性层和 softmax 运算速度显著提高。
推荐理由
FP8和Metal内核优化让Mac上的模型推理速度提升5-6.5倍,内存占用从270GB降至8GB,开源生态在端侧持续突破性能边界。
来源:Hugging Face Blog · huggingface.co