跳到正文
Hugging Face Blog·· 5 天前精选AI 评分65

PyTorch 2.15 为 Mac 带来 MPS 性能大幅提升

MPS in PyTorch 2.15

AI 导读

PyTorch 2.15 为 Apple Silicon Mac 带来多项性能提升:FP8 支持让模型占用内存减半,MoE 模型解码速度提升 5-6.5 倍,视频解码内存占用从 270GB 降至 8GB,线性层和 softmax 运算速度显著提高。

推荐理由

FP8和Metal内核优化让Mac上的模型推理速度提升5-6.5倍,内存占用从270GB降至8GB,开源生态在端侧持续突破性能边界。

来源:Hugging Face Blog · huggingface.co