Hugging Face Blog· 机构原始发布·· 6 天前精选
PyTorch 2.15 为 Mac 带来 MPS 性能提升,FP8 支持与 MoE 模型解码加速
原文标题
MPS in PyTorch 2.15
AI 导读
PyTorch 2.15 为 Apple Silicon Mac 带来多项 MPS 性能优化:FP8 数据类型支持,MoE 模型解码速度提升 5-6.5 倍,线性层和 softmax 运算加速,视频解码内存占用从 270GB 降至 8GB,新增复杂线性代数运算支持。同时提供更精确的 MPS 可用性检查和 Python 流控制功能。
来源:Hugging Face Blog · huggingface.co
导读与选稿说明
解决了 Mac 平面运行大型模型的性能瓶颈,使 MoE 模型解码速度提升 5-6.5 倍,视频生成内存占用降低 97%,为 Apple Silicon 用户提供了更高效的 AI 模型训练和推理能力。
导读由模型辅助整理,非独立核验。完整信息见原文。