AWS SageMaker 推出 GPU 分区功能，提升模型端点 GPU 利用率

AWS SageMaker Inference 现支持 NVIDIA Multi-Instance GPU (MIG) 技术，可将单个 GPU 分区为多个独立实例，每个分区拥有专用的计算单元和内存块。这项功能允许用户在单个 GPU 上部署多个模型，提高 GPU 利用率，同时提供硬件级别的隔离和可预测的性能。该功能适用于 P4d、P5、G7 和 G7e 实例系列，并在多个 AWS 区域可用。