Amazon ECS支援NVIDIA MPS共享GPU,多容器共用單卡
AWS 宣布 ECS 可透過 NVIDIA MPS 在單張 GPU 並行執行多個任務,並依容器設定的 GPU 記憶體與運算配額安排部署。支援 EC2 與 Managed Instances,適用小模型推論等負載。
與「NVIDIA MPS」相關的科技新聞。
AWS 宣布 ECS 可透過 NVIDIA MPS 在單張 GPU 並行執行多個任務,並依容器設定的 GPU 記憶體與運算配額安排部署。支援 EC2 與 Managed Instances,適用小模型推論等負載。