THINKLAB
NEWSモデル・製品企業公式ブログ

SageMaker InferenceがGPUの多重分割(MIG)をサポート開始

Amazonは2026-11-06に、SageMaker InferenceでNVIDIA Multi-Instance GPU(MIG)を使ったGPUパーティショニングをサポートすると発表しました。

LEAD

リード

Amazonは2026-11-06に、SageMaker InferenceでNVIDIA Multi-Instance GPU(MIG)を使ったGPUパーティショニングをサポートすると発表しました。

ARTICLE

本文

AmazonはSageMaker InferenceでGPUパーティショニングを提供し、物理GPUを独立したパーティションに分割して各パーティションに固定の演算単位とメモリブロックを割り当てる仕組みを導入しました。これにより、各パーティションに異なるモデルを配置でき、より小さなパーティション単位で新世代の加速器を利用できます。パーティションはInference Componentsで指定し、AcceleratorPartitionLayoutsをEndpointConfigに設定、AcceleratorPartitionTypeを各Inference Componentで選ぶことで利用します(例: ml.p4d.24xlarge上のA100は最大七分割)。

ORIGINAL

原文リンク

AWS Machine Learning Blog

公式発表を見る(外部リンク) →

参照日 2026年11月8日

Next

次に見るコンテンツ