マルチGPU構成

複数のGPUを組み合わせて、大規模なLLMを実行する構成。単一のGPUでは搭載できないサイズのモデルを、複数のGPUに分散して配置することで実行可能にする。NVLinkやNVSwitchなどの高速インターコネクトを使用してGPU間でデータを転送し、並列処理を実現する。70B以上のパラメータを持つモデルでは、マルチGPU構成が一般的で、4～8枚のGPUを使用するケースが多い。