HPC-X、MPI、PMIx、NCCL：GPUクラスタ通信スタックの完全解剖

HPC-X、UCX、PMIx、NCCLはそれぞれGPUクラスタ通信スタックの明確に定義されたスライスを担当しています。mpirunの起動からGPUカーネルのRDMA Writeまで全ての呼び出しをトレースし、HPC-XとNCCLの唯一の128バイト交差点を特定し、UCXがテンソルデータに決して触れない理由を解説します。