AWS 发布 Ray Train DLC 在 EKS 上的分布式训练教程

AWS 发布 Ray Train DLC 镜像（train-ml-cuda-v1.1），并给出在 EKS 上用该镜像做多节点分布式训练的示例教程。镜像内置 Ray 2.58.0、PyTorch 2.13.0、CUDA 13.0.2、NCCL 2.29.7 及 EFA 与 AWS OFI NCCL 插件，用户无需自行构建镜像。 示例用该镜像在 2 台 g6.12xlarge 实例的 8 块 NVIDIA L4 GPU 上，以 PyTorch FSDP 微调 Qwen2.5-1.5B。镜像公开，节点拉取无需凭证。教程称 GPU 实例运行期间每小时约花费 9.50 美元，涵盖两台实例、EKS 控制面和 NAT Gateway；需在至少一个可用区提供 g6.12xlarge 的区域预留 96 个 G 系列按需 vCPU 配额。deploy_all.sh 默认不运行训练任务。

AI 根据报道生成 · 49 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。