AWS 发布 Nemotron 3.5 Super VL 在 EKS 上的部署教程

AWS 发布教程，介绍如何在 Amazon EKS、EKS Auto Mode 和 SageMaker HyperPod EKS 上部署并评估 NVIDIA Nemotron 3.5 Super VL。该模型已上线 AWS，为 120B 参数、每 token 激活 12B 的 MoE 多模态模型，支持最长 1M token 上下文及文本、图像、文档、视频输入。 教程称，NVIDIA 公开了模型权重、训练数据集和后训练配方，用户可针对特定领域定制，并在自有基础设施上运行。完整操作流程（含前置条件、集群创建、权重下载、部署、测试、基准测试与清理）收录在 aws-do-eks 项目中，用户可在自己的账户内按参考实现部署。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。