Hugging Face 上线 Trainium 模型支持查询 Space

Hugging Face 发布 torch-neuronx 模型支持查询 Space，可查询 Hub 上热门模型能否在 AWS Trainium 上原样运行，并给出复现脚本。 该 Space 目前只测试 Transformers 模型，范围限于文本生成和图文转文本模型，且只测试能放进 4 块 Trainium2 设备（最多 16 核）的模型。Hugging Face 称，查询结果为 PASS 不代表吞吐量或更长生成的表现。 配套数据集同步发布。

AI 根据报道生成 · 41 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。