AWS 发布 TTS 自动扩缩容参数推导教程

AWS 在 Amazon SageMaker AI 实时端点上以自定义容器部署 82M 参数的 Kokoro-82M 语音合成模型，用实测的单实例最高并发 Q_max 和一次扩容端到端耗时 T_total，算术推导扩容阈值、缩容阈值和两个冷却时间，以替代凭经验猜测自动扩缩容目标。 教程要求运行扩容测量前具备 ml.g5.xlarge 服务配额，且至少比基线多一个空闲槽位；示例容器固定了旧版 PyTorch，存在已知漏洞 PYSEC-2026-2286（torch 2.10.0 已修复），AWS 建议在非验证用途前升级。AWS 称示例中的全部数字可用两份测量文件离线复现，无需调用 AWS 或产生新费用。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。