SageMaker AI 流式部署 Kokoro TTS 教程

AWS Machine Learning Blog 发布教程，介绍在 Amazon SageMaker AI 实时端点上部署 Kokoro-82M 语音合成模型，并把智能体生成的每个句子即时送入该端点，使音频在完整回复生成前就开始播放。该模型仅 8200 万参数，可运行在单台 ml.g5.xlarge GPU 实例上，容器同时提供 POST /invocations 和 WebSocket 双向流两条路径。 教程提示，示例容器固定了较旧版本的 PyTorch，存在已知漏洞 PYSEC-2026-2286（在 torch 2.10.0 中修复），非概念验证用途前应检查并升级该版本。若前端已有可用的文本 SSE 管道，教程称在 SSE 事件中放入 base64 编码音频是务实选择；为避免持续计费，应按先智能体、后端点的逆序拆除资源。

AI 根据报道生成 · 59 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。