AWS Machine Learning Blog · 原文 2026/10/23

AWS 教程：用实测 Q_max 与 T_total 替代猜测，为 SageMaker AI 上的 TTS 端点设定自动扩缩容阈值

AWS 官方博客介绍如何为 Amazon SageMaker AI 上的 Kokoro-82M TTS 端点设定基于实测的自动扩缩容策略。作者用闭环负载阶梯测得单实例并发上限 Q_max=50（p95 首音频字节延迟 SLO 为 3000ms），并测得扩容全程 T_total 约 260.2 秒，加上策略检测延迟后按 320.2 秒规划。

内容拆解等待后台处理。 已有导读和原文可正常阅读。