跳到正文
AWS Machine Learning Blog· Joseph Cottingham·· 2 小时前AI 评分15

别再猜 Amazon SageMaker AI 上 TTS 的自动扩缩容目标值

Stop guessing auto scaling targets for TTS on Amazon SageMaker AI

AI 导读

针对 Kokoro-82M 这个 8200 万参数 TTS 模型在 Amazon SageMaker AI 实时端点上的部署,文章用实测的 Q_max(单实例不突破 SLO 的最高并发)和 T_total(一次扩容端到端耗时)两个数值,通过算术推导出扩容阈值、缩容阈值和两个冷却时间,替代凭猜测设定的自动扩缩容目标。

打开原文aws.amazon.com

来源:AWS Machine Learning Blog · aws.amazon.com