Autothrottle：一种针对微服务的实用双层资源管理方法

作者：
王自博（中国科学技术大学 & 微软研究院）、李平河（苏黎世联邦理工学院）、梁捷贤（Mike）（微软研究院）、吴锋（中国科学技术大学）、颜弗朗西斯（微软研究院）
获奖信息：荣获杰出论文奖！

摘要：
在云计算环境中，确保资源高效利用的同时保持用户体验并非易事。随着云应用越来越多地采用微服务架构，资源管理者需要面对两种截然不同的系统行为层次：端到端应用延迟和单个服务的资源使用。然而，在这两者之间进行转换极具挑战性，因为用户请求会经过多个异构的服务，而这些服务对端到端延迟的贡献程度并不均匀。

我们提出了一种名为“Autothrottle”的双层资源管理框架，专门用于满足具有延迟服务水平目标（SLO）的微服务需求。该框架在架构上将应用层面的SLO反馈与服务层面的资源控制解耦，并通过性能目标的概念将其桥接起来。具体而言，我们设计了一个基于学习的应用级控制器，它能够定期为各个服务设定性能目标（以CPU节流比的形式表示），并交由每个服务的启发式控制器去实现。

我们使用来自生产环境的工作负载轨迹，在三个真实的微服务应用上对Autothrottle进行了评估。实验结果表明，相比表现最好的基线方案，Autothrottle可以节省高达26.21%的CPU资源；而相对于所有基线方案，则可节省多达93.84%的资源。

作者简介

• 王自博（中国科学技术大学 & 微软研究院）
  个人主页

• 李平河（苏黎世联邦理工学院）
  个人主页

• 梁捷贤（Mike）（微软研究院）
  个人主页

• 吴锋（中国科学技术大学）
  个人主页

• 颜弗朗西斯（微软研究院）
  个人主页

关于NSDI '24

NSDI '24由沙特阿卜杜拉国王科技大学（KAUST）赞助，致力于开放获取研究内容。USENIX承诺向所有人免费提供会议论文和录像等资料，以推动科学知识的传播和共享。

您可以从以下链接下载或查看相关内容：

• BibTeX引用格式
• PDF版论文
• 预发表PDF版论文
• 演讲幻灯片
• 演讲视频

支持USENIX及其开放获取政策！

互动与社交媒体

如果您对我们的研究感兴趣，欢迎关注USENIX的社交媒体平台，了解更多最新的科研动态：

• LinkedIn
• Facebook
• YouTube
• Twitter
• Mastodon

© USENIX 2025

希望这篇科普风格的翻译能帮助您更好地理解这项研究成果！