Kueue: Kubernetes 原生作业队列系统

管理批处理、HPC 和 AI/ML 工作负载的配额和资源共享。Kueue 决定作业应在何时何地运行,并与您现有的生态系统无缝集成。

核心功能

Kueue 基于以下五个核心架构支柱,原生管理标准 API(包括 Job、JobSet、KubeRay、Kubeflow Trainer 和 LeaderWorkerSet)的资源准入:

多租户配额

在集群级别全局定义资源配额,并在不同团队和命名空间之间安全共享。使用原生 Kubernetes API 管理资源分配、队列优先级和限制。

动态容量共享

将队列组合在一起以实现动态资源共享。当团队的资源池空闲时,工作负载可以自动从同伴团队借用未使用的容量,从而最大化 GPU/CPU 整体利用率并降低成本。

拓扑感知部署

根据物理网络拓扑优化大型分布式机器学习训练工作负载(如 LLM)的部署。通过将紧密耦合的 Pod 编组在相同的基础设施上,来最小化网络延迟。

资源池与抢占

支持多样化的硬件池,例如 Spot 与按需实例或不同的 GPU 型号。工作负载会自动路由到合适的资源池,并通过基于优先级的抢占确保高优先级作业优先运行。

多集群扩展

无缝地将工作负载扩展到单个集群之外。中央控制平面根据全局资源可用性自动将作业调度到多个工作集群,从而实现混合云和多云调度。

架构与集成

Kueue 在调度器之前充当准入控制器,在不替换核心 Kubernetes 组件的情况下干净地管理队列和配额。

Kueue 架构与集成流程

加入社区对话

Kueue 是一个开放的、社区驱动的 CNCF 项目。欢迎参与!

Slack

与用户和贡献者进行实时交流。

加入 #wg-batch
GitHub

报告 bug、提交 PR 或浏览源代码。

参与贡献
邮件列表

加入我们的 Google Group 以获取公告。

订阅