核心功能
Kueue 基于以下五个核心架构支柱,原生管理标准 API(包括 Job、JobSet、KubeRay、Kubeflow Trainer 和 LeaderWorkerSet)的资源准入:
多租户配额
在集群级别全局定义资源配额,并在不同团队和命名空间之间安全共享。使用原生 Kubernetes API 管理资源分配、队列优先级和限制。
动态容量共享
将队列组合在一起以实现动态资源共享。当团队的资源池空闲时,工作负载可以自动从同伴团队借用未使用的容量,从而最大化 GPU/CPU 整体利用率并降低成本。
拓扑感知部署
根据物理网络拓扑优化大型分布式机器学习训练工作负载(如 LLM)的部署。通过将紧密耦合的 Pod 编组在相同的基础设施上,来最小化网络延迟。
资源池与抢占
支持多样化的硬件池,例如 Spot 与按需实例或不同的 GPU 型号。工作负载会自动路由到合适的资源池,并通过基于优先级的抢占确保高优先级作业优先运行。
多集群扩展
无缝地将工作负载扩展到单个集群之外。中央控制平面根据全局资源可用性自动将作业调度到多个工作集群,从而实现混合云和多云调度。
架构与集成
Kueue 在调度器之前充当准入控制器,在不替换核心 Kubernetes 组件的情况下干净地管理队列和配额。
加入社区对话
Kueue 是一个开放的、社区驱动的 CNCF 项目。欢迎参与!