文章标签
批处理调度
-
深入解析 K8s Coscheduling：实现 Gang 调度及其在大规模拓扑下的局限性
在分布式训练（如 AI 模型训练）和高性能计算（HPC）场景中，任务通常要求“要么全部运行，要么全不运行”。这种需求被称为 Gang Scheduling 。虽然 Kubernetes 原生调度器最初是为长连接微服务设计的，但通过 S...
-
Volcano 与原生 K8s 调度器在分布式深度学习中的实战对比
在构建企业级 AI 训练平台时，调度器往往是决定 GPU 集群利用率与任务交付效率的核心瓶颈。原生 K8s 调度器（kube-scheduler）为通用微服务设计，而 Volcano 是 CNCF 沙箱项目中专为 HPC 与 AI 负载打...
-
Volcano 在 K8s 集群中的生产级部署与插件配置实战
Volcano 是 CNCF 孵化的云原生批处理调度系统，专为 AI、大数据、HPC 等高并发计算场景设计。相比默认的 Kube-scheduler，它提供了 Gang Scheduling 、 Queue 管理 、 任务拓扑感知 等...
-
AI场景下GPU资源优化：平衡深度学习训练与在线服务稳定性的策略与实践
在AI大行其道的今天，GPU已成为支撑深度学习训练和推理的核心算力。然而，作为AI基础设施的负责人，我深知平衡团队内部深度学习工程师对GPU资源“永不满足”的需求，与在线服务必须保障的稳定性，是一个长期且棘手的挑战。工程师们抱怨训练任务排...