文章标签

Scheduler

• Volcano 与原生 K8s 调度器在分布式深度学习中的实战对比

  在构建企业级 AI 训练平台时，调度器往往是决定 GPU 集群利用率与任务交付效率的核心瓶颈。原生 K8s 调度器（kube-scheduler）为通用微服务设计，而 Volcano 是 CNCF 沙箱项目中专为 HPC 与 AI 负载打...

  2026/4/12 0 197 0 0 0 分布式深度学习Volcano

• 深度解析：Volcano 与 K8s 原生调度器在 AI 训练场景下的性能博弈

  在云原生 AI 基础设施的构建中，Kubernetes（K8s）已成为事实上的标准。然而，随着 AI 训练任务（特别是大模型分布式训练）的规模不断扩大，原生 K8s 调度器（default-scheduler）在处理这类高并发、强依赖的任...

  2026/4/12 0 142 0 0 0 KubernetesVolcanoAI 基础设施

• 深入解析 K8s Coscheduling：实现 Gang 调度及其在大规模拓扑下的局限性

  在分布式训练（如 AI 模型训练）和高性能计算（HPC）场景中，任务通常要求“要么全部运行，要么全不运行”。这种需求被称为 Gang Scheduling 。虽然 Kubernetes 原生调度器最初是为长连接微服务设计的，但通过 S...

  2026/4/12 0 154 0 0 0 Kubernetes调度插件云原生架构

• 多租户AI平台GPU配额管理：层级队列与公平调度实战

  在构建企业级多租户AI训练与推理平台时，GPU是最昂贵且最容易引发资源争抢的硬件。当数十个团队共享同一套GPU集群时，简单的“先到先得”或静态分配必然导致两大灾难： 资源闲置浪费 与 关键任务饿死 。解决这一矛盾的核心，在于一套严谨的层级...

  2026/4/12 0 175 0 0 0 GPU集群调度资源配额管理公平调度算法

• 构建可观测性平台时，如何用数学定义系统的"正常"状态？

  问题的本质：为什么我们需要重新定义"稳态"？ 在传统监控体系中，工程师习惯于设置静态阈值： CPU > 80% 报警 、 Latency > 500ms 报警 。这种模式在单体架构时代勉强可用，但在微服...

  2026/4/10 0 116 0 0 0 可观测性SRE

• 在Docker与Kubernetes结合使用时需要注意哪些关键问题？

  引言 随着云计算和微服务架构的快速发展，Docker 和 Kubernetes 成为现代应用开发的重要工具。Docker 提供了轻量级的容器化环境，而 Kubernetes 则负责容器编排、自动扩缩和负载均衡。然而，在将这两者结合使用...

  2024/12/22 0 253 0 0 0 DockerKubernetes容器技术