文章标签
存缓存
-
PyTorch GPU显存管理：前端开发者也能懂的缓存机制与延迟释放
作为一名Web前端开发者，你可能对用户界面和交互炉火纯青，但当偶尔接触到深度学习模型时，GPU显存管理这个“黑盒”可能会让人感到困惑。你可能会想，为什么我明明删除了一个大张量（Tensor），显存占用却纹丝不动？ torch.cuda.e...
-
打破 PLEG 抖动噩梦：Kubelet syncPod 核心机制与 CRI 异步化演进深度解析
在 Kubernetes 大规模集群的管理实践中，任何一位资深 SRE 或 K8s 研发工程师，大概率都遭遇过那个令人头疼的报错—— PLEG is unhealthy 。 伴随而来的，通常是节点变为 NotReady 、Pod...
-
PyTorch显存优化实战：低显存GPU微调NLP模型的CUDA OOM应对之道
PyTorch NLP模型微调中的显存优化：告别CUDA OOM！ 你好，各位技术同仁！最近看到有朋友在使用RTX 2060（6GB显存）微调开源NLP模型时频繁遭遇CUDA OOM（Out of Memory）错误，训练进行到一半就...