小智前端
-
PyTorch GPU显存管理:前端开发者也能懂的缓存机制与延迟释放
作为一名Web前端开发者,你可能对用户界面和交互炉火纯青,但当偶尔接触到深度学习模型时,GPU显存管理这个“黑盒”可能会让人感到困惑。你可能会想,为什么我明明删除了一个大张量(Tensor),显存占用却纹丝不动? torch.cuda.e...
作为一名Web前端开发者,你可能对用户界面和交互炉火纯青,但当偶尔接触到深度学习模型时,GPU显存管理这个“黑盒”可能会让人感到困惑。你可能会想,为什么我明明删除了一个大张量(Tensor),显存占用却纹丝不动? torch.cuda.e...