文章标签

显存不足党

• RTX 3080微调7B LLM OOM？显存优化技巧助你一臂之力

  老哥你好！看到你的困扰，我完全理解。在本地用消费级GPU微调LLM，遇到显存OOM（Out Of Memory）是常有的事，尤其是在尝试7B这样规模的模型时。你遇到的情况， 并非你的操作“不对” ，而是10GB显存的RTX 3080在面对...

  2025/10/6 0 106 0 0 0 LLM微调显存优化RTX 3080