在进行模型微调时，直接选择性能最强的 GPU 可能会导致不必要的开支。对于大多数团队来说，RTX 4090 是一个理想的起点，适合较小模型的微调、LoRA 和 QLoRA 工作流程以及成本较低的实验。当显存（VRAM）成为瓶颈时，可以考虑升级到 A100 80GB，而 H100 则适用于已经确认需要更大显存的微调任务。选择合适的 GPU 可以有效降低成本并提高工作效率。...