H100 是一款优秀的 GPU，但对于许多工作负载而言，4090 或 A100 就足够了。许多团队选择 H100 是因为它看起来是安全的选择，但安全与明智并不相同。常见的错误包括：优化知名 GPU 而非最佳适配、忽略 VRAM 检查，以及为未实际使用的吞吐量付费。建议的起始规则是：对于较小的实验和微调，使用 RTX 4090；当需要更多 VRAM 或进行更重的推理时，转向 A100 80GB；只有...