随着基础模型的部署受到内存占用、延迟和硬件成本的限制，后训练压缩技术能够通过降低模型参数的精度来缓解这些瓶颈，而不会显著降低性能。然而，其实际应用仍然面临挑战，实践者需要在量化算法、精度预算、数据驱动的校准策略和硬件依赖的执行模式之间进行导航。OneComp是一个开源压缩框架，将这一专家工作流程转变为可重复、资源自适应的管道。给定模型标识符和可用硬件，OneComp能够自动检查模型，规划混合精度分...