六个月前，我收到了3000美元的LLM账单，完全不知道费用来源。为了应对这个问题，我建立了一个监控系统，能够跟踪每一次调用的成本。在运行一个使用GPT-4的小型SaaS时，我发现每个用户的LLM成本高达6美元，而我的产品每月仅收取20美元，导致我在每个高频用户身上都在亏损。通过监控系统，我开始跟踪每个用户的成本、每个功能的成本、每个模型的成本以及请求量，从而有效控制了支出。...