在使用大型语言模型（LLM）的过程中，开发者常常面临 API 成本不断上升的问题，直到账单到来才意识到消费的严重性。许多开发者在不同的服务提供商（如 OpenAI、Anthropic 和 Google）上运行多个模型，却无法实时监控令牌的消耗情况，导致成本失控。大多数开发者往往是被动地跟踪 API 成本，定期查看仪表盘，但此时损失已经发生。无论是由于脚本失控还是提示工程实验超出预期的上下文使用，缺...