在对 AI API 调用进行审计时，发现每月支出高达 1200 美元，其中 70% 的请求都发送到了 GPT-4。许多任务其实可以由更便宜的模型完成，例如电子邮件摘要、工单分类和从文本中提取名称等，这些都不需要高达 0.03 美元/请求的 GPT-4。大多数 AI 应用程序将所有请求，包括简单请求，都发送到最昂贵的模型，这种做法类似于为了取信件而乘坐出租车。通过使用 TokenRouter，可以将...