📄 中文摘要
在构建大语言模型（LLM）应用时，API 响应的大小直接影响成本。使用 TOON 格式可以有效减少响应中的 token 数量，相比于传统的 JSON 格式，能够降低 30% 到 60% 的 token 消耗。这一优化不仅能显著降低 API 成本，还能提升应用的响应速度和效率。通过示例数据可以看出，使用 JSON 格式时，处理 100 个用户的响应需要 3,500 个 tokens，而 TOON 格式则能在同样的数据量下显著减少所需的 tokens，从而为开发者节省开支。
通过在 NestJS 中使用 TOON 格式节省 60% 的 LLM API 成本
出处: Save 60% on LLM API Costs with TOON Format in NestJS
发布: 2026年2月16日
📄 English Summary
Save 60% on LLM API Costs with TOON Format in NestJS
When building large language model (LLM) applications, the size of API responses directly impacts costs. The TOON format effectively reduces the number of tokens in responses, achieving a reduction of 30% to 60% compared to traditional JSON format. This optimization not only significantly lowers API costs but also enhances the speed and efficiency of applications. Example data illustrates that using JSON format requires 3,500 tokens to handle responses for 100 users, while the TOON format can substantially decrease the required tokens for the same amount of data, resulting in cost savings for developers.