AWS 宣布推出两个新的 Amazon CloudWatch 指标，分别是 TimeToFirstToken 和 EstimatedTPMQuotaUsage。这些指标旨在提升 Amazon Bedrock 的推理工作负载的操作可视化。TimeToFirstToken 反映了从请求到第一个令牌生成所需的时间，而 EstimatedTPMQuotaUsage 则提供了对每分钟处理能力的估算。这些指标...