Throughput吞吐量
系统单位时间内能处理多少 Token 或多少个请求。
系统单位时间内能处理多少 Token 或多少个请求。决定了产品能支撑多大的并发用户量。吞吐量不够就要排队或报错。
什么时候会用到
讨论系统容量规划、大促准备时会用。
例句
- 目前吞吐量 1000 QPS，但双十一预计峰值 5000 QPS，得提前扩容。
系统单位时间内能处理多少 Token 或多少个请求。
系统单位时间内能处理多少 Token 或多少个请求。决定了产品能支撑多大的并发用户量。吞吐量不够就要排队或报错。
讨论系统容量规划、大促准备时会用。