并发、QPS、RT 核心知识点1. 并发Concurrency并发数 某一时刻系统中正在处理、尚未完成的请求数量。例如某一时刻请求 A处理中 请求 B处理中 请求 C处理中 请求 D已经返回此时请求并发数 3需要注意并发用户数 ≠ 并发请求数。一个用户打开页面可能同时发起/api/user /api/products /api/banner /api/cart因此可能出现1 个用户 → 同时产生 4 个请求 → 请求并发数 42. QPSQPS Queries Per Second即每秒处理的请求数量。例如1 秒内处理完成 500 个请求 QPS 500QPS 描述的是系统的吞吐能力。3. RTResponse TimeRT Response Time即请求响应时间。例如请求开始 ─────────────→ 请求返回 200ms RT 200ms实际监控中还经常看到平均 RT所有请求耗时的平均值TP90 / P9090% 的请求耗时不超过这个值TP99 / P9999% 的请求耗时不超过这个值4. 并发、QPS、RT 的关系稳定状态下可以用 Little’s Law 理解[\boxed{平均并发数 \approx QPS \times 平均RT秒}]例如QPS 500 平均 RT 200ms 0.2s那么[500 \times 0.2 100]平均大约有100 个请求同时处于处理中。反过来[\boxed{QPS \approx \frac{平均并发数}{平均RT}}]注意这里应该使用平均 RT不能直接拿 TP90 代入当作严格计算。5. 最容易混淆的几个概念指标核心问题在线用户数现在有多少用户在使用系统并发用户数同一时间有多少用户正在进行操作请求并发数此刻有多少请求还没处理完QPS每秒处理多少请求RT一个请求需要多久可以用一句话记住用户产生请求QPS 表示请求流过得有多快RT 表示每个请求停留多久并发表示某一时刻系统里积压着多少请求。最终这些请求会消耗服务器的CPU、内存、数据库连接、网络带宽等资源所以评估一个2C4G实例能承受多大流量不能只看配置需要结合QPS RT 并发 CPU 内存 错误率进行压测判断。