分布式系统的高并发

一、什么是高并发

---

高并发（High Concurrency）作为互联网分布式系统架构设计中不可或缺的重要考量因素，通常指通过合理的设计手段确保系统可以同时并行处理大量请求。

在高并发场景下，常用的评估指标包括响应时间（Response Time）、吞吐量（Throughput）、每秒查询率QPS（Query Per Second）以及并发用户数等。

响应时间：即系统对请求进行响应所需的时间。例如，若系统处理一个HTTP请求耗时200ms，则该200ms即为系统的响应时间。

吞吐量：指单位时间内系统能够处理的请求数量。

QPS：表示每秒内系统能够响应的请求数。在互联网行业中，该指标与吞吐量之间的界限并不十分明确。

并发用户数：指的是在同一时刻能够正常使用系统各项功能的用户数量。例如，在一个即时通讯平台中，其同时在线人数在一定程度上可以反映系统的并发用户数。

二、如何提升系统的并发能力

---

互联网分布式架构设计中，旨在增强系统并发处理能力的策略，从方法论层面主要可分为两类：垂直扩展（Scale Up）与水平扩展（Scale Out）。

垂直扩展 ：其核心在于强化单台设备的处理能力。该方式具体又可分为以下两种形式：

（1）通过优化单机硬件配置以实现性能提升，例如：增加