高并发之API接口限流

在构建具备高并发处理能力的系统过程中，有三项关键策略被广泛采用以保障系统的稳定性：缓存机制、服务降级以及流量限制。

• 缓存机制 缓存的核心目标在于加快系统的响应速度，并提升系统在单位时间内能够处理的请求数量。
• 服务降级 当某些服务出现异常或对核心业务流程产生影响时，应暂时将其隔离，待高峰期结束或问题得到解决后再重新启用。
• 流量限制 流量限制的主要作用是通过控制单位时间内的访问频率或请求总量来保护系统，当请求超过设定阈值时，可以采取拒绝请求、排队等待或进行服务降级等措施。

问题描述

某日，A君发现自己的接口调用量骤然增加至之前的十倍之多，短时间内该接口几乎无法正常使用，并引发连锁反应导致整个系统陷入瘫痪。面对这种情况该如何应对？生活为我们提供了启示：例如老式电闸中配置的保险丝，在检测到使用超大功率设备时会自动熔断以保护其他电器不受损坏。同理，在我们的接口中也应设置类似的“保险丝”，防止非预期的请求给系统带来过大压力从而导致崩溃。当访问流量过高时，可以通过拒绝部分请求或进行流量引导等方式加以应对。

缓存机制的目标是提升系统的访问效率并增强其处理能力，在应对高并发流量方面具有显著效果；而服务降级则是在服务发生故障或影响核心流程性能时需临时屏蔽相关功能，在高峰时段结束后再恢复运行；但在某些场景下缓存和降级并不能解决问