ShiningDan的博客

限流方案调研

限流方案调研

本文是限流相关的前端与后端技术方案调研。

限流方案

能力

一个好的限流方案能达到的能力:

  1. 实时监控:系统必须要做好全链路的实时监控,才能保证限流的及时检测和处理。
  2. 手动开关:除系统自动限流以外,还需要有能手动控制的开关,以保证随时都可以人工介入。
  3. 限流的性能:限流的功能理论上是会在一定程度影响到业务正常性能的,因此需要做到限流的性能优化和控制。
  4. 调用方细粒度控制:防止调用方的接口请求数量突增,过度争用服务线程资源,而来自其他调用方的接口请求因此来不及响应而排队等待,需要对每个调用方进行细粒度的访问限流。
  5. 特定接口访问频率限制:一些慢接口,可能因为逻辑复杂,处理时间会比较长,如果对慢接口的访问频率不加限制,过多的慢接口请求会一直占用服务的线程资源不释放,导致无法响应其他接口请求

限流算法

参考资料