限流方案调研
本文是限流相关的前端与后端技术方案调研。
限流方案
能力
一个好的限流方案能达到的能力:
- 实时监控:系统必须要做好全链路的实时监控,才能保证限流的及时检测和处理。
- 手动开关:除系统自动限流以外,还需要有能手动控制的开关,以保证随时都可以人工介入。
- 限流的性能:限流的功能理论上是会在一定程度影响到业务正常性能的,因此需要做到限流的性能优化和控制。
- 调用方细粒度控制:防止调用方的接口请求数量突增,过度争用服务线程资源,而来自其他调用方的接口请求因此来不及响应而排队等待,需要对每个调用方进行细粒度的访问限流。
- 特定接口访问频率限制:一些慢接口,可能因为逻辑复杂,处理时间会比较长,如果对慢接口的访问频率不加限制,过多的慢接口请求会一直占用服务的线程资源不释放,导致无法响应其他接口请求