一、引言
在高并发系统中,经常需要限制系统中的电流化妆。一方面是防止大量的请求使服务器过载,导致服务不可用,另一方面是防止网络攻击。
常用的限流方法,如hystrix、应用线程池隔离、超过线程池的负载和go融合逻辑。一般来说,应用服务器(如Tomcat容器)通过限制线程数量来控制并发性,而流量也由时间窗口的平均速度来控制。常见的限流纬度包括IP、URI和用户访问频率的限流。
_当前的限制通常在网关层完成,如nginx、openresty、kong、zuul、spring cloud gateway等,也可以通过aop在应用层完成。

2。限流算法
1。计数器算法
_计数器算法利用计数器来实现限流是有点简单和粗糙的,一般我们会限制一秒钟内可以传递的请求数,比如限流qps是100,算法的思想是从第一个请求开始计时,在下一个1s中,每个请求的计数都会增加1,如果累积ve数达到100,随后的请求将完成。部门拒绝了。1s后,将计数恢复为0并重新开始计数。具体实现如下:对于每个服务调用,可以添加计数器1和Atomiclong incrementandget()方法返回的最新值,并将最新值与阈值进行比较。这种实现方式,我相信大家都知道有一个缺点:如果我在一个单位时间的前10毫秒内通过了100个请求,那么后面的990毫秒只能眼睁睁地拒绝请求。我们称这种现象为“尖峰现象”。

2。漏桶算法
为了消除“尖峰现象”,可以采用漏桶算法来实现电流限制。漏桶算法的名字非常生动。算法中有一个容器,类似于日常生活中使用的漏斗。当请求进入时,相当于水倒入漏斗,然后从下小口缓慢均匀地流出。无论上面的流量有多大,下面的流量保持不变。无论服务调用者多么不稳定,都会使用泄漏桶算法来限制电流,并每隔10毫秒处理一次请求。因为处理速度是固定的,所以传入请求的速度是未知的。可能有许多请求突然出现。无法处理的请求首先放在存储桶中。因为它是一个桶,所以必须有一个容量上限。如果存储桶满了,新的请求将被丢弃。

_在算法的实现中,可以准备一个队列来保存请求,可以使用线程池(调度执行器服务)来定期从队列中获取请求并执行它们,从而一次获得多个并发执行。

该算法在使用后也有不足之处:不能处理短突发流量。

三。令牌桶算法
从某种意义上说,令牌桶算法是对漏桶算法的改进。bucket算法可以限制请求调用的速率,而token bucket算法可以限制平均调用速率,同时允许一定程度的突发调用。在令牌存储桶算法中,有一个存储固定数量令牌的存储桶。算法中有一种机制,可以以一定的速率将令牌放入存储桶中。每个请求调用都需要首先获取令牌。只有获得令牌后,才能继续执行。否则,选择是等待可用的令牌或直接拒绝。玩代币是一个连续的动作。如果桶中的令牌数达到上限,则将丢弃这些令牌。所以这种情况存在。桶中有大量可用的令牌。此时,可以通过令牌直接执行传入请求。例如,将qps设置为100,然后在当前限制器初始化后一秒钟,桶中有100个令牌。此时,服务还不可用。启动完成后,限流器能承受100个瞬时请求。因此,请求只在bucket中没有令牌时等待,这相当于以一定的速率执行。

_实现思想:您可以准备一个队列来保存令牌,并通过线程池定期将令牌生成到队列中。每个请求,您都可以从队列中获取一个令牌并继续执行。

三。Spring Cloud网关电流限制
在SpringCloudGateway中,有过滤器,所以上面提到的三个过滤器可以自己实现i

SpringCloudGateWay之限流的更多相关文章

  1. 使用springcloud gateway搭建网关(分流,限流,熔断)

    Spring Cloud Gateway Spring Cloud Gateway 是 Spring Cloud 的一个全新项目,该项目是基于 Spring 5.0,Spring Boot 2.0 和 ...

  2. spring cloud gateway 之限流篇

    转载请标明出处: https://www.fangzhipeng.com 本文出自方志朋的博客 在高并发的系统中,往往需要在系统中做限流,一方面是为了防止大量的请求使服务器过载,导致服务不可用,另一方 ...

  3. 限流10万QPS、跨域、过滤器、令牌桶算法-网关Gateway内容都在这儿

    一.微服务网关Spring Cloud Gateway 1.1 导引 文中内容包含:微服务网关限流10万QPS.跨域.过滤器.令牌桶算法. 在构建微服务系统中,必不可少的技术就是网关了,从早期的Zuu ...

  4. Spring Cloud Gateway 网关限流

    Spring Cloud Gateway 限流 一.背景 二.实现功能 三.网关层限流 1.使用默认的redis来限流 1.引入jar包 2.编写配置文件 3.网关正常响应 4.网关限流响应 2.自定 ...

  5. 2流高手速成记(之八):基于Sentinel实现微服务体系下的限流与熔断

    我们接上回 上一篇中,我们进行了简要的微服务实现,也体会到了SpringCloudAlibaba的强大和神奇之处 我们仅改动了两个注释,其他全篇代码不变,原来的独立服务就被我们分为了provider和 ...

  6. WebApiThrottle限流框架使用手册

    阅读目录: 介绍 基于IP全局限流 基于IP的端点限流 基于IP和客户端key的端点限流 IP和客户端key的白名单 IP和客户端key自定义限制频率 端点自定义限制频率 关于被拒请求的计数器 在we ...

  7. [WCF编程]9.性能与限流

    一.性能概述 WCF服务的性能取决于很多因素.出了CPU.RAM和网络性能等常见的因素外,实例上下文模式.并发模式.数据契约的设计或使用的绑定等与WCF有关的因素都起着重要的作用. 实例上下文模式用来 ...

  8. 快速入门系列--WCF--06并发限流、可靠会话和队列服务

    这部分将介绍一些相对深入的知识点,包括通过并发限流来保证服务的可用性,通过可靠会话机制保证会话信息的可靠性,通过队列服务来解耦客户端和服务端,提高系统的可服务数量并可以起到削峰的作用,最后还会对之前的 ...

  9. WCF Throttling 限流的三道闸口

    WCF Throttling 限流的三道闸口 一.WCF Throttling  流量限制简介 我们期望WCF服务端能够处理尽可能多的并发请求,但是资源是有限的,服务不可能同时处理无限多的并发请求,如 ...

随机推荐

  1. cp复制命令详解

    linux复制指定目录下的全部文件到另一个目录中复制指定目录下的全部文件到另一个目录中文件及目录的复制是经常要用到的.linux下进行复制的命令为cp.假设复制源目录 为 dir1 ,目标目录为dir ...

  2. VLOOKUP的了解(1)

    上周在整理资料的时候,需要将一个表中的部分东西,弄到另外一张表中.我就傻不愣登的直接粘贴.复制.没有发现VLOOKUP呀! VLOOKUP是一个查找函数,给定一个查找的目标,它就能从指定的查找区域中查 ...

  3. LC 774. Minimize Max Distance to Gas Station 【lock,hard】

    On a horizontal number line, we have gas stations at positions stations[0], stations[1], ..., statio ...

  4. 品牌logo在EDM数据营销中的运用

    作为让客户识别并记住的“门面”, 品牌LOGO的设计与宣导一直都是品牌化输出的重中之重 . 而在邮件营销中,为了让用户在浏览邮件内容前先有品牌概念,营销人员在放置LOGO时常常仅把显眼突出纳入考虑因素 ...

  5. SAX解析示例代码和原理

    import java.io.File; import javax.xml.parsers.SAXParser; import javax.xml.parsers.SAXParserFactory; ...

  6. 详解nohup和& 区别

    nohup 一.[解释] 不挂断地运行命令.no hangup的缩写,意即“不挂断”.一般理解&记住一个命令最简单的方法是记住它是什么缩写,就自然理解了这个命令.nohup运行由 Comman ...

  7. 机器学习之SVM算法

    1.知识点 """ SVM,也称支持向量机:其优化核心为求取点到平面的距离最大化,主要是解决二分类问题 y = wx+b ,且 yi * y(i) >0 恒成立 思 ...

  8. mariadb数据库(2)增删改与 单表查询

    一.数据类型 MariaDB数据类型可以分为数字,日期和时间以及字符串值. 使用数据类型的原则:够用就行, 尽量使用范围小的,而不用大的 常用的数据类型 整数:int, bit 小数:decimal ...

  9. linux下抓取tomcat相关内存、线程、文件句柄等快照,用于故障排除。

    以下脚本推荐放在定时任务里,写好cron表达式,在不影响业务系统的情况下dump一些信息分析系统性能瓶颈以及故障排除. 因为每次dump的时候jvm会暂停(几秒到几十秒不等).所以在生产系统使用时慎用 ...

  10. Ajax操作的四个步骤

    Ajax操作的四个步骤: 创建Ajax对象 连接服务器 发送请求 接收返回信息 <!DOCTYPE html> <html> <head lang="en&qu ...