云服务器网:购买云服务器和VPS必上的网站!
  • 易探云
  • 易探云
  • cdncloud
  • 零米云
  • 阿里云

算法:常见的负载均衡算法有哪几种

常见的负载均衡算法有哪几种常见的负载均衡算法有:1、轮询法Round Robin,将要求按顺序轮番分配到后台服务器上,从而均衡的对待每台服务器;2、随机法,通过系统随机函数,根据后台服务器列表的大小值来随机选取其中一台进行访问;3、源地址哈希法,主要是根据服务

常见的负载均衡算法有哪几种

常见的负载均衡算法有:1、轮询法Round Robin,将要求按顺序轮番分配到后台服务器上,从而均衡的对待每台服务器;2、随机法,通过系统随机函数,根据后台服务器列表的大小值来随机选取其中一台进行访问;3、源地址哈希法,主要是根据服务消费者要求客户真个IP地址实现;4、加权轮询法,将要求依照顺序且根据权重分配给后端;5、加权随机法,根据后台服务器区分的配置和负载情况,配置区分的权重;6、最小连接法,根据最小连接数的服务器来实现负载均衡。

负载均衡算法

在散布式系统中,多台服务器同时提供一个服务,并统一到服务配置中心进行管理,以下图所示。

消费者通过查询服务配置中心,获得到服务到地址列表,需要选取其中一台来发起RPC远程调用。怎样选择,则取决于具体的负载均衡算法,对应于区分的场景,选择的负载均衡算法也不尽相同。负载均衡算法的种类有很多种,常见的负载均衡算法包括轮询法、随机法、源地址哈希法、加权轮询法、加权随机法、最小连接法等,应根据具体的使用处景选取对应的算法。

1、轮询(Round Robin)法

轮询很容易实现,将要求按顺序轮番分配到后台服务器上,均衡的对待每台服务器,而不关心服务器实际的连接数和当前的系统负载。

这里通过实例化一个serviceWeightMap的Map变量来服务器地址和权重的映照,以此来摹拟轮询算法的实现,其中设置的权重值在以后的加权算法中会使用到,这里先不做过量介绍,该变量初始化以下:

privatestaticMap<String,Integer>serviceWeightMap=newHashMap<String,Integer>();

static{

serviceWeightMap.put("192.168.1.100",1);

serviceWeightMap.put("192.168.1.101",1);<br>    //权重为4

serviceWeightMap.put("192.168.1.102",4);

serviceWeightMap.put("192.168.1.103",1);

serviceWeightMap.put("192.168.1.104",1);<br>//权重为3

serviceWeightMap.put("192.168.1.105",3);

serviceWeightMap.put("192.168.1.106",1);<br>//权重为2

serviceWeightMap.put("192.168.1.107",2);

serviceWeightMap.put("192.168.1.108",1);

serviceWeightMap.put("192.168.1.109",1);

serviceWeightMap.put("192.168.1.110",1);

}

通过该地址列表,实现的轮询算法的部份关键代码以下

privatestaticIntegerpos=0;

publicstaticStringtestRoundRobin(){

//重新创建一个map,避免出现由于服务器上线和下线致使的并提问题

Map<String,Integer>serverMap=newHashMap<String,Integer>();

serverMap.putAll(serviceWeightMap);

//获得IP地址list

Set<String>keySet=serverMap.keySet();

ArrayList<String>keyList=newArrayList<String>();

keyList.addAll(keySet);

Stringserver=null;

synchronized(pos){

if(pos>keySet.size()){

pos=0;

}

server=keyList.get(pos);

pos++;

}

returnserver;

}

由于serviceWeightMap中的地址列表是动态的,随时可能由机器上线、下线还是宕机,因此,为了不可能出现的并提问题,比如数组越界,通过在方法内新建局部变量serverMap,先将域变量拷贝到线程本地,避免被其他线程修改。这样可能会引入新的问题,当被拷贝以后,serviceWeightMap的修改将没法被serverMap感知,也就是说,在这一轮的选择服务器中,新增服务器还是下线服务器,负载均衡算法中将没法获知。新增比较不错处理,而当服务器下线还是宕机时,服务消费者将有可能访问不到不存在的地址。因此,在服务消费者服务端需要斟酌该问题,并且进行相应的容错处理,比如重新发起一次调用。

对当前轮询的位置变量pos,为了保证服务器选择的顺序性,需要对其在操作时加上synchronized锁,使得同一时刻只有一个线程能够修改pos的值,否则当pos变量被并发修改,将没法保证服务器选择的顺序性,乃至有可能致使keyList数组越界。

使用轮询策略的目的是,希望做到要求转移的绝对均衡,但付出的代价性能也是相当大的。为了保证pos变量的并发互斥,引入了重量级悲观锁synchronized,将会致使该轮询代码的并发吞吐量明显降落。

2、随机法

通过系统随机函数,根据后台服务器列表的大小值来随机选取其中一台进行访问。由几率几率统计理论可以得知,随着调用量的增大,其实际效果愈来愈接近于平均分配流量到后台的每台服务器,也就是轮询法的效果。

随机算法的部份关键代码以下:

publicstaticStringtestRandom(){

//重新创建一个map,避免出现由于服务器上线和下线致使的并提问题

Map<String,Integer>serverMap=newHashMap<String,Integer>();

serverMap.putAll(serviceWeightMap);

//获得IP地址list

Set<String>keySet=serverMap.keySet();

ArrayList<String>keyList=newArrayList<String>();

keyList.addAll(keySet);

Randomrandom=newRandom();

intrandomPos=random.nextInt(keyList.size());

Stringserver=keyList.get(randomPos);

returnserver;

}

跟前面类似,为了不并发的问题,需要将serviceWeightMap拷贝到serverMap中。通过Random的nextInt函数,取到0~keyList.size之间的随机值, 从而从服务器列表中随机取到一台服务器的地址,进行返回。根据几率统计理论,吞吐量越大,随机算法的效果越接近于轮询算法的效果。

3、源地址哈希法

源地址哈希法的思想是根据服务消费者要求客户真个IP地址,通过哈希函数计算得到一个哈希值,将此哈希值和服务器列表的大小进行取模运算,得到的结果便是要访问的服务器地址的序号。采取源地址哈希法进行负载均衡,相同的IP客户端,如果服务器列表不变,将映照到同一个后台服务器进行访问。

源地址哈希法部份关键代码以下:

publicstaticStringtestConsumerHash(StringremoteIp){

//重新创建一个map,避免出现由于服务器上线和下线致使的并提问题

Map<String,Integer>serverMap=newHashMap<String,Integer>();

serverMap.putAll(serviceWeightMap);

//获得IP地址list

Set<String>keySet=serverMap.keySet();

ArrayList<String>keyList=newArrayList<String>();

keyList.addAll(keySet);

inthashCode=remoteIp.hashCode();

intpos=hashCode%keyList.size();

returnkeyList.get(pos);

}

4、加权轮询(Weight Round Robin)法

区分的后台服务器可能机器的配置和当前系统的负载其实不相同,因此它们的抗压能力也不一样。跟配置高、负载低的机器分配更高的权重,使其能处理更多的要求,而配置低、负载高的机器,则给其分配较低的权重,下降其系统负载,加权轮询很好的处理了这一问题,并将要求依照顺序且根据权重分配给后端。

加权轮询法部份关键代码以下:

publicstaticStringtestWeightRoundRobin(){

//重新创建一个map,避免出现由于服务器上线和下线致使的并提问题

Map<String,Integer>serverMap=newHashMap<String,Integer>();

serverMap.putAll(serviceWeightMap);

//获得IP地址list

Set<String>keySet=serverMap.keySet();

Iterator<String>it=keySet.iterator();

List<String>serverList=newArrayList<String>();

while(it.hasNext()){

Stringserver=it.next();

Integerweight=serverMap.get(server);

for(inti=0;i<weight;i++){

serverList.add(server);

}

}

Stringserver=null;

synchronized(pos){

if(pos>serverList.size()){

pos=0;

}

server=serverList.get(pos);

pos++;

}

returnserver;

}

与轮询算法类似,只是在获得服务器地址之前增加了一段权重计算代码,根据权重的大小,将地址重复增加到服务器地址列表中,权重越大,该服务器每轮所取得的要求数量越多。

5、加权随机(Weight Random)法

加权随机法跟加权轮询法类似,根据后台服务器区分的配置和负载情况,配置区分的权重。区分的是,它是依照权重来随机选取服务器的,而非顺序。

部份关键代码以下:

publicstaticStringtestWeightRandom(){

//重新创建一个map,避免出现由于服务器上线和下线致使的并提问题

Map<String,Integer>serverMap=newHashMap<String,Integer>();

serverMap.putAll(serviceWeightMap);

//获得IP地址list

Set<String>keySet=serverMap.keySet();

List<String>serverList=newArrayList<String>();

Iterator<String>it=keySet.iterator();

while(it.hasNext()){

Stringserver=it.next();

Integerweight=serverMap.get(server);

for(inti=0;i<weight;i++){

serverList.add(server);

}

}

Randomrandom=newRandom();

intrandomPos=random.nextInt(serverList.size());

Stringserver=serverList.get(randomPos);

returnserver;

}

6、最小连接数法

前面我们费尽心思来实现服务消费者要求次数分配的均衡,我们知道这样做是没错的,可以为后真个多台服务器平均分配工作量,最大程度地提高服务器的利用率,但是,实际上,要求次数的均衡其实不代表负载的均衡。因此我们需要介绍最小连接数法,最小连接数法比较灵活和智能,由于后台服务器的配置不尽相同,对要求的处理有快有慢,它正是根据后端服务器当前的连接情况,动态的选取其中当前积存连接数最少的一台服务器来处应当前要求,尽量的提高后台服务器利用率,将负载公道的分流到每台服务器。

本文来源:https://www.yuntue.com/post/65301.html | 云服务器网,转载请注明出处!

关于作者: yuntue

云服务器(www.yuntue.com)是一家专门做阿里云服务器代金券、腾讯云服务器优惠券的网站,这里你可以找到阿里云服务器腾讯云服务器等国内主流云服务器优惠价格,以及海外云服务器、vps主机等优惠信息,我们会为你提供性价比最高的云服务器和域名、数据库、CDN、免费邮箱等企业常用互联网资源。

为您推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注