Ribbon负载均衡

目录

一、负载均衡实现逻辑

二、负载均衡策略

三、修改负载均衡规则

 四、饥饿加载

注：Ribbon拦截Eureka请求，找eureka-server拿对应服务信息,根据对应策略返回调用的ip和端口。

一、负载均衡实现逻辑

1、逻辑图

2、ClientHttpRequestInterceptor接口：客户端http请求拦截

3、LoadBalancerInterceptor类实现上面接口 

//该方法拦截http请求
@Override
public ClientHttpResponse intercept(final HttpRequest request,final byte[] body,final ClientHttpRequestExecution execution){
	//得到请求地址：http://user-service/user/1
	final URI originalUri = request.getURI();

	//得到服务名user-service
	String serciceName=originalUri.getHost();
	
	//RibbonLoadBalancerClient loadBalancer 进入负载均衡客户端
	return this.loadBalancer.execute(serviceName,this.requestFactory.createRequest(request,body,execution));
}

4、RibbonLoadBalancerClient类

public <T> T execute(String serviceId,LoadBalancerRequest<T> request,Object hint) throws IOException{
	//根据服务名拿到服务信息 DynamicServerListLoadBalancer 动态服务列表负载均衡器
	ILoadBalancer loadBalancer=getLoadBalancer(serviceId);
	
	//根据指定策略获取具体服务IP端口
	Server server=getServer(loadBalancer,hint);
	if(server==null){
	  throw new IllegalStateException("No instances available for"+serviceId);
	}
    RibbonServer ribbonServer=new RibbonServer(serviceId,server,isSecure(server,serviceId),serverIntrospector(serviceId).getMetadata(server));
    return execute(serviceId,ribbonServer,request);
}


protected Server getServer(ILoadBalancer loadBalancer,Object hint){
	if(loadBalancer==null){
		return null;
	}
	return loadBalancer.chooseServer(hint!=null?hint:"default");
}

5、ZoneAwareLoadBalancer类

@Override
public Server chooseServer(Object key){
	if(!ENABLED.get()||getLoadBalancerStats().getAvailableZones().size()<=1){
		logger.debug("Zone aware logic disabled or there is only one zone");
		return super.chooseServer(key);
	}

	Server server=null;
	try{
		LoadBalancerStats lbStats=getLoadBalancerStats();
		
	}
}

 6、BaseLoadBalancer类

public Server chooseServer(Object key){
	if(counter==null){
		counter=createCounter();
	}
	counter.increment();
	if(rule==null){
		return null;
	}else{
		try{
			//调用IRule规则的实现类得到ip端口
			return rule.choose(key);
		}catch(Exception e){
			logger.warn("LoadBalancer [{}]: Error choosing server for key {}",name,key,e);
			return null;
		}
	}
}

二、负载均衡策略

Ribbon的负载均衡规则是一个叫做IRule的接口来定义的，每一个接口都是一种规则。

1、IRule层级(Eureka的实现类)

- AbstractLoadBalancerRule：策略抽象类
	1. RetryRule：重试，重试机制的选择逻辑。
	2. ClientConfigEnabledRoundRobinRule：
		-  BestAvailableRule：最低并发，忽略哪些短路的服务器，并选择并发数较低的服务器。		
		- PredicateBasedRule：
			- AvailabilityFilteringRule：可用过滤，[[#AvailabilityFilteringRule作用]]
			- ZoneAvoidanceRule：区域权重，[[#ZoneAvoidanceRule作用]]
	3. RoundRobinRule：轮询，简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。
		- WeightedResponseTimeRule：[[#WeightedResponseTimeRule作用]]
	4. RandomRule：随机，随机选择一个可用的服务器。

2、AvailabilityFilteringRule作用

对以下两种服务器进行忽略：

• 在默认情况下，这台服务器如果3次连接失败，这台服务器就会被设置为"短路"状态。短路状态将持续30秒，如果再次连接失败，短路的持续时间就会几何级地增加。

• 并发数过高的服务器。如果一个服务器的并发连接数过高，配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限，可以由客户端的<clientName>.<clientConfigNameSpace>.ActiveConnectionsLimit属性进行配置。

3、ZoneAvoidanceRule作用

• 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类，这个Zone可以理解为一个机房，一个机架等。而后再对Zone内的多个服务做轮询。 

4、WeightedResponseTimeRule作用

• 为每一个服务器赋予一个权重值。服务器响应时间越长，这个服务器的权重就越小。这个规则会随机选择服务器，这个权重值会影响服务器的选择。

三、修改负载均衡规则

1、引入依赖包

//eureka-ribbon 负载均衡  
implementation 'org.springframework.cloud:spring-cloud-starter-netflix-ribbon:2.2.10.RELEASE'

2、代码方式：在order-service中的OrderApplication类中，定义一个新的IRule

@Bean  
public IRule randomRule() {  
	return new RandomRule();  
}

3、 配置文件方式：在order-service的application.yml文件中，添加新的配置也可以修改规则

user-service:  
	ribbon:  
		# eureka负载均衡规则  
		NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
		
		# nacos负载均衡规则  
		# NFLoadBalancerRuleClassName: com.alibaba.cloud.nacos.ribbon.NacosRule

4、nacos的ribbon策略实现类

四、饥饿加载

• Ribbon默认是采用懒加载，即第一次访问时才会去创建LoadBalanceClient，请求时间会很长。而饥饿加载则会在项目启动时创建，降低第一次访问的耗时。

• 开启饥饿加载

ribbon:  
	eager-load:  
		# 开启饥饿加载  
		enabled: true  
		clients:  
			# 指定饥饿加载的服务名称  
			- user-service