SpringCloud学习笔记(二)Ribbon负载均衡、Nacos注册中心、Nacos与Eureka的区别

发布于：2024-05-01 ⋅ 阅读:(27) ⋅ 点赞:(0)

文章目录


前言

SpringCloud学习笔记系列文章：

SpringCloud学习笔记(一)微服务介绍、服务拆分和RestTemplate远程调用、Eureka注册中心

4 Ribbon负载均衡

上一节，在order-service工程的OrderApplication启动类中，给RestTemplate对象添加了@LoadBalanced注解，即可实现负载均衡功能，这是什么原理呢？

4.1 负载均衡原理

SpringCloud底层其实是利用了Ribbon组件，来实现负载均衡功能的。如下图所示：

order-service(8080)服务发出的请求是http://user-service/user/1，通过Ribbon组件，就变成了http://localhost:8081。显然，Ribbon组件根据user-service这一服务名称，获取到了服务实例的ip和端口。

4.2 源码解读

进入@LoadBalanced注解的源码：

由上图可知，Ribbon组件的核心类是：LoadBalancerClient。

由上图可知，LoadBalancerClient接口定义了3个方法，其中execute()方法就用于执行RestTemplate发起的请求。该方法在RibbonLoadBalancerClient实现类中具体实现：

  • getLoadBalancer(serviceId)：该方法会根据服务id获取负载均衡器ILoadBalancer，而ILoadBalancer会拿着服务id去eureka-server中获取服务列表并保存起来。

  • getServer(loadBalancer, hint)：该方法会利用内置的负载均衡算法，从服务列表中选择一个。本例中，选择了8081端口的user-service服务。

由上图可知，getServer()方法会转调chooseServer()方法：

由上图可知，chooseServer()方法中，会从变量rule中选择一个server：

由上图可知，变量rule默认是一个RoundRobinRule对象，类名直译过来就是轮询的Robin规则。

可见，默认情况下，Robin的负载均衡算法就是轮询。

另外，Robin拦截RestTemplate请求是通过LoadBalancerInterceptor类来实现的：

由上图可知，intercept()方法拦截了用户的HttpRequest请求，然后做了几件事：

  • request.getURI()：获取请求uri，本例中就是http://user-service/user/2
  • originalUri.getHost()：获取uri路径的主机名，其实就是服务id，即user-service
  • this.loadBalancer.execute()：处理服务id和用户请求。

小结：

如上图所示，Ribbon负载均衡策略的基本流程如下：

  • 1）order-service(8080)服务发起RestTemplate请求：http://user-service/user/2
  • 2）LoadBalancerInterceptor拦截RestTemplate请求，从请求url中获取服务名称，也就是user-service，然后调用RibbonLoadBalancerClient的execute()方法
  • 3）execute()方法中，首先会通过DynamicServerListLoadBalancer，根据user-service到eureka-server中拉取服务列表；eureka-server返回列表，即localhost:8081、localhost:8082
  • 4）继续执行execute()方法，通过内置的轮询负载均衡策略，从列表中选择一个，例如localhost:8082
  • 5）RibbonLoadBalancerClient修改请求地址，用localhost:8082替代user-service，得到http://localhost:8082/user/2，发起真实请求。

4.3 负载均衡策略

4.3.1 内置的负载均衡策略

内置的负载均衡策略都定义在IRule接口中。IRule接口有很多不同的实现类：

内置的负载均衡策略类 策略说明
RoundRobinRule 通过简单的轮询来选择服务器。它是Ribbon默认的负载均衡规则。
AvailabilityFilteringRule 对以下两种服务器进行忽略：
（1）默认情况下，这台服务器如果3次连接失败，这台服务器就会被设置为“短路”状态。短路状态将持续30秒，如果再次连接失败，短路的持续时间就会几何级地增加。
（2）并发数过高的服务器。并发连接数的上线可以进行配置。
WeightedResponseTimeRule 为每一个服务器赋予一个权重值。服务器响应时间越长，这个服务器的权重就越小。这个规则会随机选择服务器，这个权重值会影响服务器的选择。
ZoneAvoidanceRule 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类，这个Zone可以理解为一个机房、一个机架等，而后再对Zone内的多个服务做轮询。
BestAvailableRule 忽略那些短路的服务器，并选择并发数较低的服务器。
RandomRule 随机选择一个可用的服务器。
RetryRule 重试机制的选择逻辑。

4.3.2 自定义负载均衡策略

如果想要自定义负载均衡策略，有两种方式可以实现：

4.3.2.1 方式一：定义IRule

在order-service工程的OrderApplication启动类中，定义一个新的IRule：

// com.star.order.OrderApplication

@Bean
public IRule RandomRule() {
    return new RandomRule();
}
4.3.2.2 方式二：配置文件

修改order-service工程的application.yml配置文件，添加新的负载均衡策略配置：

# sc_demo/order-service/src/main/resources/application.yml

user-service: # 给user-service服务配置负载均衡规则
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则

注意，一般用默认的负载均衡策略，不做修改。

4.4 饥饿加载

Ribbon默认是采用懒加载，即第一次访问时才会去创建LoadBalanceClient，请求时间会很长。

而饥饿加载则会在项目启动时创建，降低第一次访问的耗时，可以通过下面配置开启饥饿加载：

# order-service/src/main/resources/application.yml

ribbon:
  eager-load:
    enabled: true
    clients: user-service

5 Nacos注册中心

5.1 认识和安装Nacos

Nacos是阿里巴巴的产品，现在是SpringCloud中的一个组件。相比Eureka，它功能更加丰富，在国内受欢迎程度较高。其官网地址是：https://nacos.io/。

windows环境下Nacos的安装步骤如下：

  • 1）下载安装包

在Nacos的GitHub页面，提供有下载链接，可以下载编译好的Nacos服务端或者源代码：

GitHub主页：https://github.com/alibaba/nacos

GitHub的Release下载页：https://github.com/alibaba/nacos/releases

此处下载windows版本：nacos-server-2.3.2.zip。

  • 2）解压缩

将下载的nacos-server-2.3.2.zip解压到任意非中文目录下，如图：

  • 3）端口配置

Nacos的默认端口是8848，可以进入nacos的conf目录，修改application.properties配置文件中的端口：

  • 4）启动Nacos

进入bin目录，执行以下命令启动Nacos：

startup.cmd -m standalone

  • 5）访问Nacos

在浏览器输入地址：http://127.0.0.1:8848/nacos：

5.2 服务注册到Nacos

Nacos是SpringCloudAlibaba的组件，而SpringCloudAlibaba也遵循SpringCloud中定义的服务注册、服务发现规范。因此使用Nacos和使用Eureka对于微服务来说，并没有太大区别。

主要差异在于：依赖不同、服务地址不同。

服务注册到Nacos的步骤如下：

  • 1）引入依赖

在sc_demo父工程的pom文件中的<dependencyManagement>中引入SpringCloudAlibaba的依赖：

<!--sc_demo/pom.xml-->

<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-alibaba-dependencies</artifactId>
    <version>2.2.6.RELEASE</version>
    <type>pom</type>
    <scope>import</scope>
</dependency>

然后在user-service和order-service工程中的pom文件中引入nacos-discovery依赖：

<!--sc_demo/user-service/pom.xml-->
<!--sc_demo/order-service/pom.xml-->

<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>

然后注释掉eureka的依赖。

  • 2）配置Nacos地址

在user-service和order-service工程的application.yml文件中添加nacos地址：

# sc_demo/user-service/src/main/resources/application.yml
# sc_demo/order-service/src/main/resources/application.yml

spring:
  cloud:
    nacos:
      server-addr: localhost:8848

然后注释掉eureka的配置。

  • 3）启动微服务

启动user-service(8081)和order-service(8080)服务，在nacos管理页面，可以看到微服务信息：

5.3 服务分级存储模型

5.3.1 同机房集群

一个服务可以有多个实例，并且可以分布于全国各地的不同机房，例如user-service，可以有:

  • 127.0.0.1:8081，在上海机房
  • 127.0.0.1:8082，在上海机房
  • 127.0.0.1:8083，在杭州机房

Nacos会将同一机房内的实例划分为一个集群。

也就是说，一个服务可以包含多个集群，每个集群下又有多个实例，如杭州、上海集群，从而形成分级模型，如图：

微服务互相访问时，应该尽可能访问同集群实例，因为本地访问速度更快。当本集群内不可用时，才访问其它集群。例如杭州机房内的order-service应优先访问同机房的user-service，如图：

5.3.2 给服务实例配置集群

修改user-service工程的配置文件application.yml，添加集群配置：

# sc_demo\user-service\src\main\resources\application.yml

spring:
  cloud:
    nacos:
      discovery:
        cluster-name: HangZhou

重启user-service的两个实例(8081、8082)，在Nacos控制台查看服务集群：

再启动一个user-service的8083端口实例，配置其集群为上海：

在Nacos控制台查看服务集群：

5.3.3 同集群优先的负载均衡

Nacos中提供了一个NacosRule的实现，可以优先从同集群中挑选实例。

  • 1）给order-service配置集群

将order-service(8080)实例的集群配置为杭州，那么order-service(8080)实例就和user-service的8081、8082实例在同一机房：

# sc_demo\order-service\src\main\resources\application.yml

spring:
  cloud:
    nacos:
      discovery:
        cluster-name: HangZhou
  • 2）修改负载均衡策略
# sc_demo\order-service\src\main\resources\application.yml

# 给user-service服务配置负载均衡规则
user-service: 
  ribbon:
    NFLoadBalancerRuleClassName: com.alibaba.cloud.nacos.ribbon.NacosRule
  • 3）功能测试

重启order-service(8080)实例，在Nacos控制台查看服务集群：

调用http://127.0.0.1:8080/order/102接口，由【4.2 源码解读】的分析可知，程序会进入BaseLoadBalancer的chooseServer()方法：

由上图可知，此时的负载均衡策略是我们自己配置的NacosRule。进入NacosRule类的choose()方法，其源码的核心步骤如下：

// com.alibaba.cloud.nacos.ribbon.NacosRule

@Override
public Server choose(Object key) {
    try {
        // 获取集群名称
        String clusterName = this.nacosDiscoveryProperties.getClusterName();
        // ...
        // 获取可选的实例
        List<Instance> instances = namingService.selectInstances(name, group, true);
        // ...
        List<Instance> instancesToChoose = instances;
        if (StringUtils.isNotBlank(clusterName)) {
            // 遍历可选的实例，找出集群名称一致的实例
            List<Instance> sameClusterInstances = instances.stream()
                    .filter(instance -> Objects.equals(clusterName,
                            instance.getClusterName()))
                    .collect(Collectors.toList());
            // 赋值给instancesToChoose
            if (!CollectionUtils.isEmpty(sameClusterInstances)) {
				instancesToChoose = sameClusterInstances;
			}
            // ...
        }
        // 转换instancesToChoose后返回
        Instance instance = ExtendBalancer.getHostByRandomWeight2(instancesToChoose);
        return new NacosServer(instance);
    } // catch ...
}

由以上源码可知，NacosRule负载均衡策略确实会优先选择同集群下的实例，如图：

5.4 权重配置

在实际部署中，不同的服务器设备性能之间会存在差异，部分实例所在机器性能较好，另一些较差，而我们都希望性能好的机器承担更多的用户请求*。

但默认情况下，NacosRule是同集群内随机挑选，不会考虑机器的性能问题。为此，Nacos提供了权重配置来控制访问频率，权重越大则访问频率越高。

在Nacos控制台，找到user-service的集群列表，点击编辑，即可修改权重：

在弹出的编辑窗口，修改权重：

需要注意的是，如果权重修改为0，则该实例永远不会被访问。

5.5 环境隔离

Nacos提供了namespace来实现环境隔离功能：

  • nacos中可以有多个namespace
  • namespace下可以有group、service等
  • 不同namespace之间相互隔离，不同namespace的服务互相不可见

5.5.1 创建namespace

默认情况下，所有service、data、group都在同一个namespace，名为public：

选择左侧菜单“命名空间”，点击“新建命名空间”，填写表单，即可创建一个新的namespace：

5.5.2 给微服务配置namespace

给微服务配置namespace只能通过修改配置来实现。例如，修改order-service工程的application.yml文件：

# sc_demo\order-service\src\main\resources\application.yml

spring:
  cloud:
    nacos:
      server-addr: localhost:8848
      discovery:
        cluster-name: HangZhou
        namespace: c18fb6e9-36cb-4fa5-ae2d-bf32409db5d4 # 命名空间，填ID

重启order-service(8080)服务，在Nacos控制台查看服务列表：

此时再调用http://127.0.0.1:8080/order/102接口，因为namespace不同，会导致找不到user-service实例，控制台会报错：

04-26 12:05:19:116 ERROR 39076 --- [nio-8080-exec-1] o.a.c.c.C.[.[.[/].[dispatcherServlet]    : Servlet.service() for servlet [dispatcherServlet] in context with path [] threw exception [Request processing failed; nested exception is java.lang.IllegalStateException: No instances available for user-service] with root cause

java.lang.IllegalStateException: No instances available for user-service

5.6 永久实例

Nacos的服务实例分为两种类型：

  • 临时实例：如果实例宕机超过一定时间，会从服务列表剔除，默认的类型。
  • 非临时实例：如果实例宕机，不会从服务列表剔除，也可以叫永久实例。

可以通过配置文件，配置一个服务实例为永久实例：

# application.yml

spring:
  cloud:
    nacos:
      discovery:
        ephemeral: false # 设置为非临时实例

5.7 Nacos与Eureka的区别

Nacos和Eureka整体结构类似，服务注册、服务拉取、心跳等待，但是也存在一些差异：

  • 共同点

    • 都支持服务注册和服务拉取
    • 都支持服务提供者心跳方式做健康检测

  • 不同点

    • Nacos支持服务端主动检测提供者状态：临时实例采用心跳模式，非临时实例采用主动检测模式
    • 临时实例心跳不正常会被剔除，非临时实例则不会被剔除
    • Nacos支持服务列表变更的消息推送模式，服务列表更新更及时
    • Nacos集群默认采用AP方式，当集群中存在非临时实例时，采用CP模式；Eureka采用AP方式

…

本节完，更多内容请查阅分类专栏：SpringCloud学习笔记

本文涉及代码下载地址：https://gitee.com/weidag/springcloud_learning.git

感兴趣的读者还可以查阅我的另外几个专栏：

网站公告

今日签到

点亮在社区的每一天
去签到

热门文章

最新发布