聊一下微服务框架SpringCloud和使用-Ribbon负载均衡-[第四篇]

聊一下微服务框架SpringCloud和使用-Ribbon负载均衡-[第四篇]

Scroll Down

完整源码-仅供参考

https://github.com/ChannD/microservicecloud-config

1. 概述

image.png

是什么

Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端 负载均衡的工具(相当于去麦当劳点汉堡, 三个排队窗口,其中两个都排满了人,只要你不是傻子你就会去没人的地方点汉堡, 这就是Ribbon干的事情)
简单的说,Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完善的配置项如连接超时,重试等。简单的说,就是在配置文件中列出Load Balancer(简称LB, 不是Low B的意思, 认真脸)后面所有的机器,Ribbon会自动的帮助你基于某种规则(如简单轮询,随机连接等)去连接这些机器。我们也很容易使用Ribbon实现自定义的负载均衡算法。

能干嘛

LB,即负载均衡(Load Balance) 在微服务或分布式集群中经常用的一种应用。负载均衡简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的HA。常见的负载均衡有软件Nginx,LVS,硬件 F5等。
相应的在中间件,例如:dubbo和SpringCloud中均给我们提供了负载均衡,
SpringCloud的负载均衡算法可以自定义

集中式LB :
即在服务的消费方和提供方之间使用独立的LB设施(可以是硬件,如F5, 也可以是软件,如nginx), 由该设施负责把访问请求通过某种策略转发至服务的提供方
进程内LB :
将LB逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选择出一个合适的服务器。
Ribbon就属于进程内LB,它只是一个类库,集成于消费方进程,消费方通过它来获取到服务提供方的地址。

官网

Ribbon Github官网

2.Ribbon配置初步

1. 修改microservicecloud-consumer-dept-80工程

  • 强调: 在强调一次,为什么是修改80工程,因为Ribbon是一个客户端均衡负责工具!

2. 修改pom.xml文件[新增代码]

<!-- Ribbon相关 -->
   <dependency>
     <groupId>org.springframework.cloud</groupId>
     <artifactId>spring-cloud-starter-eureka</artifactId>
   </dependency>
   <dependency>
     <groupId>org.springframework.cloud</groupId>
     <artifactId>spring-cloud-starter-ribbon</artifactId>
   </dependency>
   <dependency>
     <groupId>org.springframework.cloud</groupId>
     <artifactId>spring-cloud-starter-config</artifactId>
   </dependency>

3. 修改application.yml 追加eureka的服务注册地址[新增配置代码]

eureka:
  client:
    register-with-eureka: false
    service-url: 
    # 已经做过Host映射了
      defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/

4. 对ConfigBean进行新注解 [@LoadBalanced] 获得Rest时加入Ribbon的配置[完整代码]

package com.chann.springcloud.cfgbeans;

import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.web.client.RestTemplate;

@Configuration
public class ConfigBean
{
    @Bean
    @LoadBalanced
    public RestTemplate getRestTemplate()
    {
        return new RestTemplate();
    }
}

5. 主启动类DeptConsumer80_App添加@EnableEurekaClient[新增注解代码]

@EnableEurekaClient

6. 修改DeptController_Consumer客户端访问类[修改后代码 地址部分]

// 注释原来的访问地址
//    private static final String REST_URL_PREFIX = "http://localhost:8001";
    private static final String REST_URL_PREFIX = "http://MICROSERVICECLOUD-DEPT";

7. 先启动3个eureka集群后,再启动microservicecloud-provider-dept-8001并注册进eureka

8. 启动microservicecloud-consumer-dept-80

image.png

9. 测试

{
  "deptno": 1,
  "dname": "开发部",
  "db_source": "cloudDB01"
}
[
  {
    "deptno": 1,
    "dname": "开发部",
    "db_source": "cloudDB01"
  },
  {
    "deptno": 2,
    "dname": "人事部",
    "db_source": "cloudDB01"
  },
  {
    "deptno": 3,
    "dname": "财务部",
    "db_source": "cloudDB01"
  },
  {
    "deptno": 4,
    "dname": "市场部",
    "db_source": "cloudDB01"
  },
  {
    "deptno": 5,
    "dname": "运维部",
    "db_source": "cloudDB01"
  },
  {
    "deptno": 7,
    "dname": "jianglong",
    "db_source": "cloudDB01"
  }
]
true  

10. 小总结

理解 : Ribbon和Eureka整合后Consumer可以直接调用服务而不用再关心地址和端口号, 这个小配置完成真正的通过微服务名字从Eureka上找到并访问


3. Ribbon负载均衡

1. 架构说明[图文]

理解 : Ribbon在工作时分成两步
第一步 : 先选择 EurekaServer ,它优先选择在同一个区域内负载较少的server.
第二步 : 再根据用户指定的策略,在从server取到的服务注册列表中选择一个地址。
PS : 其中Ribbon提供了多种策略:比如轮询、随机和根据响应时间加权。
[图示]
image.png

2. 参考microservicecloud-provider-dept-8001,新建两份,分别命名为8002,8003

  • 主要需要变动地方有
    • yml文件 instance-id 属性
    • yml文件 数据库url属性 8002用cloudDB02 以此类推

3. 新建8002/8003数据库,各自微服务分别连各自的数据库

  • 8002 SQL脚本
 
DROP DATABASE IF EXISTS cloudDB02;
 
CREATE DATABASE cloudDB02 CHARACTER SET UTF8;
 
USE cloudDB02;
 
CREATE TABLE dept
(
  deptno BIGINT NOT NULL PRIMARY KEY AUTO_INCREMENT,
  dname VARCHAR(60),
  db_source   VARCHAR(60)
);
 
INSERT INTO dept(dname,db_source) VALUES('开发部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('人事部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('财务部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('市场部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('运维部',DATABASE());
 
SELECT * FROM dept;
 

  • 8003 SQL脚本
DROP DATABASE IF EXISTS cloudDB03;
 
CREATE DATABASE cloudDB03 CHARACTER SET UTF8;
 
USE cloudDB03;
 
 
CREATE TABLE dept
(
  deptno BIGINT NOT NULL PRIMARY KEY AUTO_INCREMENT,
  dname VARCHAR(60),
  db_source   VARCHAR(60)
);
 
INSERT INTO dept(dname,db_source) VALUES('开发部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('人事部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('财务部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('市场部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('运维部',DATABASE());
 
SELECT * FROM dept;

4. 修改8002/8003各自YML

[8002代码]

server:
  port: 8002

mybatis:
  config-location: classpath:mybatis/mybatis.cfg.xml        # mybatis配置文件所在路径
  type-aliases-package: com.chann.springcloud.entities    # 所有Entity别名类所在包
  mapper-locations:
    - classpath:mybatis/mapper/**/*.xml                       # mapper映射文件

spring:
  application:
    name: microservicecloud-dept
  datasource:
    type: com.alibaba.druid.pool.DruidDataSource            # 当前数据源操作类型
    driver-class-name: org.gjt.mm.mysql.Driver              # mysql驱动包
    url: jdbc:mysql://localhost:3306/cloudDB02             # 数据库名称
    username: root
    password: root
    dbcp2:
      min-idle: 5                                           # 数据库连接池的最小维持连接数
      initial-size: 5                                       # 初始化连接数
      max-total: 5                                          # 最大连接数
      max-wait-millis: 200                                  # 等待连接获取的最大超时时间

eureka:
  client: #客户端注册进eureka服务列表内
    service-url:
      defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/

  instance:
    instance-id: microservicecloud-dept8002   #自定义服务名称信息
    prefer-ip-address: true     #访问路径可以显示IP地址

info:
  app.name: chann-microservicecloud
  company.name: www.jiangdalong.com
  build.artifactId: $project.artifactId$
  build.version: $project.version$

[8003 yml代码]

server:
  port: 8003

mybatis:
  config-location: classpath:mybatis/mybatis.cfg.xml        # mybatis配置文件所在路径
  type-aliases-package: com.chann.springcloud.entities    # 所有Entity别名类所在包
  mapper-locations:
    - classpath:mybatis/mapper/**/*.xml                       # mapper映射文件

spring:
  application:
    name: microservicecloud-dept
  datasource:
    type: com.alibaba.druid.pool.DruidDataSource            # 当前数据源操作类型
    driver-class-name: org.gjt.mm.mysql.Driver              # mysql驱动包
    url: jdbc:mysql://localhost:3306/cloudDB03             # 数据库名称
    username: root
    password: root
    dbcp2:
      min-idle: 5                                           # 数据库连接池的最小维持连接数
      initial-size: 5                                       # 初始化连接数
      max-total: 5                                          # 最大连接数
      max-wait-millis: 200                                  # 等待连接获取的最大超时时间

eureka:
  client: #客户端注册进eureka服务列表内
    service-url:
      defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/

  instance:
    instance-id: microservicecloud-dept8003   #自定义服务名称信息
    prefer-ip-address: true     #访问路径可以显示IP地址

info:
  app.name: chann-microservicecloud
  company.name: www.jiangdalong.com
  build.artifactId: $project.artifactId$
  build.version: $project.version$

5. 启动3个eureka集群配置区

6. 启动3个Dept微服务并各自测试通过

7. 启动microservicecloud-consumer-dept-80

8. 客户端通过Ribbo完成负载均衡并访问上一步的Dept微服务

  • 地址 http://localhost/consumer/dept/list
  • 注意观察看到返回的数据库名字,各不相同,负载均衡实现
  • 不断的访问这个地址,你就会发现, 返回结果是轮流来自 db01 ,02 ,03数据库的, 这个说明负载均衡已经生效(默认的方式是轮询)

9. 总结:Ribbon其实就是一个软负载均衡的客户端组件,他可以和其他所需请求的客户端结合使用,和eureka结合只是其中的一个实例。


4. Ribbon核心组件IRule

说明 : IRule:根据特定算法中从服务列表中选取一个要访问的服务
[种类]

  • RoundRobinRule
    • 轮询
  • RandomRule
    • 随机
  • AvailabilityFilteringRule
    • 会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,还有并发的连接数量超过阈值的服务,然后对剩余的服务列表按照轮询策略进行访问
  • WeightedResponseTimeRule
    • 根据平均响应时间计算所有服务的权重,响应时间越快服务权重越大被选中的概率越高。
    • 刚启动时如果统计信息不足,则使用RoundRobinRule策略,等统计信息足够,
      会切换到WeightedResponseTimeRule
  • RetryRule
    • 先按照RoundRobinRule的策略获取服务,如果获取服务失败则在指定时间内会进行重试,获取可用的服务
  • BestAvailableRule
    • 会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务
  • ZoneAvoidanceRule
    • 默认规则,复合判断server所在区域的性能和server的可用性选择服务器

5. 自定义Ribbon 算法

  1. 修改microservicecloud-consumer-dept-80
  2. 主启动类添加@RibbonClient
  3. 注意配置细节
  • 官方文档的一个警告
  • image.png
  • 意思 : 这个自定义配置类不能放在@ComponentScan所扫描的当前包下以及子包下,否则我们自定义的这个配置类就会被所有的Ribbon客户端所共享,也就是说我们达不到特殊化定制的目的了。
  1. 具体步骤
  • 新建package com.atguigu.myrule
  • 修改主启动类
@RibbonClient(name="MICROSERVICECLOUD-DEPT",configuration=MySelfRule.class)
  1. [自定义规则深度解析]
  • 问题 : 目前测试的话依旧轮询策略,如果现在有个需求是每个服务器要求被调用5次。也即以前是每台机器一次,现在是每台机器5次, 该如何修改?
  • 参考源码 : 源码GitHub地址
  • 参考源码修改为我们需求要求的RandomRule_ZY.java
  • 测试 : 地址 http://localhost/consumer/dept/list
  • 结果 : 不出问题现在都是5次开始轮询