Ribbon负载均衡服务调用
是什么
Spring Cloud Ribbon是基于Netfix Ribbon实现的一套客户端负载均衡的工具。
简单的说,Ribbon是Netfix发布的开源项目,主要功能是提供客户端的软件负载均衡算法和服务调用。Ribbon客户端组件提供一系列完善的配置项如连接超时,重试等。简单的说,就是在配置文件中列出Load Balancer(简称LB)后面所有的机器,Ribbon会自动的帮助你基于某种规则(如简单轮询,随机选择等)去连接这些机器。我们很容易使用Ribbon实现自定义的负载均衡算法。
能干吗
LB(负载均衡)
LB负载均衡(Load Balance)是什么
简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的HA。
常见的负载均衡软件有Nginx,LVS,硬件有F5等。
Ribbon本地负载均衡客户端 VS Nginx服务端负载均衡区别
Nginx是服务器负载均衡,客户端所有请求都会交给Nginx,然后由Nginx实现转发请求。即负载均衡是由服务端实现的。
Ribbon本地负载均衡,在调用微服务接口时候,会在注册中心上获取注册信息服务列表之后缓存到JVM本地,从而在本地实现RPC远程服务调用技术。
集中式LB
即在服务的消费方和提供方之间使用独立的LB设施(可以是硬件,如F5,也可以是软件,如Nginx),由该设施负责把访问请求通过某种策略转发至服务的提供方。
进程内LB
将LB逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选择一个合适的服务器。
Ribbon就属于进程内LB,它只是一个类库,集成与消费方进程,消费方通过它来获取到服务提供方的地址。
Ribbon的简单架构
Ribbon在工作的时候分成两步:
1.先选择EurekaServer,它优先选择在同一个区域内负载较少的server 2.再根据用户指定的策略,再从server去到服务注册列表中选择一个地址。
pom.xml
<!-- EurekaClient作为服务提供者需要引入的jar包-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
这个包里面已经包含了 ribbon的依赖了
RestTemplate的使用
postForObject/postForEntity方法类似
Ribbon核心组件IRule
IRule:根据特定算法从服务列表中选取一个要访问的服务。
IRule接口的一些实现类
这些实现类分别定义了Ribbon以何种策略进行负载均衡
1、RoundRobinRule:轮询 2、RandomRule:随机 3、RetryRule:先按照RoundRobinRule的策略获取服务,如果获取服务失败则在指定时间内会进行重试 4、WeightedResponseTimeRule:对RoundRobinRule的扩展,响应速度越快的实例选择权重越大,越容易被选择 5、BestAvailableRule:会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务 6、AvailabilityFilteringRule:先过滤掉故障实例,再选择并发较小的实例 7、ZoneAvoidanceRule:默认规则,复合判断server所在区域的性能和server的可用性选择服务器。
如何替换
@SpringBootApplication注解会包含@ComponentScan(会扫描当前包以及子包)注解,官网明确给出,自定义的负载均衡策略配置类不能放在主函数的当前包以及子包下,所以我们需要新建一个包。
目录结构
修改启动类
@SpringBootApplication
@EnableEurekaClient
@RibbonClient(name = "CLOUD-PAYMENT-SERVICE",configuration = MySelfRule.class)
public class OrderMain80 {
public static void main(String[] args) {
SpringApplication.run(OrderMain80.class,args);
}
}
配置类
@Configuration
public class MySelfRule {
@Bean
public IRule myRule(){
return new RandomRule();
}
}
Ribbon负载均衡算法
原理
负载均衡算法:rest接口第几次请求数 % 服务器集群总数量 = 实际调用服务器位置下标,每次服务重启动后rest接口计数从1开始。
自己实现轮询策略算法
接口
public interface LoadBalancer {
ServiceInstance instances(List<ServiceInstance> serviceInstances);
}
实现
@Component
public class MyLoadBalancer implements LoadBalancer {
private AtomicInteger atomicInteger = new AtomicInteger(0);
public final int getAndIncrement() {
int current;
int next;
do {
current = this.atomicInteger.get();
next = current >= Integer.MAX_VALUE ? 0 : current + 1;
}while(!this.atomicInteger.compareAndSet(current,next));
System.out.println("****第几次访问,次数next:"+next);
return next;
}
@Override
public ServiceInstance instances(List<ServiceInstance> serviceInstances) {
int index = getAndIncrement() % serviceInstances.size();
return serviceInstances.get(index);
}
}
针对于do–while中自旋锁的解释:current为原子整型类的初始值0,根据三目运算符,current小于Integer.MAX_VALUE,所以next为1,atomicInteger.xompareAndSet(current,next),当前值为0,期望值也为0,所以atomicInteger的新值为更新值1,所以this.atomicInteger.compareAndSet(current,next)为true,因为整体取反,所以while条件为false,跳出这个do–while。
|