IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> Java知识库 -> spring cloud kubernetes项目负载均衡pod模式下,如何实现平滑访问? -> 正文阅读

[Java知识库]spring cloud kubernetes项目负载均衡pod模式下,如何实现平滑访问?

如果再回到从前

所有一切重演

我是否会明白

生活重点


简介

如果spring cloud项目使用kubernetes作为服务的注册中心,最方便快捷的办法就是直接引入spring cloud kubernetes组件,具体的操作办法可以看下以前的文章:
spring cloud项目改造为spring-cloud-kubernetes项目

spring cloud kubernetes负载均衡方式

对说spring cloud kubernetes项目来说,它支持两种负载均衡模式,详情可看loadbalancer-for-kubernetes的官方说明。

根据官方文档我们可知它具体的两种负载均衡模式分别为:

  • pod
  • service
    mode

其配置方式通过修改配置:

spring.cloud.kubernetes.loadbalancer.mode

如想采用service的方式设spring boot项目的配置文件中添加如下配置即可:

spring.cloud.kubernetes.loadbalancer.mode=SERVICE

负载均衡方式中pod和service的区别

查看spring cloud kubernetes的源码可知,loadbalancer的默认mode为POD方式。

	/**
	 * {@link KubernetesLoadBalancerMode} setting load balancer server list with ip of pod
	 * or service name. default value is POD.
	 */
	private KubernetesLoadBalancerMode mode = KubernetesLoadBalancerMode.POD;

其中pod方式与service方式的主要区别是:

service方式的负载均衡请求服务时,是直接向kubernetes集群中对应的service(svc)发起请求的;

pod方式的负载均衡请求服务时,是先由服务调用者通过调用kubernetes的api先获取到对应的服务的pod列表,之后再保存到一个list中,再使用spring cloud项目所配置的loadbalancer负载均衡策略进行请求。

也就是说,当负载均衡方式mode为service时,spring cloud项目中所配置的关于loadbalance的配置是无效的,因为它将是通过k8s中的service进行访问的。 当负载均衡方式mode为pod时,可以利用spring cloud项目中的loadbance配置进行负载。

service方式(负载均衡时的压力在k8s端)

pod方式(负载均衡时的压力在spring cloud项目端)

至于具体选择哪个,需要根据项目的情况进行选择。

一般来说,如果k8s集群资源比较多为了方便省事,选service方式即可。
如果想要做到更加灵活,并减少一些k8s集群的压力,可以选择pod方式。

负载均衡pod和service方式式的平滑访问

servcie模式下服务平滑访问

如果spring cloud kubernetes项目配置的是service方式,想要做到服务的平滑访问,其主要配置pod的两个探针即可,它们分别是:

  • 就绪探针(readinessProbe)
  • 存活探针(livenessProbe)

具体可以看下spring boot官方的说明,其链接如下:

https://docs.spring.io/spring-boot/docs/2.5.3/reference/htmlsingle/#actuator.endpoints.kubernetes-probes

pod模式下服务平滑访问

如果选择的是pod模式的负载均衡配置,由于spring-cloud-loadbalancer组件为了提高性能,一般会对pod的列表进行缓存。

当然也可不开启缓存,如果k8s集群的配置不咋样,高并发时k8s的api-server则有很大的负载,一不小心k8s挂了都有可能

spring cloud loadbalancer缓存配置

正如其官方文档中所介绍的那样

The default setup includes ttl set to 35 seconds and the default initialCapacity is 256.

默认为35秒的缓存。

意思也就是说默认情况下,拉取到k8s集群中最新的有效pod列表的时间延迟最长可能为35秒。

例如有这样两个sring cloud服务:gateway和user这两个服务,gateway调用user服务。

user在k8s中部署了10个节点(Replica Sets),现在对user服务进行升级,则在升级过程中就可能会出现user服务中的某些副本已经被销毁,其pod的ip也已访问不了,则可能会出现gateway服务中存在的关于user服务的ip仍然是以前user服务ip。

如果想进行测试,可能通过DiscoveryClient来进行观察。调用discoveryClient.getInstances方法即可获取k8s集群中有效果的某个服务的pod列表。

那么如何解决呢?

查看spring boot的官方说明文档,就能找到合适的答案:

https://docs.spring.io/spring-boot/docs/current/reference/htmlsingle/#deployment.cloud.kubernetes

k8s lifecycle说明

在向k8s中部署微服务时,添加preStop的lifecycle配置,让其pod正式销毁前睡眠一段时间,以做完让所有的服务都已经拉取到了最新的pod信息。

spec:
  containers:
  - name: haiyang-example-container
    image: haiyang-example-image
    lifecycle:
      preStop:
        exec:
          command: ["sh", "-c", "sleep 36"]

其中具体睡眠多久,需要根据spring cloud loadbalancer缓存的时长来进行配置,大于缓存的ttl时长就行,比如缓存配置的是35秒,这里配置36秒就可以。


不知道在那天边可会有尽头

只知道逝去光阴不会再回头

每一串泪水伴每一个梦想

不知不觉全溜走

  Java知识库 最新文章
计算距离春节还有多长时间
系统开发系列 之WebService(spring框架+ma
springBoot+Cache(自定义有效时间配置)
SpringBoot整合mybatis实现增删改查、分页查
spring教程
SpringBoot+Vue实现美食交流网站的设计与实
虚拟机内存结构以及虚拟机中销毁和新建对象
SpringMVC---原理
小李同学: Java如何按多个字段分组
打印票据--java
上一篇文章      下一篇文章      查看所有文章
加:2021-08-09 10:06:43  更:2021-08-09 10:08:27 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/10 6:14:48-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码