[系统运维]Kubernetes

1、K8S

K8S的全称为Kubernetes（k12345678s）

作用

用于自动部署、扩展和管理“容器化应用程序”的开源系统。
可以理解成K8S是负责自动化运维管理多个容器化程序（比如Docker）的集群，是一个生态极其丰富的容器编排框架工具。

由来

K8s是由google的Borg系统(博格系统，google内部使用的大规模容器编排工具)作为原型，后经co语言延用Borg的思路重写并捐献给CuCcr基金会开源。

含义

词根源于希腊语的舵手、飞行员

官网

https://kubernetes.io

GitHub

https://github.com/kubernetes/kubernetes

2、为什么要用K8S

试想下传统的后端部署办法:把程序包（包括可执行二进制文件、配置文件等）放到服务器上，接着运行启动脚本把程序跑起来,同时启动守护脚本，定期检查程序运行状态、必要的话重新拉起程序。

再设想一下，如果服务的请求量上来，已部署的服务响应不过来怎么办?传统的做法往往是，如果请求量、内存、CPU超过阈值做了告警，运维人员马上再加几台服务器，部署好服务之后，接入负载均衡来分担已有服务的压力。

这样问题就出现了：从监控告警到部署服务，中间需要人力介入!那么，有没有办法自动完成服务的部署、更新、卸载和扩容、缩容呢?而这就是K8S 要做的事情:自动化运维管理容器化（Docker）程序。

K8S的目标是让部署容器化应用简单高效。

K8S解决了裸跑Docker的若干痛点

• 单机使用，无法有效集群
• 随着容器数量的上升，管理成本攀升
• 没有有效的容灾、自愈机制
• 没有预设编排模板，无法实现快速、大规模容器调度
• 没有统一的配置管理中心红具
• 没有容器生命周期的管理工具
• 没有图形化运维管理工具

K8S提供了容器编排，资源调度，弹性伸缩，部署管理，服务发现等一系列功能。

K8S的特性（功能）

弹性伸缩

使用命令、UI或者基于CPU使用情况自动快速扩容和缩容应用程序实例，保证应用业务高峰并发时的高可用性;业务低峰时回收资源，以最小成本运行服务。

自我修复

在节点故障时重新启动失败的容器，替换和重新部署，保证预期的副本数量;杀死健康检查失败的容器，并且在未准备好之前不会处理客户端请求，确保线上服务不中断。

服务发现和负载均衡

K8S为多个容器提供一个统一访问入口(内部IP地址和一个DNS名称)，并且负载均衡关联的所有容器，使得用户无需考虑容器IP问题。

自动发布（默认滚动发布模式)和回滚

K8S采用滚动更新策略更新应用，一次更新一个Pod，而不是同时删除所有Pod，如果更新过程中出现问题，将回滚更改，确保升级不受影响业务。

发布模式有：

蓝绿发布、滚动发布、金丝雀发布（灰度发布）

• 蓝绿发布：当发布新的业务的时候会在一台新的服务器上进行发布，老业务会在老服务器上运行，这样就算新业务出现问题也不会影响老业务，缺点是成本很高。
• 滚动发布：发布新业务和老业务是在同一台服务器上，会取代一部分老业务；一旦新业务出现问题也会一步一步的将新业务的那部分回滚到老业务。
• 金丝雀（灰度）发布：先找一批做少量的更新，更新一段时间发现没有问题之后会找几个客户进行测试，测试一段时间还是没有问题才会发布新任务。

集中化配置管理和密钥管理

管理机密数据和应用程序配置，而不需要把敏感数据暴露在镜像里，提高敏感数据安全性。并可以将一些常用的配置存储在K8S中，方便应用程序使用。

存储编排，支持外挂存储并对外挂存储资源进行编排

挂载外部存储系统，无论是来自本地存储，公有云（如AWS)，还是网络存储（如NFS、Glusterfs、Ceph）都作为集群资源的一部分使用，极大提高存储使用灵活性。

任务批处理运行

提供一次性任务，定时任务：满足批量数据处理和分析的场景。

Kubernetes集群架构与组件

K8S 是属于主从设备模型(Master——Slave 架构)，即有Master节点负责集群的调度、管理和运维，Slave 节点是集群中的运算工作负载节点。在K8S 中，主节点一般被称为Master 节点，而从节点则被称为Worker Node 节点，每个 Node 都会被Master分配一些工作负载。

Master组件可以在群集中的任何计算机上运行，但建议Master节点占据一个独立的服务器。因为** Master 是整个集群的大脑**，如果Master所在节点宕机或不可用，那么所有的控制命令都将失效。除了Master，在K8S 集群中的其他机器被称为Worker Node节点，当某个Node宕机时，其上的工作负载会被 Master自动转移到其他节点上去。

核心组件

Master节点

Kube-apiserver

用于暴露Kubernetes API，任何资源请求或调用操作都是通过kube-apiserver提供的接口进行。以HTTP Restful API提供接口服务，所有对象资源的增删改查和监听操作都交给 API Server处理后再提交给Etcd存储。

可以理解成API Server 是 K8S 的请求入口服务。API Server 负责接收 K8S 所有请求(来自UI 界面或者 CLI命令行工具),然后根据用户的具体请求，去通知其他组件干活。可以说 API Server是K8S 集群架构的大脑。

Kube-controller-manager

运行管理控制器，是K8S集群中处理常规任务的后台线程，是K8S集群里所有资源对象的自动化控制中心。在K8S集群中，一个资源对应一个控制器，而Controller manager 就是负责管理这些控制器的。

由一系列控制器组成，通过API Server监控整个集群的状态，并确保集群处于预期的工作状态，比如当某个Node意外宕机时，Controller Manager 会及时发现并执行自动化修复流程，确保集群始终处于预期的工作状态。

这些控制器主要包括:

• Node Controller（节点控制器）：负责在节点出现故障时发现和响应。
• Replication Controller(副本控制器)：负责保证集群中一个RC(资源对象Replication Controller)所关联的 Pod副本数始终保持预设值。可以理解成确保集群中有且仅有N个 Pod 实例，N是 RC中定义的 Pod副本数量。
• Endpoints Controller(端点控制器)：填充端点对象（即连接Services 和Pods)，负责监听Service和对应的Pod 副本的变化。可以理解端点是一个服务暴露出来的访问点，如果需要访问一个服务，则必须知道它的endpoint。
• Service Account & Token Controllers(服务帐户和令牌控制器）：为新的命名空间创建默认帐户和API访问令牌。
• Resourceguota Controller(资源配额控制器）：确保指定的资源对象在任何时候都不会超量占用系统物理资源。
• ·Namespace Controller（命名空间控制器）：管理namespace 的生命周期。
• service Controller（服务控制器)：属于K8s集群与外部的云平台之间的一个接口控制器

Kube-scheduler

是负责资源调度的进程，根据调度算法为新创建的 Pod选择一个合适的Node节点。

可以理解成K8s所有 Node节点的调度器。当用户要部署服务时，Scheduler会根据调度算法选择最合适的 Node 节点来部署Pod。

• 预算策略（predicate)
• 优选策略（priorities)

???K8S架构的工作流程

API Server接收到请求创建一批Pod ，API Server会让 Controller -manager按照所预设的模板去创建 Pod，Controller-manager会通过 API Server 去找 Scheduler 为新创建的 Pod选择最适合的Node节点。比如运行这个 pod需要2C4G 的资源，Scheduler会通过预算策略在所有Node节点中挑选最优的。Node节点中还剩多少资源是通过汇报给 API Server存储在 etcd里，API Server会调用一个方法找到etcd里所有Node节点的剩余资源，再对比 Pod 所需要的资源，在所有 Node节点中查找哪些Node 节点符合要求。
如果都符合，预算策略就交给优选策略处理，优选策略再通过CPU的负载、内存的剩余量等因素选择最合适的Node节点，并把 Pod调度到这个Node节点上运行。

配置存储中心

etcd

K8S 的存储服务。etcd 是分布式键值存储系统，存储了K8S 的关键配置和用户配置，K8s 中仅API Server 才具备读写权限，其他组件必须通过API server 的接口才能读写数据。

Node节点

Kubelet

Node节点的监视器，以及与Master节点的通讯器。Kubelet 是Master节点安插在 Node节点上的"眼线”，它会定时向API Server汇报自己Node节点上运行的服务的状态，并接受来自 Master节点的指示采取调整措施。

从Master节点获取自己节点上 Pod 的期望状态（比如运行什么容器、运行的副本数量、网络或者存储如何配置等)，直接跟容器引擎交互实现容器的生命周期管理，如果自己节点上Pod 的状态与期望状态不一致，则调用对应的容器平台接口(即 docker的接口)达到这个状态。

管理镜像和容器的清理工作，保证节点上镜像不会占满磁盘空间，退出的容器不会占用太多资源。

Kube-Proxy

在每个Node节点上实现 Pod网络代理，是Kubernetes Service(Pod里的负载均衡)资源的载体（Pod是逻辑概念，实际资源的载体是Service），负责维护网络规则和四层负载均衡工作。负责写入规则至iptables、ipvs实现服务哄射访问的。

Kube-Proxy本身不是直接给 Pod提供网络，Pod的网络是由Kubelet 提供的，Kube-Proxy实际上维护的是虚拟的Pod集群网络。

Kube-APIserver通过监控Kube-Proxy进行对Kubernetes Service 的更新和端点的维护。

在K8S集群中微服务的负载均衡是由Kube-Proxy实现的。Kube-Proxy是K8S集群内部的负载均衡器。它是一个分布式代理服务器，在K8S每个节点上都会运行一个Kube-Proxy组件。

总结：Service资源负责承载Pod的负载均衡，而Service是虚拟的，它以Kube-Proxy为载体。Kube-Proxy是维护Service资源用的。

docker或rocket

容器引擎，运行容器，负责本机的容器创建和管理工作

Kubernetes核心概念

Kubernetes包含多种类型的资源对象：Pod、Label、Service、Replication Controller 等。

所有的资源对象都可以通过Kubernetes提供的 kubectl 工具进行增、删、改、查等操作，并将其保存在etcd 中持久化存储。

Kubernets其实是一个高度自动化的资源控制系统，通过跟踪对比etcd存储里保存的资源期望状态与当前环境中的实际资源状态的差异，来实现自动控制和自动纠错等高级功能。

Pod

Pod是Kubernetes 创建或部署的最小/最简单的基本单位，一个 Pod 代表集群上正在运行的一个进程。可以把 Pod理解成豌豆荚，而同一 Pod内的每个容器是一颗颗豌豆。

一个 Pod由一个或多个容器组成，Pod中容器共享网络、存储和计算资源，在同一台 Docker 主机上运行。
一个Pod里可以运行多个容器，又叫边车模式(SideCara)模式。而在生产环境中一般都是单个容器或者具有强关联互补的多个容器组成一个Pod。

同一个Pod 之间的容器可以通过localhost 互相访问，并且可以挂载 Pod内所有的数据卷，但是不同的Pod 之间的容器不能用localhost访问，也不能挂载其他Pod 的数据卷。

Pod控制器

简单的说Pod控制器就是方便我们以何种方式去创建Pod
Pod 控制器是 Pod启动的一种模版，用来保证在K8s里启动的 Pod 应始终按照用户的预期运行(副本数、生命周期、健康状态检查等)。

K8S 内提供了众多的 Pod控制器，常用的有以下几种：

• Deployment：无状态应用部署。Deployment的作用是管理和控制 Pod和ReplicaSet，管控它们运行在用户期望的状态中。

• Replicaset：确保 预期的 Pod副本数量。Replicaset 的作用就是管理和控制 pod，管控他们好好千活。但是，Replicaset 受控于Deployment .

  可以理解成Deployment就是总包工头，主要负责监督底下的工人 Pod干活，确保每时每刻有用户要求数量的 Pod在工作。如果一旦发现某个工人Pod 不行了，就赶紧新拉一个 Pod过来替换它。而Replicaset就是总包工头手下的小包工头。
  从Kes 使用者角度来看，用户会直接操作 Deployment部署服务，而当Deployment被部署的时候，K8S 会自动生成要求的ReplicaSet和Pod。用户只需要关心Deployment 而不操心Replicaset。资源对象Replication Controller 是Replicaset 的前身，官方推荐用Deployment 取代Replication Controller来部署服务。

• Daemonset：确保所有节点运行同一类Pod，保证每个节点上都有一个此类Pod运行，通常用于实现系统级后台任务。

• statefulset：有状态应用部署

• ·Job：一次性任务。根据用户的设置，Job管理的 Pod 把任务成功完成就自动退出了。

• Cronjob：周期性计划性任务

Label

标签，是K8S 特色的管理方式,便于分类管理资源对象。
Label可以附加到各种资源对象上，例如Node、Pod、Service、Rc 等，用于关联对象、查询和筛选。
一个 Label是一个key-value的键值对，其中key 与 value 由用户自已指定。
一个资源对象可以定义征意数量的Label，同一个Label也可以被添加到任意数量的资源对象中（标签可被复用），也可以在对象创建后动态添加或者删除。可以通过给指定的资源对象捆绑一个或多个不同的 Label，来实现多维度的资源分组管理功能。

与 Label 类似的,还有 Annotation（注释）。
区别在于有效的标签值必须为63个字符或更少，并且必须为空或以字母数字字符([a-z0-9A-Z]）开头和结尾，中间可以包含横杠（-）、下划线（_）、点（.)和字母或数字。注释值则没有字符长度限制。

Label选择器(Label selector)

给某个资源对象定义一个 Label，就相当于给它打了一个标签；随后可以通过标签选择器(Label selector)查询和筛选拥有某些Label的资源对象。
标签选择器目前有两种：基于等值关系（等于、不等于）和基于集合关系（属于、不属于、存在）。

Service

在K8S的集群里，虽然每个Pod会被分配一个单独的IP地址，但由于Pod是有生命周期的(它们可以被创建，而且销毁之后不会再启动)，随时可能会因为业务的变更，导致这个IP地址也会随着 Pod的销毁而消失。

Service就是用来解决这个问题的核心概念。

• K8S中的 service并不是我们常说的"服务"的含义，而更像是网关层，可以看作一组提供相同服务的Pod的对外访问接口、流量均衡器。Service是工作在第四层传输层，对外暴露的是IP+端口。

Service 作用于哪些Pod是通过标签选择器来定义的。

• 在Kes 集群中，Service可以看作一组提供相同服务的 Pod的对外访向接口。客户端需要访问的服务就是Service对象。每个Service都有一个固定的虚拟ip(这个 ip也被称为Cluster IP)，自动并且动态地绑定后端的Pod,所有的网络请求直接访问service 的虚拟ip service 会自动向后端做转发。

Service除了提供稳定的对外访问方式之外，还能起到负载均衡(Load Balance)的功能，自动把请求流量分布到后端所有的服务上（轮询），Service可以做到对客户透明地进行水平扩展(scale) 。
而实现service这一功能的关键，就是 kube-proxy。 kube-proxy 运行在每个节点上，监听 API Server中服务对象的变化,可通过以下三种流量调度模式：userspace(废弃)、iptables（濒临废弃)、==ipvs(推荐，性能最好）==来实现网络的转发。

Service 是KES服务的核心，屏蔽了服务细节，统一对外暴露服务接口，真正做到了"微服务"。比如我们的一个服务A，部署了3个副本，也就是3个 Pod;对于用户来说，只需要关注一个 Service 的入口就可以，而不需要排心究竞应该请求哪一个 Pod。优势非常明显:一方面外部用户不需要感知因为 Pod 上服务的意外崩溃、K8S 重新拉起 Pod而造成的IP变更,外部用户也不需要感知因升级、变更服务带来的 Pod替换而造成的IP变化。

总结来说：

Service就是Pod集群的负载均衡器，它负责提供虚拟IP（Cluster IP），外部用户访问的时候不需要关注Pod发生的变化（因为Pod一旦被删除再生成一个Pod它的IP就变了）而只需要关注外面Service的虚拟IP就可以了，然后Service再转发给下面的Pod。

Ingress

Service 主要负责K8S集群内部的网络拓扑，那么集群外部怎么访问集群内部呢?这个时候就需要Ingress 了。Ingress 是整个KB8集群的接入层，负责集群内外通讯。
Ingress 是 K8S 集群里工作在OSI 网络参考模型下，第7层的应用，对外暴露的接口，典型的访问方式是http/https。（Service是第四层，IP+端口）
Service只能进行第四层的流量调度，表现形式是 ip+port。Ingress则可以调度不同业务域、不同URL访问路径的业务流量。比如:客户端请求http://www.kgc.com:port —> Ingress —> Service —> Pod

Name

由于 K8S内部，使用资源”来定义每一种逻辑概念（功能)，所以每种"资源"，都应该有自己的 名称"。
"资源”有 api版本（apiversion)、类别(kind)、元数据 (metadata)、定义清单(spec)、状态（status）等配置信息。"名称”通常定义在"资源”的“元数据”信息里。在同一个 namespace 空间中必须是唯一的。

Namespace

随着项目增多、人员增加、集群规模的扩大，需要一种能够逻辑上隔离K8S内各种"资源”的方法，这就是Namespace。Namespace是为了把一个R8S集群划分为若干个资源不可共享的虚拟集群组而诞生的。
不同Namespace内的"资源”名称可以相同，相同Namespace 内的同种"资源"，"名称”不能相同。

合理的使用K8s 的 Namespace，可以使得集群管理员能够更好的对交付到K8S里的服务进行分类管理和浏览。命名空间可以理解为目录。K8S 里默认存在的 Namespace 有: default、kube-system、kube-public 等。

查询K8S 里特定“资源”要带上相应的Namespace。

总结

• 1、K8S可以自动化运维管理容器化程序，让部署容器化应用简单高效。

• 2、K8S的功能有：弹性伸缩、容器编排、资源调度、部署管理、服务发现等。

• 3、K8S的发布应用的方式是滚动发布

• 4、K8S的架构主要有两大部分：Master组件和Node组件，
  Master组件里有：API Service（大脑）、controller manager（定义资源类型和交互）、scheduler（计算资源如何调度）、etcd（数据库）
  Node组件里有：Kube-proxy(数据转发，负载均衡器Service)、Kubelet(监控管理Pod)、Pod(最小单元，逻辑概念，实际存储是容器)

• 5、管理员会通过Kubectl入口输入命令创建，然后会进行身份验证，通过之后用API Service去告知controller manager要创建Pod这一操作，同时会把要创建什么样的Pod的元信息保存在etcd中。然后controller manager会通知API Service用scheduler调度哪个Node节点是最优的，最后controller manager会通过API Service通知对应的Nod节点上的kubelet创建Pod。

  Pod创建好之后，外部的用户会经过Kube-proxy中承载的Ingress转发给对应的Service，然后Service提供访问入口，最后将请求转发给后端的各个Pod上。