[系统运维]k8s(8)—volumes卷的管理下（pv、pvc卷的管理）

一、 NFS挂载卷

一、前言

使用NFS可以使得不同节点上的容器挂载相同的容器，便于部署容器环境。

二、实验环境

server2-4作为客户端，下载启动NFS

yum install -y nfs-utils
systemctl enable --now nfs

server1作为NFS的服务段，下载，安装，设置开机自启动。

yum install -y nfs-utils
systemctl enable --now nfs
vim /etc/exports


/mnt/nfs        *(rw,no_root_squash)
///

当其他服务器能够查看到server1上的NFS服务时则代表FNS已经正常启用

二、NFS的挂载volumes的使用方式

1、在server1中的NFS目录下书写文件

进入NFS在server1的挂载点

[root@server1 harbor]# cd /mnt/nfs/
[root@server1 nfs]# echo hello hello > index.html

2、NFS生成挂载卷
运用NFS得到容器所指定的挂载卷

[root@server2 volumes]# vim nfs.yaml 


//
apiVersion: v1
kind: Pod
metadata:
  name: test-pd
spec:
  containers:
  - image: nginx
    name: test-container
    volumeMounts:
    - mountPath: /usr/share/nginx/html
      name: test-volume
  volumes:
  - name: test-volume
    nfs:                                                      NFS挂载指定地址
      server: 172.25.42.1
      path: /mnt/nfs


[root@server2 volumes]# kubectl apply -f nfs.yaml 

3、应用清单，查看挂载地址，进入容器编写文件

kubectl apply -f nfs.yaml
kubectl get pod -o wide
kubectl exec test-pd -it sh

4、server1NFS目录查看效果

cd /mnt/nfs/
ls

server2访问容器

cat index.html
curl 10.244.1.92

server1能够查看到编写的文件，server2能够进行访问

三、pv,pvc前言

一、pv和pvc简介

PersistentVolume（持久卷，简称PV）是集群内，由管理员提供的网络存储的一部分。就像集群中的节点一样，PV也是集群中的一种资源。它也像Volume一样，是一种volume插件，但是它的生命周期却是和使用它的Pod相互独立的。PV这个API对象，捕获了诸如NFS、ISCSI、或其他云存储系统的实现细节。
PersistentVolumeClaim（持久卷声明，简称PVC）是用户的一种存储请求。它和Pod类似，Pod消耗Node资源，而PVC消耗PV资源。Pod能够请求特定的资源（如CPU和内存）。PVC能够请求指定的大小和访问的模式（可以被映射为一次读写或者多次只读）。
有两种PV提供的方式：静态和动态
（1）静态PV：集群管理员创建多个PV，它们携带着真实存储的详细信息，这些存储对于集群用户是可用的。它们存在于Kubernetes API中，并可用于存储使用。
（2）动态PV：当管理员创建的静态PV都不匹配用户的PVC时，集群可能会尝试专门地供给volume给PVC。这种供给基于StorageClass。
PVC与PV的绑定是一对一的映射。没找到匹配的PV，那么PVC会无限期得处于unbound未绑定状态。

二、PV的使用过程

使用
Pod使用PVC就像使用volume一样。集群检查PVC，查找绑定的PV，并映射PV给Pod。对于支持多种访问模式的PV，用户可以指定想用的模式。一旦用户拥有了一个PVC，并且PVC被绑定，那么只要用户还需要，PV就一直属于这个用户。用户调度Pod，通过在Pod的volume块中包含PVC来访问PV。
释放
当用户使用PV完毕后，他们可以通过API来删除PVC对象。当PVC被删除后，对应的PV就被认为是已经是“released”了，但还不能再给另外一个PVC使用。前一个PVC的属于还存在于该PV中，必须根据策略来处理掉。
回收
PV的回收策略告诉集群，在PV被释放之后集群应该如何处理该PV。当前，PV可以被Retained（保留）、 Recycled（再利用）或者Deleted（删除）。保留允许手动地再次声明资源。对于支持删除操作的PV卷，删除操作会从Kubernetes中移除PV对象，还有对应的外部存储（如AWS EBS，GCE PD，Azure Disk，或者Cinder volume）。动态供给的卷总是会被删除。

三、PV的访问模式

ReadWriteOnce – 该volume只能被单个节点以读写的方式映射
ReadOnlyMany – 该volume可以被多个节点以只读方式映射
ReadWriteMany – 该volume可以被多个节点以读写的方式映射
在命令行中，访问模式可以简写为：
（1）RWO - ReadWriteOnce
（2）ROX - ReadOnlyMany
（3）RWX - ReadWriteMany

四、PV的回收策略

Retain：保留，需要手动回收
Recycle：回收，自动删除卷中数据
Delete：删除，相关联的存储资产，如AWS EBS，GCE PD，Azure Disk，or OpenStack Cinder卷都会被删除
当前，只有NFS和HostPath支持回收利用，AWS EBS，GCE PD，Azure Disk，or OpenStack Cinder卷支持删除操作。

四、PV、PVC的使用

一、静态卷的使用

1、server1 主机服务端安装NFS服务

yum install -y nfs-utils
mkdir -m 777 /mnt/nfs
vim /etc/exports
/mnt/nfs	*(rw,sync,no_root_squash)
systemctl enable --now rpcbind
systemctl enable --now nfs

2、server2
先查看连接是否正常

3、server2客户端创建静态NFS PV卷

[root@server2 volumes]# kubectl apply -f nfs.yaml 
[root@server2 volumes]# vim pv.yaml



apiVersion: v1
kind: PersistentVolume                                                         持久卷
metadata:
  name: pv1
spec:
  capacity:
    storage: 5Gi                                                                    大小为5G
  volumeMode: Filesystem
  accessModes:
    - ReadWriteOnce
  persistentVolumeReclaimPolicy: Recycle                           策略为回收策略
  storageClassName: nfs
  nfs:
    path: /mnt/nfs                                                                  NFS的原挂载路径
    server: 172.25.42.1
                                                        
[root@server2 volumes]# kubectl apply -f pv.yaml 
[root@server2 volumes]# kubectl get pv             图1

图1、查看到生成的PV静态卷

4、server2客户端创建PVC卷

[root@server2 volumes]# vim pvc.yaml


//
apiVersion: v1
kind: PersistentVolumeClaim 
metadata:                                   
  name: pvc1                                                 名字pvc1
spec:
  storageClassName: nfs                                      NFS类型
  accessModes:
    - ReadWriteOnce                                             可读写
  resources:
    requests:
      storage: 1Gi                                                    大小
///
[root@server2 volumes]# kubectl apply -y pvc.yaml 
[root@server2 volumes]# kubectl get pv                        图1

5、图1、查看pv,发现，PVC和PV已经绑定在一起。

6、编写pod.yaml、创建pod挂载PVC

[root@server2 volumes]# vim pod.yaml

///
piVersion: v1
kind: Pod
metadata:
  name: test-pd
spec:
  containers:
  - image: nginx
    name: nginx
    volumeMounts:
    - mountPath: /usr/share/nginx/html
      name: pv1
  volumes:
  - name: pv1
    persistentVolumeClaim:
      claimName: pvc1                                                            指定pvc1卷
 //
 [root@server2 volumes]# kubectl apply -y pod.yaml   
  [root@server2 volumes]# kubectl get svc                                        图1               

图1、查看到pvc1

7、server1书写内容

8、在server2的容器中查看效果
发现server1里面NFS里写的内容能够在server2容器中查看到

[root@server2 ~]# kubectl exec test-pd -it sh        进入创建的容器
kubectl exec [POD] [COMMAND] is DEPRECATED and will be removed in a future version. Use kubectl exec [POD] -- [COMMAND] instead.
# cd /usr/share/nginx/html                           进入容器里的挂载目录
# ls
index.html
# cat index.html                                              
westos.org
westos.org
westos.org
westos.org
westos.org

9、删除pvc，pv存在
先删除pod，删除pvc

kubectl delete -f pod1.yaml
kubectl delete -f pvc1.yaml
kubectl get pv

pv的状态为Released，依旧和pvc绑定

二、动态卷的使用

一、动态卷的简介

1、储存类型StorageClass
StorageClass提供了一种描述存储类（class）的方法，不同的class可能会映射到不同的服务质量等级和备份策略或其他策略等。每个 StorageClass 都包含 provisioner、parameters 和 reclaimPolicy 字段， 这些字段会在StorageClass需要动态分配 PersistentVolume 时会使用到。

StorageClass的属性：
Provisioner（存储分配器）：用来决定使用哪个卷插件分配 PV，该字段必须指定。可以指定内部分配器，也可以指定外部分配器。外部分配器的代码地址为： kubernetes-incubator/external-storage，其中包括NFS和Ceph等。 Reclaim Policy（回收策略）：通过reclaimPolicy字段指定创建的Persistent Volume的回收策略，回收策略包括：Delete 或者 Retain，没有指定默认为Delete。

官方文档：https://kubernetes.io/zh/docs/concepts/storage/storage-classes/

2、NFS Client Provisioner
NFS Client Provisioner是一个automatic provisioner，使用NFS作为存储，自动创建PV和对应的PVC，本身不提供NFS存储，需要外部先有一套NFS存储服务。
PV以 ${namespace}-${pvcName}-${pvName}的命名格式提供（在NFS服务器上）
PV回收的时候以 $archieved-${namespace}-${pvcName}-${pvName} 的命名格式（在NFS服务器上）
nfs-client-provisioner源码地址：https://github.com/kubernetes-incubator/external-storage/tree/master/nfs-client

二、动态卷的使用

1、将nfs镜像导入仓库
使用nfs产生动态卷的工具
docker load -i nfs-client-provisioner-v4.0.0.tar
docker push reg.westos.org/library/nfs-subdir-external-provisioner:v4.0.0

2、编辑部署nfs文件
（1）yaml文件须提前从官网下载
（2）指定nfs的nfs server端和ip
（3）指定删除后是否打包备份，true为打包，false为不打包

mkdir nfs-client
mv ../nfs-client-provisioner.yaml .
vim nfs-client-provisioner.yaml


///
apiVersion: v1
kind: ServiceAccount
metadata:
  name: nfs-client-provisioner
  # replace with namespace where provisioner is deployed
  namespace: nfs-client-provisioner
---
kind: ClusterRole
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: nfs-client-provisioner-runner
rules:
  - apiGroups: [""]
    resources: ["nodes"]
    verbs: ["get", "list", "watch"]
  - apiGroups: [""]
    resources: ["persistentvolumes"]
    verbs: ["get", "list", "watch", "create", "delete"]
  - apiGroups: [""]
    resources: ["persistentvolumeclaims"]
    verbs: ["get", "list", "watch", "update"]
  - apiGroups: ["storage.k8s.io"]
    resources: ["storageclasses"]
    verbs: ["get", "list", "watch"]
  - apiGroups: [""]
    resources: ["events"]
    verbs: ["create", "update", "patch"]
---
kind: ClusterRoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: run-nfs-client-provisioner
subjects:
  - kind: ServiceAccount
    name: nfs-client-provisioner
    # replace with namespace where provisioner is deployed
    namespace: nfs-client-provisioner
roleRef:
  kind: ClusterRole
  name: nfs-client-provisioner-runner
  apiGroup: rbac.authorization.k8s.io
---
kind: Role
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: leader-locking-nfs-client-provisioner
  # replace with namespace where provisioner is deployed
  namespace: nfs-client-provisioner
rules:
  - apiGroups: [""]
    resources: ["endpoints"]
    verbs: ["get", "list", "watch", "create", "update", "patch"]
---
kind: RoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: leader-locking-nfs-client-provisioner
  # replace with namespace where provisioner is deployed
  namespace: nfs-client-provisioner
subjects:
  - kind: ServiceAccount
    name: nfs-client-provisioner
    # replace with namespace where provisioner is deployed
    namespace: nfs-client-provisioner
roleRef:
  kind: Role
  name: leader-locking-nfs-client-provisioner      
  apiGroup: rbac.authorization.k8s.io
---
apiVersion: apps/v1
kind: Deployment
metadata:
  name: nfs-client-provisioner
  labels:
    app: nfs-client-provisioner
  # replace with namespace where provisioner is deployed
  namespace: nfs-client-provisioner
spec:
  replicas: 1
  strategy:
    type: Recreate
  selector:
    matchLabels:
      app: nfs-client-provisioner                        使用上传的镜像
  template:
    metadata:
      labels:
        app: nfs-client-provisioner
    spec:
      serviceAccountName: nfs-client-provisioner
      containers:
        - name: nfs-client-provisioner
          image: nfs-subdir-external-provisioner:v4.0.0
          volumeMounts:
            - name: nfs-client-root
              mountPath: /persistentvolumes
          env:
            - name: PROVISIONER_NAME
              value: westos.org/nfs
            - name: NFS_SERVER
              value: 172.25.24.1                模板设置服务端ip
            - name: NFS_PATH
              value: /mnt/nfs
      volumes:
        - name: nfs-client-root
          nfs:
            server: 172.25.24.1                 设置服务端ip 
            path: /mnt/nfs
---
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
  name: managed-nfs-storage
provisioner: westos.org/nfs
parameters:
  archiveOnDelete: "true"                       删除后的打包功能开启

2、创建namespace
引用清单，查看sc和ns

kubectl create namespace nfs-client-provisioner
kubectl apply -f nfs-client-provisioner.yaml
kubectl get sc     图1
kubectl get ns     图1

图1、查看到动态卷的sc和ns

3、创建PVC，自动生成PV
指定sc为managed-nfs-storage

vim test-pvc.yaml



kind: PersistentVolumeClaim
apiVersion: v1
metadata:
  name: test-claim
spec:
  storageClassName: managed-nfs-storage           指定storageClass
  accessModes:
    - ReadWriteMany
  resources:
    requests:
      storage: 1Gi
/      

3、应用清单，查看是否自动生成PV，以及nfs的server端挂载目录

kubectl apply -f test-pvc.yaml
kubectl get pv
kubectl get pvc

在nfs的server端挂载目录处，发现创建的pvc卷，进入书写文件

cd /mnt/nfs/default-test-claim-pvc-623c2ad1-476b-4560-bf7c-c9a3d562a6da/
echo www.westos.org > index.html

三、动态卷的回收

1此时默认打包为true时回收，
删除PVC

kubectl delete -f test-pvc.yaml
kubectl get pvc
kubectl get pv

发现自动删除PV

在nfs的server端查看，发现子目录被打包备份

cd /mnt/nfs
ls
cd archived-pvc-623c2ad1-476b-4560-bf7c-c9a3d562a6da/
cat index.html

发现pvc这个卷已经打包

2默认方式为false时
创建测试pod

vim pod.yaml



apiVersion: v1
kind: Pod
metadata:
  name: test-pd-2
spec:
  containers:
  - image: nginx
    name: nginx
    volumeMounts:
    - mountPath: /usr/share/nginx/html
      name: pv2
  volumes:
  - name: pv2
    persistentVolumeClaim:
      claimName: test-claim

删除之前的sc，修改nfs的部署文件，删除后打包功能关闭

kubectl delete sc managed-nfs-storage
vim nfs-client-provisioner.yaml

116   archiveOnDelete: "false"                   将打包功能关闭

kubectl apply -f nfs-client-provisioner.yaml

应用pvc和pod清单，访问生成pod的ip
kubectl apply -f test-pvc.yaml
kubectl apply -f pod.yaml
kubectl get pod -o wide
curl 10.244.1.16

可以查看到新生成的pvc卷

删除pod和pvc

kubectl delete -f pod.yaml
kubectl delete -f test-pvc.yaml
kubectl get pod
kubectl get pvc
kubectl get pv

pv和pvc已经消失

在server服务端目录里pv和pvc同样被删除，此时不会再有打包备份，只剩下上个实验的打包备份。

四、设定sc为默认状态

1、默认的 StorageClass 将被用于动态的为没有特定 storage class 需求的 PersistentVolumeClaims 配置存储：（只能有一个默认StorageClass）
2、如果没有默认StorageClass，PVC 也没有指定storageClassName 的值，那么意味着它只能够跟 storageClassName 对应的 PV 进行绑定

kubectl patch storageclass managed-nfs-storage -p '{"metadata": {"annotations":{"storageclass.kubernetes.io/is-default-class":"true"}}}'
kubectl get sc