K8S-PV和PVC

目录：

emptyDir存储卷

hostPath存储卷

nfs共享存储卷

PVC和PV

　　生命周期

　　一个PV从创建到销毁的流程

　　静态

　　　　回收策略

　　　　NFS使用PV和PVC

　　动态

总结

 

 

容器磁盘上的文件的生命周期是短暂的，这就使得在容器中运行重要应用时会出现一些问题。首先，当容器崩溃时，kubelet 会重启它，但是容器中的文件将丢失——容器以干净的状态（镜像最初的状态）重新启动。其次，在Pod中同时运行多个容器时，这些容器之间通常需要共享文件。Kubernetes 中的Volume抽象就很好的解决了这些问题。Pod中的容器通过Pause容器共享Volume。

ceph

 

emptyDir存储卷

当Pod被分配给节点时，首先创建emptyDir卷，并且只要该Pod在该节点上运行，该卷就会存在。正如卷的名字所述，它最初是空的。Pod 中的容器可以读取和写入emptyDir卷中的相同文件，尽管该卷可以挂载到每个容器中的相同或不同路径上。当出于任何原因从节点中删除 Pod 时，emptyDir中的数据将被永久删除。

 

mkdir /opt/volumes

cd /opt/volumes

 

vim pod-emptydir.yaml

apiVersion: v1

kind: Pod

metadata:

name: pod-emptydir

namespace: default

labels:

app: myapp

tier: frontend

spec:

containers:

- name: myapp

image: ikubernetes/myapp:v1

imagePullPolicy: IfNotPresent

ports:

- name: http

containerPort: 80

#定义容器挂载内容

volumeMounts:

#使用的存储卷名称，如果跟下面volume字段name值相同，则表示使用volume的这个存储卷

- name: html

#挂载至容器中哪个目录

mountPath: /usr/share/nginx/html/

- name: busybox

image: busybox:latest

imagePullPolicy: IfNotPresent

volumeMounts:

- name: html

#在容器内定义挂载存储名称和挂载路径

mountPath: /data/

command: ['/bin/sh','-c','while true;do echo $(date) >> /data/index.html;sleep 2;done']

#定义存储卷

volumes:

#定义存储卷名称

- name: html

#定义存储卷类型

emptyDir: {}

 

 

kubectl apply -f pod-emptydir.yaml

 

kubectl get pods -o wide

NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES

pod-emptydir 2/2 Running 0 36s 10.244.2.19 node02

 

//在上面定义了2个容器，其中一个容器是输入日期到index.html中，然后验证访问nginx的html是否可以获取日期。以验证两个容器之间挂载的emptyDir实现共享。

curl 10.244.2.19

Thu May 27 18:17:11 UTC 2021

Thu May 27 18:17:13 UTC 2021

Thu May 27 18:17:15 UTC 2021

Thu May 27 18:17:17 UTC 2021

Thu May 27 18:17:19 UTC 2021

Thu May 27 18:17:21 UTC 2021

Thu May 27 18:17:23 UTC 2021

 

hostPath存储卷

hostPath卷将 node 节点的文件系统中的文件或目录挂载到集群中。

hostPath可以实现持久存储，但是在node节点故障时，也会导致数据的丢失。

 

//在 node01 节点上创建挂载目录

mkdir -p /data/pod/volume1

echo 'node01.kgc.com' > /data/pod/volume1/index.html

 

//在 node02 节点上创建挂载目录

mkdir -p /data/pod/volume1

echo 'node02.kgc.com' > /data/pod/volume1/index.html

 

//创建 Pod 资源

vim pod-hostpath.yaml

apiVersion: v1

kind: Pod

metadata:

name: pod-hostpath

namespace: default

spec:

containers:

- name: myapp

image: ikubernetes/myapp:v1

#定义容器挂载内容

volumeMounts:

#使用的存储卷名称，如果跟下面volume字段name值相同，则表示使用volume的这个存储卷

- name: html

#挂载至容器中哪个目录

mountPath: /usr/share/nginx/html

#读写挂载方式，默认为读写模式false

readOnly: false

#volumes字段定义了paues容器关联的宿主机或分布式文件系统存储卷

volumes:

#存储卷名称

- name: html

#路径，为宿主机存储路径

hostPath:

#在宿主机上目录的路径

path: /data/pod/volume1

#定义类型，这表示如果宿主机没有此目录则会自动创建

type: DirectoryOrCreate

 

 

kubectl apply -f pod-hostpath.yaml

 

//访问测试

kubectl get pods -o wide

NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES

pod-hostpath 2/2 Running 0 37s 10.244.2.35 node02

 

curl 10.244.2.35

node02.kgc.com

 

//删除pod，再重建，验证是否依旧可以访问原来的内容

kubectl delete -f pod-hostpath.yaml

kubectl apply -f pod-hostpath.yaml

 

kubectl get pods -o wide

NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES

pod-hostpath 2/2 Running 0 36s 10.244.2.37 node02

 

curl 10.244.2.37

node02.kgc.com

 

 

nfs共享存储卷

//在stor01节点上安装nfs，并配置nfs服务

mkdir /data/volumes -p

chmod 777 /data/volumes

 

vim /etc/exports

/data/volumes 192.168.10.0/24(rw,no_root_squash)

 

systemctl start rpcbind

systemctl start nfs

 

showmount -e

Export list for stor01:

/data/volumes 192.168.10.0/24

 

 

//master节点操作

vim pod-nfs-vol.yaml

apiVersion: v1

kind: Pod

metadata:

name: pod-vol-nfs

namespace: default

spec:

containers:

- name: myapp

image: ikubernetes/myapp:v1

volumeMounts:

- name: html

mountPath: /usr/share/nginx/html

volumes:

- name: html

nfs:

path: /data/volumes

server: stor01

 

 

kubectl apply -f pod-nfs-vol.yaml

 

kubectl get pods -o wide

NAME READY STATUS RESTARTS AGE IP NODE

pod-vol-nfs 1/1 Running 0 21s 10.244.2.38 node02

 

 

//在nfs服务器上创建index.html

cd /data/volumes

vim index.html

<h1>nfs stor01</h1>

 

//master节点操作

curl 10.244.2.38

<h1>nfs stor01</h1>

 

kubectl delete -f pod-nfs-vol.yaml #删除nfs相关pod，再重新创建，可以得到数据的持久化存储

 

kubectl apply -f pod-nfs-vol.yaml

 

 

nas gfs ceph san

 

PVC 和 PV

 

PV 全称叫做 Persistent Volume，持久化存储卷。它是用来描述或者说用来定义一个存储卷的，这个通常都是由运维工程师来定义。

 

PVC 的全称是 Persistent Volume Claim，是持久化存储的请求。它是用来描述希望使用什么样的或者说是满足什么条件的 PV 存储。

 

 

PV就是k8s的存储单元

PVC 的使用逻辑：在 Pod 中定义一个存储卷（该存储卷类型为 PVC），定义的时候直接指定大小，PVC 必须与对应的 PV 建立关系，PVC 会根据配置的定义去 PV 申请，而 PV 是由存储空间创建出来的。PV 和 PVC 是 Kubernetes 抽象出来的一种存储资源。

 

 

上面介绍的PV和PVC模式是需要运维人员先创建好PV，然后开发人员定义好PVC进行一对一的Bond，但是如果PVC请求成千上万，那么就需要创建成千上万的PV，对于运维人员来说维护成本很高，Kubernetes提供一种自动创建PV的机制，叫StorageClass，它的作用就是创建PV的模板。

 

创建 StorageClass 需要定义 PV 的属性，比如存储类型、大小等；另外创建这种 PV 需要用到的存储插件，比如 Ceph 等。 有了这两部分信息，Kubernetes 就能够根据用户提交的 PVC，找到对应的 StorageClass，然后 Kubernetes 就会调用 StorageClass 声明的存储插件，自动创建需要的 PV 并进行绑定。

2种模式：静态和动态

存储插件有外置和内置

 

 

PV是集群中的资源。 PVC是对这些资源的请求，也是对资源的索引检查。

 

生命周期

PV和PVC之间的相互作用遵循这个生命周期：

Provisioning（配置）---> Binding（绑定）---> Using（使用）---> Releasing（释放） ---> Recycling（回收）

 

 

●Provisioning，即 PV 的创建，可以直接创建 PV（静态方式），也可以使用 StorageClass 动态创建

●Binding，将 PV 分配给 PVC

●Using，Pod 通过 PVC 使用该 Volume，并可以通过准入控制StorageProtection（1.9及以前版本为PVCProtection） 阻止删除正在使用的 PVC

●Releasing，Pod 释放 Volume 并删除 PVC

●Reclaiming，回收 PV，可以保留 PV 以便下次使用，也可以直接从云存储中删除

 

根据这 5 个阶段，PV 的状态有以下 4 种：

●Available（可用）：表示可用状态，还未被任何 PVC 绑定

●Bound（已绑定）：表示 PV 已经绑定到 PVC

●Released（已释放）：表示 PVC 被删掉，但是资源尚未被集群回收

●Failed（失败）：表示该 PV 的自动回收失败

 

一个PV从创建到销毁的流程：

1、一个PV创建完后状态会变成Available，等待被PVC绑定。

2、一旦被PVC邦定，PV的状态会变成Bound，就可以被定义了相应PVC的Pod使用。

3、Pod使用完后会释放PV，PV的状态变成Released。

4、变成Released的PV会根据定义的回收策略做相应的回收工作。有三种回收策略，Retain、Delete和Recycle。Retain就是保留现场，K8S集群什么也不做，等待用户手动去处理PV里的数据，处理完后，再手动删除PV。Delete策略，K8S会自动删除该PV及里面的数据。Recycle方式，K8S会将PV里的数据删除，然后把PV的状态变成Available，又可以被新的PVC绑定使用。

 

静态

 1 kubectl explain pv    #查看pv的定义方式
 2 FIELDS:
 3     apiVersion: v1
 4     kind: PersistentVolume
 5     metadata:    #由于 PV 是集群级别的资源，即 PV 可以跨 namespace 使用，所以 PV 的 metadata 中不用配置 namespace
 6       name:
 7     spec
 8
 9 kubectl explain pv.spec    #查看pv定义的规格
10 spec:
11   nfs:（定义存储类型）
12     path:（定义挂载卷路径）
13     server:（定义服务器名称）
14   accessModes:（定义访问模型，有以下三种访问模型，以列表的方式存在，也就是说可以定义多个访问模式）
15         - ReadWriteOnce          #（RWO）存储可读可写，但只支持被单个 Pod 挂载
16     - ReadOnlyMany           #（ROX）存储可以以只读的方式被多个 Pod 挂载
17     - ReadWriteMany          #（RWX）存储可以以读写的方式被多个 Pod 共享         注：官网
18 #nfs 支持全部三种；iSCSI 不支持 ReadWriteMany（iSCSI 就是在 IP 网络上运行 SCSI 协议的一种网络存储技术）；HostPath 不支持 ReadOnlyMany 和 ReadWriteMany。
19   capacity:（定义存储能力，一般用于设置存储空间）
20     storage: 2Gi （指定大小）
21   storageClassName: （自定义存储类名称，此配置用于绑定具有相同类别的PVC和PV）
22   persistentVolumeReclaimPolicy: Retain    #回收策略（Retain/Delete/Recycle）

回收策略

#Retain（保留）：当删除与之绑定的PVC时候，这个PV被标记为released（PVC与PV解绑但还没有执行回收策略）且之前的数据依然保存在该PV上，但是该PV不可用，需要手动来处理这些数据并删除该PV。

#Delete（删除）：删除与PV相连的后端存储资源（只有 AWS EBS, GCE PD, Azure Disk 和 Cinder 支持）

#Recycle（回收）：删除数据，效果相当于执行了 rm -rf /thevolume/* （只有 NFS 和 HostPath 支持）

NFS使用PV和PVC：

 

 

kubectl explain pvc #查看PVC的定义方式

KIND: PersistentVolumeClaim

VERSION: v1

FIELDS:

apiVersion

kind

metadata

spec

 

#PV和PVC中的spec关键字段要匹配，比如存储（storage）大小、访问模式（accessModes）、存储类名称（storageClassName）

kubectl explain pvc.spec

spec:

accessModes: （定义访问模式，必须是PV的访问模式的子集）

resources:

requests:

storage: （定义申请资源的大小）

storageClassName: （定义存储类名称，此配置用于绑定具有相同类别的PVC和PV）

 

 

//NFS使用PV和PVC

  1 1、配置nfs存储
  2 mkdir v{1,2,3,4,5}
  3
  4 vim /etc/exports
  5 /data/volumes/v1 192.168.10.0/24(rw,no_root_squash)
  6 /data/volumes/v2 192.168.10.0/24(rw,no_root_squash)
  7 /data/volumes/v3 192.168.10.0/24(rw,no_root_squash)
  8 /data/volumes/v4 192.168.10.0/24(rw,no_root_squash)
  9 /data/volumes/v5 192.168.10.0/24(rw,no_root_squash)
 10
 11 exportfs -arv
 12
 13 showmount -e 192.168.10.xxx ##(如果是node要加NFS的IP)
 14

 17
 18 官方文档：https://kubernetes.io/zh-cn/docs/tasks/configure-pod-container/configure-persistent-volume-storage/#create-a-persistentvolume
 19
 20 2、定义PV(先PV再PVC)
 21 //这里定义5个PV，并且定义挂载的路径以及访问模式，还有PV划分的大小。
 22 vim pv-demo.yaml
 23 apiVersion: v1
 24 kind: PersistentVolume
 25 metadata:
 26   name: pv001
 27   labels:
 28     name: pv001
 29 spec:
 30   nfs:
 31     path: /data/volumes/v1
 32     server: stor01
 33   accessModes: ["ReadWriteMany","ReadWriteOnce"]
 34   capacity:
 35     storage: 1Gi
 36 ---
 37 apiVersion: v1
 38 kind: PersistentVolume
 39 metadata:
 40   name: pv002
 41   labels:
 42     name: pv002
 43 spec:
 44   nfs:
 45     path: /data/volumes/v2
 46     server: stor01
 47   accessModes: ["ReadWriteOnce"]
 48   capacity:
 49     storage: 2Gi
 50 ---
 51 apiVersion: v1
 52 kind: PersistentVolume
 53 metadata:
 54   name: pv003
 55   labels:
 56     name: pv003
 57 spec:
 58   nfs:
 59     path: /data/volumes/v3
 60     server: stor01
 61   accessModes: ["ReadWriteMany","ReadWriteOnce"]
 62   capacity:
 63     storage: 2Gi
 64 ---
 65 apiVersion: v1
 66 kind: PersistentVolume
 67 metadata:
 68   name: pv004
 69   labels:
 70     name: pv004
 71 spec:
 72   nfs:
 73     path: /data/volumes/v4
 74     server: stor01
 75   accessModes: ["ReadWriteMany","ReadWriteOnce"]
 76   capacity:
 77     storage: 4Gi
 78 ---
 79 apiVersion: v1
 80 kind: PersistentVolume
 81 metadata:
 82   name: pv005
 83   labels:
 84     name: pv005
 85 spec:
 86   nfs:
 87     path: /data/volumes/v5
 88     server: stor01
 89   accessModes: ["ReadWriteMany","ReadWriteOnce"]
 90   capacity:
 91     storage: 5Gi
 92
 93
 94 kubectl apply -f pv-demo.yaml
 95
 96 kubectl get pv
 97 NAME      CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM     STORAGECLASS   REASON    AGE
 98 pv001     1Gi        RWO,RWX        Retain           Available                                      7s
 99 pv002     2Gi        RWO            Retain           Available                                      7s
100 pv003     2Gi        RWO,RWX        Retain           Available                                      7s
101 pv004     4Gi        RWO,RWX        Retain           Available                                      7s
102 pv005     5Gi        RWO,RWX        Retain           Available                                       7s
103
104
105 3、定义PVC
106 //这里定义了pvc的访问模式为多路读写，该访问模式必须在前面pv定义的访问模式之中。定义PVC申请的大小为2Gi，此时PVC会自动去匹配多路读写且大小为2Gi的PV，匹配成功获取PVC的状态即为Bound
107 vim pod-vol-pvc.yaml
108 apiVersion: v1
109 kind: PersistentVolumeClaim
110 metadata:
111   name: mypvc
112   namespace: default
113 spec:
114   accessModes: ["ReadWriteMany"]
115   resources:
116     requests:
117       storage: 2Gi
118 ---
119 apiVersion: v1
120 kind: Pod
121 metadata:
122   name: pod-vol-pvc
123   namespace: default
124 spec:
125   containers:
126   - name: myapp
127     image: ikubernetes/myapp:v1
128     volumeMounts:
129     - name: html
130       mountPath: /usr/share/nginx/html
131   volumes:
132     - name: html
133       persistentVolumeClaim:
134         claimName: mypvc
135
136
137 kubectl apply -f pod-vol-pvc.yaml
138
139 kubectl get pv
140 NAME      CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM           STORAGECLASS   REASON    AGE
141 pv001     1Gi        RWO,RWX        Retain           Available                                            19m
142 pv002     2Gi        RWO            Retain           Available                                            19m
143 pv003     2Gi        RWO,RWX        Retain           Bound       default/mypvc                            19m
144 pv004     4Gi        RWO,RWX        Retain           Available                                            19m
145 pv005     5Gi        RWO,RWX        Retain           Available                                            19m

kubectl get pvc
NAME      STATUS    VOLUME    CAPACITY   ACCESS MODES   STORAGECLASS   AGE
mypvc     Bound     pv003     2Gi        RWO,RWX                       22s

4、测试访问
//在存储服务器上创建index.html，并写入数据，通过访问Pod进行查看，可以获取到相应的页面。
cd /data/volumes/v3/
echo "welcome to use pv3" > index.html

kubectl get pods -o wide
pod-vol-pvc             1/1       Running   0          3m        10.244.2.39   k8s-node02

curl  10.244.2.39
welcome to use pv3

动态

搭建 StorageClass + NFS，实现 NFS 的动态 PV 创建

 

 

 

Kubernetes 本身支持的动态 PV 创建不包括 NFS，所以需要使用外部存储卷插件分配PV。详见：https://kubernetes.io/zh/docs/concepts/storage/storage-classes/

 

卷插件称为 Provisioner（存储分配器），NFS 使用的是 nfs-client，这个外部卷插件会使用已经配置好的 NFS 服务器自动创建 PV。

Provisioner：用于指定 Volume 插件的类型，包括内置插件（如 kubernetes.io/aws-ebs）和外部插件（如 external-storage 提供的 ceph.com/cephfs）。

  1 1、在stor01节点上安装nfs，并配置nfs服务
  2 mkdir /opt/k8s
  3 chmod 777 /opt/k8s/
  4
  5 vim /etc/exports
  6 /opt/k8s 192.168.10.0/24(rw,no_root_squash,sync)
  7
  8 systemctl restart nfs
  9
 10 2、创建 Service Account，用来管理 NFS Provisioner 在 k8s 集群中运行的权限，设置 nfs-client 对 PV，PVC，StorageClass 等的规则
 11
 12 master:
 13 vim nfs-client-rbac.yaml（set paste）
 14 #创建 Service Account 账户，用来管理 NFS Provisioner 在 k8s 集群中运行的权限
 15 apiVersion: v1
 16 kind: ServiceAccount
 17 metadata:
 18   name: nfs-client-provisioner
 19 ---
 20 #创建集群角色
 21 apiVersion: rbac.authorization.k8s.io/v1
 22 kind: ClusterRole
 23 metadata:
 24   name: nfs-client-provisioner-clusterrole
 25 rules:
 26   - apiGroups: [""]
 27     resources: ["persistentvolumes"]
 28     verbs: ["get", "list", "watch", "create", "delete"]
 29   - apiGroups: [""]
 30     resources: ["persistentvolumeclaims"]
 31     verbs: ["get", "list", "watch", "update"]
 32   - apiGroups: ["storage.k8s.io"]
 33     resources: ["storageclasses"]
 34     verbs: ["get", "list", "watch"]
 35   - apiGroups: [""]
 36     resources: ["events"]
 37     verbs: ["list", "watch", "create", "update", "patch"]
 38   - apiGroups: [""]
 39     resources: ["endpoints"]
 40     verbs: ["create", "delete", "get", "list", "watch", "patch", "update"]
 41 ---
 42 #集群角色绑定
 43 apiVersion: rbac.authorization.k8s.io/v1
 44 kind: ClusterRoleBinding
 45 metadata:
 46   name: nfs-client-provisioner-clusterrolebinding
 47 subjects:
 48 - kind: ServiceAccount
 49   name: nfs-client-provisioner
 50   namespace: default
 51 roleRef:
 52   kind: ClusterRole
 53   name: nfs-client-provisioner-clusterrole
 54   apiGroup: rbac.authorization.k8s.io
 55
 56
 57 kubectl apply -f nfs-client-rbac.yaml
 58
 59
 60 3、使用 Deployment 来创建 NFS Provisioner(为什么用Deployment，因为能自动修复，pod不行)
 61 NFS Provisione(即 nfs-client)，有两个功能：一个是在 NFS 共享目录下创建挂载点(volume)，另一个则是将 PV 与 NFS 的挂载点建立关联。
 62
 63 #由于 1.20 版本启用了 selfLink，所以 k8s 1.20+ 版本通过 nfs provisioner 动态生成pv会报错，解决方法如下：
 64 vim /etc/kubernetes/manifests/kube-apiserver.yaml
 65 spec:
 66   containers:
 67   - command:
 68     - kube-apiserver
 69     - --feature-gates=RemoveSelfLink=false       #添加这一行
 70     - --advertise-address=192.168.80.20
 71 ......
 72
 73 kubectl apply -f /etc/kubernetes/manifests/kube-apiserver.yaml
 74 kubectl delete pods kube-apiserver -n kube-system
 75 kubectl get pods -n kube-system | grep apiserver
 76

 79 #创建 NFS Provisioner
 80 vim nfs-client-provisioner.yaml
 81 kind: Deployment
 82 apiVersion: apps/v1
 83 metadata:
 84   name: nfs-client-provisioner
 85 spec:
 86   replicas: 1
 87   selector:
 88     matchLabels:
 89       app: nfs-client-provisioner
 90   strategy:
 91     type: Recreate
 92   template:
 93     metadata:
 94       labels:
 95         app: nfs-client-provisioner
 96     spec:
 97       serviceAccountName: nfs-client-provisioner         #指定Service Account账户
 98       containers:
 99         - name: nfs-client-provisioner
100           image: quay.io/external_storage/nfs-client-provisioner:latest
101           imagePullPolicy: IfNotPresent
102           volumeMounts:
103             - name: nfs-client-root
104               mountPath: /persistentvolumes
105           env:
106             - name: PROVISIONER_NAME
107               value: nfs-storage       #配置provisioner的Name，确保该名称与StorageClass资源中的provisioner名称保持一致
108             - name: NFS_SERVER
109               value: stor01           #配置绑定的nfs服务器
110             - name: NFS_PATH
111               value: /opt/k8s          #配置绑定的nfs服务器目录
112       volumes:              #申明nfs数据卷
113         - name: nfs-client-root
114           nfs:
115             server: stor01
116             path: /opt/k8s
117
118
119 kubectl apply -f nfs-client-provisioner.yaml
120
121 kubectl get pod
122 NAME                                   READY   STATUS    RESTARTS   AGE
123 nfs-client-provisioner-cd6ff67-sp8qd   1/1     Running   0          14s
124 

128 4、创建 StorageClass，负责建立 PVC 并调用 NFS provisioner 进行预定的工作，并让 PV 与 PVC 建立关联
129
130 vim nfs-client-storageclass.yaml
131 apiVersion: storage.k8s.io/v1
132 kind: StorageClass
133 metadata:
134   name: nfs-client-storageclass
135 provisioner: nfs-storage     #这里的名称要和provisioner配置文件中的环境变量PROVISIONER_NAME保持一致
136 parameters:
137   archiveOnDelete: "false"   #false表示在删除PVC时不会对数据进行存档，即删除数据
138
139
140 kubectl apply -f nfs-client-storageclass.yaml
141
142 kubectl get storageclass
143 NAME                      PROVISIONER   RECLAIMPOLICY   VOLUMEBINDINGMODE   ALLOWVOLUMEEXPANSION   AGE
144 nfs-client-storageclass   nfs-storage   Delete          Immediate           false                  43s
145 

149 5、创建 PVC 和 Pod 测试
150
151 vim test-pvc-pod.yaml
152 apiVersion: v1
153 kind: PersistentVolumeClaim
154 metadata:
155   name: test-nfs-pvc
156 spec:
157   accessModes:
158     - ReadWriteMany
159   storageClassName: nfs-client-storageclass    #关联StorageClass对象
160   resources:
161     requests:
162       storage: 1Gi
163 ---
164 apiVersion: v1
165 kind: Pod
166 metadata:
167   name: test-storageclass-pod
168 spec:
169   containers:
170   - name: busybox
171     image: busybox:latest
172     imagePullPolicy: IfNotPresent
173     command:
174     - "/bin/sh"
175     - "-c"
176     args:
177     - "sleep 3600"
178     volumeMounts:
179     - name: nfs-pvc
180       mountPath: /mnt
181   restartPolicy: Never
182   volumes:
183   - name: nfs-pvc
184     persistentVolumeClaim:
185       claimName: test-nfs-pvc      #与PVC名称保持一致
186
187
188 kubectl apply -f test-pvc-pod.yaml

//PVC 通过 StorageClass 自动申请到空间
kubectl get pvc
NAME            STATUS   VOLUME                                     CAPACITY   ACCESS MODES   STORAGECLASS              AGE
test-nfs-pvc   Bound    pvc-11670f39-782d-41b8-a842-eabe1859a456   1Gi        RWX            nfs-client-storageclass   2s

//查看 NFS 服务器上是否生成对应的目录，自动创建的 PV 会以 ${namespace}-${pvcName}-${pvName} 的目录格式放到 NFS 服务器上
ls /opt/k8s/
default-test-nfs-pvc-pvc-11670f39-782d-41b8-a842-eabe1859a456

//进入 Pod 在挂载目录 /mnt 下写一个文件，然后查看 NFS 服务器上是否存在该文件
kubectl exec -it test-storageclass-pod sh
/ # cd /mnt/
/mnt # echo 'this is test file' > test.txt

//发现 NFS 服务器上存在，说明验证成功
cat /opt/k8s/test.txt

　　

总结

K8S存储卷volume

emptydir：可以实现pod中的容器之间共享数据，但是存储卷不能持久化数据，且会随着pod生命周期结束而一起删除

 

hostPath:可以实现持久化存储，使用node节点的目录或者文件挂载到容器，但是存储空间会受到node节点单机限制，node节点故障数据会丢失，pod跨node节点不能共享数据

 

nfs：可以实现持久化存储，使用nfs将存储设备空间挂载到容器，pod可以跨node节点来共享数据

 

PV PVC：

PV K8S 在指定的存储设备空间中创建可持久化的存储的资源

PVC 是对pv存储资源的请求和绑定

StorageClass SC类（存储类） 联动存储插件动态创建PV资源

静态PV的使用：

准备存储设备和共享目录

创建PV资源 配置存储类型 访问模式 存储能力的大小

创建PVC资源 配置请求PV资源的访问模式和存储大小，绑定pv，pvc和pv是一对一的绑定关系

 

pv访问模式必须支持PVC请求访问模式：请求的存储空间会优先选择相等的存储大小的PV资源，如果没有会选择大于请求存储大小的pvc资源

创建pod资源，定义存储类型设置persistentVolimeClaim 在容器配置中配置存储挂载

 

动态storage

storageClass 动态创建 pv的过程

storageClass +nfs-client-provisioner

 

准备NFS共享服务器和共享目录

创建sa 服务账号，进行RBAC资源操作权限的授权

创建nfs-client-provisioner

存储插件(以pod形式运行的)，配置中关联sa服务账号使得存储插件获得相关资源的操作权限

 

创建StorageClass资源，配置中要关联存储卷插件的名称配置

---------以上过程一劳永逸，以后只需要创建pvc就可以动态生成相关pv资源--------------

创建pvc资源配置中关联StorageClass资源的名称，此时会在NFS服务器上生成相关pv的共享目录，目录名以${namespace

} - {pvcName} - ${pvName} 格式命名

创建pod资源存储卷类型设置成persistenVolimeClaim，在容器配置中配置存储卷挂载