Kubernetes K8S之通过helm部署metrics-server与HPA详解

Kubernetes K8S之通过helm部署metrics-server与 Horizontal Pod Autoscaling (HPA)详解

主机配置规划

服务器名称(hostname)	系统版本	配置	内网IP	外网IP(模拟)
k8s-master	CentOS7.7	2C/4G/20G	172.16.1.110	10.0.0.110
k8s-node01	CentOS7.7	2C/4G/20G	172.16.1.111	10.0.0.111
k8s-node02	CentOS7.7	2C/4G/20G	172.16.1.112	10.0.0.112

使用Helm部署metrics-server

正常情况下，如果没有部署metrics-server那么我们使用如下命令是收集不到信息的

1 kubectl top node
2 kubectl top pod -A

首先完成「Kubernetes K8S之Helm部署、使用与示例」。

从Heapster的 GitHub地址：https://github.com/kubernetes-retired/heapster 中可以看到，heapster 已经 RETIRED【过时】。从Kubernetes 1.12开始将从Kubernetes各种安装脚本中移除。Kubernetes推荐使用metrics-server。我们这里使用Helm来部署metrics-server。

GitHub地址：

https://github.com/kubernetes-sigs/metrics-server

metrics-server-amd64镜像下载

1 # 在集群所有节点都需要执行
2 docker pull registry.cn-beijing.aliyuncs.com/google_registry/metrics-server-amd64:v0.3.6
3 docker tag  registry.cn-beijing.aliyuncs.com/google_registry/metrics-server-amd64:v0.3.6  k8s.gcr.io/metrics-server-amd64:v0.3.6
4 docker rmi  registry.cn-beijing.aliyuncs.com/google_registry/metrics-server-amd64:v0.3.6

metrics-server.yaml文件

1 [root@k8s-master helm]# pwd
2 /root/k8s_practice/helm
3 [root@k8s-master helm]#
4 [root@k8s-master helm]# cat metrics-server.yaml
5 args:
6 - --logtostderr
7 - --kubelet-insecure-tls
8 - --kubelet-preferred-address-types=InternalIP

通过helm部署metrics-server

1 # 查询metrics-server的各个版本信息
2 helm search stable/metrics-server -l
3 # 通过helm部署metrics-server并指定了版本
4 helm install stable/metrics-server --version 2.11.1 -n metrics-server --namespace kube-system -f metrics-server.yaml

查看helm和pod信息

1 [root@k8s-master ~]# helm list
2 NAME              REVISION    UPDATED                     STATUS      CHART                    APP VERSION    NAMESPACE
3 metrics-server    1           Mon Jul 20 10:06:58 2020    DEPLOYED    metrics-server-2.11.1    0.3.6          kube-system
4 [root@k8s-master ~]#
5 [root@k8s-master ~]# kubectl get deploy -A | grep 'metrics-server'
6 kube-system            metrics-server              1/1     1            1           94s
7 [root@k8s-master ~]#
8 [root@k8s-master ~]# kubectl get pod -A | grep 'metrics-server'
9 kube-system            metrics-server-6796d97d6b-wvd48              1/1     Running   0          18s

现在使用下面的命令可以获取到关于集群Node节点和Pod的指标信息：

 1 [root@k8s-master ~]# kubectl top node
 2 NAME         CPU(cores)   CPU%   MEMORY(bytes)   MEMORY%
 3 k8s-master   205m         10%    2122Mi          57%
 4 k8s-node01   130m         6%     1060Mi          61%
 5 k8s-node02   193m         9%     1093Mi          63%
 6 [root@k8s-master ~]#
 7 [root@k8s-master ~]# kubectl top pod -A
 8 NAMESPACE              NAME                                         CPU(cores)   MEMORY(bytes)
 9 default                load-generator-57d5fb67c7-xx2wj              0m           0Mi
10 default                php-apache-5db466758-k2vxj                   1m           20Mi
11 kube-system            coredns-6955765f44-c9zfh                     5m           20Mi
12 kube-system            coredns-6955765f44-lrz5q                     5m           20Mi
13 kube-system            etcd-k8s-master                              21m          88Mi
14 ………………

Horizontal Pod Autoscaling(HPA)

Horizontal Pod Autoscaling(HPA) 可以根据CPU利用率自动伸缩一个Replication Controller、Deployment或者ReplicaSet中的Pod数量。

案例镜像下载

1 # gcr.io/google_containers/hpa-example 在国外，这里我们下载国内镜像
2 # 在集群所有节点都需要执行【主要是node节点】
3 docker pull registry.cn-beijing.aliyuncs.com/google_registry/hpa-example

启动pod

kubectl run php-apache --image=registry.cn-beijing.aliyuncs.com/google_registry/hpa-example --requests=cpu=200m --expose --port=80

创建HPA控制器，相关算法参见如下地址：

1 # 官方地址：https://v1-17.docs.kubernetes.io/zh/docs/tasks/run-application/horizontal-pod-autoscale/
2 # 当pod中CPU使用率达50%就扩容。最小1个，最大10个
3 kubectl autoscale deployment php-apache --cpu-percent=50 --min=1 --max=10

此时查询相关信息

 1 [root@k8s-master ~]# kubectl get hpa
 2 NAME         REFERENCE               TARGETS         MINPODS   MAXPODS   REPLICAS   AGE
 3 php-apache   Deployment/php-apache   0%/50%          1         10        1          3m16s
 4 [root@k8s-master ~]#
 5 [root@k8s-master ~]# kubectl get deploy -A | grep 'php-apache'
 6 default                php-apache                  1/1     1            1           10h
 7 [root@k8s-master ~]#
 8 [root@k8s-master ~]# kubectl get pod -o wide
 9 NAME                         READY   STATUS    RESTARTS   AGE    IP             NODE         NOMINATED NODE   READINESS GATES
10 php-apache-5db466758-k2vxj   1/1     Running   0          8m8s   10.244.4.176   k8s-node01   <none>           <none>

增加负载

1 # 启动一个pod并进入一个终端
2 kubectl run -i --tty load-generator --image=registry.cn-beijing.aliyuncs.com/google_registry/myapp:v1 /bin/sh
3 # 再次进入pod【注意pod名称，根据实际情况修改】
4 kubectl exec -it load-generator-57d5fb67c7-xx2wj -- /bin/sh
5 # 在pod中循环访问
6 while true; do wget -q -O- http://php-apache.default.svc.cluster.local; done

如果需要多个终端访问，那么只需要修改tty终端名称【如：load-generator01】。进入后再次循环访问即可。

增加负载后【可能需要等会儿】，php-apache的pod数量达到了最大值10。此时的pod信息为：

 1 [root@k8s-master ~]# kubectl get hpa
 2 NAME         REFERENCE               TARGETS    MINPODS   MAXPODS   REPLICAS   AGE
 3 php-apache   Deployment/php-apache   465%/50%   1         10        10         10h
 4 [root@k8s-master ~]#
 5 [root@k8s-master ~]# kubectl get deploy -A | grep 'php-apache'
 6 default                php-apache                  10/10   10           10          10h
 7 [root@k8s-master ~]#
 8 [root@k8s-master ~]# kubectl get pod
 9 NAME                                READY   STATUS    RESTARTS   AGE
10 load-generator-57d5fb67c7-xx2wj     1/1     Running   0          48m
11 load-generator02-6c857bf9b5-cfmhj   1/1     Running   1          22s
12 php-apache-5db466758-2jv4x          1/1     Running   0          5m13s
13 php-apache-5db466758-4cxxm          1/1     Running   0          5m28s
14 php-apache-5db466758-6vz2b          1/1     Running   0          5m13s
15 php-apache-5db466758-98sqk          1/1     Running   0          4m58s
16 php-apache-5db466758-hdvrs          1/1     Running   0          5m13s
17 php-apache-5db466758-k2vxj          1/1     Running   0          62m
18 php-apache-5db466758-srctq          1/1     Running   0          4m58s
19 php-apache-5db466758-vkr5d          1/1     Running   0          5m28s
20 php-apache-5db466758-vmhlv          1/1     Running   0          5m13s
21 php-apache-5db466758-x8kms          1/1     Running   0          5m28s

此时，如果我们停止负载访问压测，pod数量也不会立即降下来。而是过段时间后才会慢慢降下来。

这也是为了安全起见，防止由于网络原因或者间歇性流量突增、突降，导致pod回收太快后面流量上来后Pod数量不够。

相关阅读

1、Kubernetes K8S之Helm部署、使用与示例

2、Pod 水平自动伸缩

完毕！

---

———END———
如果觉得不错就关注下呗 (-^O^-) ！