ubuntu18.04搭建 kubernetes（k8s）集群

♦♦♦这里介绍使用kubeadm安装k8s集群，因为这种搭建方式需要访问grc.io(https://cloud.google.com/container-registry/)（国内被墙了）下载对应的image，所以需要确保自己能访问该网站♦♦♦

♦♦♦即使网络不能访问，也有折中的解决办法，具体请看详细安装步骤♦♦♦

安装前准备：

• 关闭iptables/ufw:  service ufw disable
• 关闭swap：  swapoff  -a
• Centos还需要关闭SELinux/firewalld

下面使用kubeadm来创建k8s cluster
1. 所有主机节点上都需要安装docker

# sudo apt-get update
# sudo apt-get install \
    apt-transport-https \
    ca-certificates \
    curl \
    gnupg-agent \
    software-properties-common
# curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
# sudo apt-key fingerprint 0EBFCD88
output:
pub   rsa4096 -- [SCEA]
      9DC8  9FC7 DD38 854A  E2D8 8D81 803C 0EBF CD88
uid           [ unknown] Docker Release (CE deb) <docker@docker.com>
sub   rsa4096 -- [S]

# sudo add-apt-repository \
   "deb [arch=amd64] https://download.docker.com/linux/ubuntu \
   $(lsb_release -cs) \
   stable"
# sudo apt-get update
# sudo apt-get install docker-ce docker-ce-cli containerd.io

其他操作系统参考官方文档： https://docs.docker.com/install/linux/docker-ce/ubuntu/

2. config /etc/hostname,config every node and hostname

修改主机名，规划好master和node

修改/etc/hostname文件来永久修改hostname

$ sudo hostnamectl set-hostname  k8s-nodex

3. (独立安装 kubectl，可以跳过本部选择在步骤4中一起安装)在所有节点上安装 kubectl

# curl -LO https://storage.googleapis.com/kubernetes-release/release/$(curl -s https://storage.googleapis.com/kubernetes-release/release/stable.txt)/bin/linux/amd64/kubectl
# curl -s https://storage.googleapis.com/kubernetes-release/release/stable.txt  #获取当前稳定版本
# curl -LO https://storage.googleapis.com/kubernetes-release/release/v1.14.1/bin/linux/amd64/kubectl  #版本号根据需要可自行修改
# chmod +x ./kubectl
# sudo mv ./kubectl /usr/local/bin/kubectl
# source <(kubectl completion bash)

###ubuntu版本如果支持快捷安装可以执行以下命令来安装###
# sudo snap install kubectl --classi

4. 在所有节点上安装  kubectl kubelet kubeadm

# apt-get update && apt-get install -y apt-transport-https
# curl -s https://packages.cloud.google.com/apt/doc/apt-key.gpg | apt-key add -
# cat <<EOF >/etc/apt/sources.list.d/kubernetes.list
deb http://apt.kubernetes.io/ kubernetes-xenial main
EOF
# apt-get update
# apt-get install -y kubectl kubelet kubeadm

国内请使用aliyun源:

# sudo apt-get update && apt-get install -y apt-transport-https
# sudo curl https://mirrors.aliyun.com/kubernetes/apt/doc/apt-key.gpg | apt-key add -
# sudo cat <<EOF >/etc/apt/sources.list.d/kubernetes.list
deb https://mirrors.aliyun.com/kubernetes/apt/ kubernetes-xenial main
EOF
# sudo apt-get update
# apt-get install -y kubectl kubelet kubeadm 

5. 初始化master节点

♦♦♦

Kubenetes默认Registries地址是k8s.gcr.io，很明显，在国内并不能访问gcr.io，因此在kubeadm v1.13之前的版本，安装起来非常麻烦，但是在1.13版本中终于解决了国内的痛点，其增加了一个--image-repository参数，默认值是k8s.gcr.io，我们将其指定为国内镜像地址：registry.aliyuncs.com/google_containers，其它的就可以完全按照官方文档来操作。

我们还需要指定--kubernetes-version参数，因为它的默认值是stable-1，会导致从https://dl.k8s.io/release/stable-1.txt下载最新的版本号，我们可以将其指定为固定版本（最新版：v1.14.2）来跳过网络请求。

♦♦♦

pod网络插件是必要安装，以便pod可以相互通信. 请提前确认自己需要使用的pod网络插件，以Flannel为例，为了使Flannel正常工作，执行kubeadm init命令时需要增加--pod-network-cidr=10.244.0.0/16参数

# kubeadm init --pod-network-cidr=10.244.0.0/16     # k8s.gcr.io可以访问的情况下可以直接执行init
# kubeadm init --image-repository registry.aliyuncs.com/google_containers --kubernetes-version v1.14.2 --pod-network-cidr=10.244.0.0/16  # 通过跳转registry的方式安装

以上两种init的方式自己根据情况选择执行

 

use tocken: qjm4v2.8mqfbjrtjpf2xmq2
output:
Your Kubernetes control-plane has initialized successfully!

To start using your cluster, you need to run the following as a regular user:

# mkdir -p $HOME/.kube
# sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
# sudo chown $(id -u):$(id -g) $HOME/.kube/config

You should now deploy a pod network to the cluster.
Run "kubectl apply -f [podnetwork].yaml" with one of the options listed at:
https://kubernetes.io/docs/concepts/cluster-administration/addons/

Then you can join any number of worker nodes by running the following on each as root:

kubeadm join 10.100.0.128:6443 --token qjm4v2.8mqfbjrtjpf2xmq2 \
--discovery-token-ca-cert-hash sha256:65131ae78527130dfd6ccf0b6be6e86d2089c4d07856d7f318cede1ce84fb0ef

6. 安装pod网络插件flannel

# kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/a70459be0084506e4ec919aa1c114638878db11b/Documentation/kube-flannel.yml

这里由于国内墙的原因，kubelet可能无法拉取flannel镜像，需要手动执行命令拉取：

flannel 镜像详细的版本号可以执行以下命令查询：
# kubectl get pod -n kube-system
# kubectl describe pod kube-flannel-ds-amd64-xxx -n kube-system  # kube-flannel-ds-amd64-xxx 为上一条命令查询出来的flannel pod

拉取镜像：
# docker pull quay.io/coreos/flannel:v0.11.0-amd64  # 如果不能直接连接gcr.io，在node节点上也要手动拉取这个镜像
§§特别说明一下，由于我家里是长城宽带，执行命令拉取的时候还是报错，于是我用手机共享了手机联通网络做热点，结果还真的下载成功了！§§ 

　再次安装flannel插件即可：

# kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/a70459be0084506e4ec919aa1c114638878db11b/Documentation/kube-flannel.yml

然后再查询集群状态，可以看到kube-flannel-ds-xxx Pod状态为running，master节点状态也变为Ready，表明master节点初始化成功了。happy！！！

　

flannel支持多种模型

• VxLAN #vxLAN有以下两种模式
  • vxlan #叠加网络或者隧道网络，通过封装网络报文的方式使不同网段的pod之间可以通讯
  • Directrouting #直接使用主机的IP地作为网关，通过主机路由的方式与目标pod进行通讯，当目标pod与当前pod不在同一三层网络内，会自动降级为VxLAN模式
• host-gw: Host GateWay #与VxLAN的Directrouting模式相同，当目标pod与当前pod不在同一三层网络内时，pod之间无法通讯
• UDP: #早期由于Linux内核不支持VxLAN，host-gw又有非常高的入门门槛，udp是flannel最早期使用的模式，由于使用普通的udp报文通讯，性能非常差，在可以使用前面两种模式的情况下请勿使用该模式
• 默认flannel的模式为vxlan，可以修改为性能更好的directrouting模式，修改见下图

　　　　

7. 添加node工作节点

• SSH到node节点
• 切换到root用户
• 执行添加node命令：

# kubeadm join --token <token> <master-ip>:<master-port>
这里可以直接copy master节点init过程末尾的kubeadm join 命令行直接执行

默认情况下，token的有效期是24小时，如果我们的token已经过期的话，可以使用以下命令重新生成：

# kubeadm token create

　如果我们也没有--discovery-token-ca-cert-hash的值，可以使用以下命令生成：

# openssl x509 -pubkey -in /etc/kubernetes/pki/ca.crt | openssl rsa -pubin -outform der 2>/dev/null | openssl dgst -sha256 -hex | sed 's/^.* //'

8. 所有node节点加入到master节点之后，可以执行以下命令查看集群信息

# kubectl get nodes

[root@maple-master opt]# kubectl get nodes
NAME           STATUS     ROLES    AGE   VERSION
maple-master   Ready      master   30m   v1.14.2
k8s-node1      Ready      node     2m   v1.14.2
k8s-node2      Ready      node     2m   v1.14.2

Note： kubeadm reset 可以重置'kubeadm init' or 'kubeadm join'的操作。  同时需要删除家目录下的.kube 目录。才能恢复到初始化之前的状态

参考文档：http://docs.kubernetes.org.cn/459.html

　　　　　https://kubernetes.io/zh/docs/setup/independent/install-kubeadm/

　　　　　https://www.cnblogs.com/yitianyouyitian/p/10143217.html  解决了国内无法下载相关image的问题，成功init