部署k8s叢集的超詳細實踐步驟

2022-08-19 14:05:39

1、部署k8s的兩種方式：

目前生產部署Kubernetes叢集主要有兩種方式：

kubeadm

Kubeadm是一個K8s部署工具，提供kubeadm init和kubeadm join，用於快速部署Kubernetes叢集。

二進位制包

從github下載發行版的二進位制包，手動部署每個元件，組成Kubernetes叢集。

本實驗採用kubeadm的方式搭建叢集。

2、環境準備

伺服器要求：

建議最小硬體設定：2核CPU、2G記憶體、20G硬碟
伺服器最好可以存取外網，會有從網上拉取映象需求，如果伺服器不能上網，需要提前下載對應映象並匯入節點

軟體環境：

作業系統：centos7.9_x64(mini)
Docker：20-ce
K8s：1.23

伺服器規劃：（本實驗採用虛擬機器器）

k8s-master：192.168.178.171
k8s-node1：192.168.178.172
k8s-node2：192.168.178.173

3、初始化設定

3.1、安裝環境準備：下面的操作需要在所有的節點上執行。

# 關閉防火牆
systemctl stop firewalld
systemctl disable firewalld

# 關閉selinux
sed -i 's/enforcing/disabled/' /etc/selinux/config  # 永久
setenforce 0  # 臨時

# 關閉swap
swapoff -a  # 臨時
sed -ri 's/.*swap.*/#&/' /etc/fstab    # 永久

# 根據規劃設定主機名
hostnamectl set-hostname <hostname>

# 在master新增hosts
cat >> /etc/hosts << EOF
192.168.178.171 k8s-master
192.168.178.172 k8s-node1
192.168.178.173 k8s-node2
EOF

# 將橋接的IPv4流量傳遞到iptables的鏈
cat > /etc/sysctl.d/k8s.conf << EOF
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
EOF
sysctl --system  # 生效

# 時間同步
yum install ntpdate -y
ntpdate time.windows.com

注意：虛擬機器器不管關機還是掛起，每次重新操作都需要更新時間進行同步。

3.2、安裝 Docker、kubeadm、kubelet【所有節點】

安裝docker:

wget https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo -O /etc/yum.repos.d/docker-ce.repo
yum -y install docker-ce
systemctl enable docker && systemctl start docker

設定映象下載加速器：

vim /etc/docker/daemon.json

{
  "registry-mirrors": ["https://b9pmyelo.mirror.aliyuncs.com"],
  "exec-opts": ["native.cgroupdriver=systemd"]
}

systemctl restart docker
docker info                                                        #檢視docker資訊，進行確認

新增阿里雲軟體源：

cat > /etc/yum.repos.d/kubernetes.repo << EOF
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64
enabled=1
gpgcheck=0
repo_gpgcheck=0
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
EOF

安裝kubeadm、kubelet、kubectl：

yum install -y kubelet-1.23.0 kubeadm-1.23.0 kubectl-1.23.0
systemctl enable kubelet

4、部署k8s-master【master執行】

4.1、kubeadm部署（需要等上一會）

kubeadm init 
  --apiserver-advertise-address=192.168.178.171 
  --image-repository registry.aliyuncs.com/google_containers 
  --kubernetes-version v1.23.0 
  --service-cidr=10.96.0.0/12 
  --pod-network-cidr=10.244.0.0/16 
  --ignore-preflight-errors=all

--apiserver-advertise-address 叢集通告地址
--image-repository 由於預設拉取映象地址k8s.gcr.io國內無法存取，這裡指定阿里雲映象倉庫地址
--kubernetes-version K8s版本，與上面安裝的一致
--service-cidr 叢集內部虛擬網路，Pod統一存取入口
--pod-network-cidr Pod網路，與下面部署的CNI網路元件yaml中保持一致

初始化之後，會輸出一個join命令，先複製出來，node節點加入master會使用。

4.2、拷貝k8s認證檔案

mkdir -p $HOME/.kube
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
sudo chown $(id -u):$(id -g) $HOME/.kube/config

檢視工作節點：

kubectl get nodes

注：由於網路外掛還沒有部署，還沒有準備就緒 NotReady，繼續操作。

5、設定k8s的node節點【node節點操作】

5.1、向叢集新增新節點，執行在kubeadm init輸出的kubeadm join命令

預設token有效期為24小時，當過期之後，該token就不可用了。這時就需要重新建立token，可以直接使用命令快捷生成：

 kubeadm token create --print-join-command

6、部署容器網路（master執行）

Calico是一個純三層的資料中心網路方案，是目前Kubernetes主流的網路方案。

下載YAML：

 wget https://docs.projectcalico.org/manifests/calico.yaml

下載完後還需要修改裡面定義Pod網路（CALICO_IPV4POOL_CIDR），與前面kubeadm init的 --pod-network-cidr指定的一樣。

修改完後檔案後，進行部署：

kubectl apply -f calico.yaml
kubectl get pods -n kube-system                        #執行結束要等上一會才全部running

等Calico Pod都Running後，節點也會準備就緒。

注：以後所有yaml檔案都只在Master節點執行。

安裝目錄：/etc/kubernetes/

元件組態檔目錄：/etc/kubernetes/manifests/

7、部署Dashboard

Dashboard是官方提供的一個UI，可用於基本管理K8s資源。

YAML下載地址：

wget https://raw.githubusercontent.com/kubernetes/dashboard/v2.4.0/aio/deploy/recommended.yaml

預設Dashboard只能叢集內部存取，修改Service為NodePort型別，暴露到外部：

vi recommended.yaml
...
kind: Service
apiVersion: v1
metadata:
  labels:
    k8s-app: kubernetes-dashboard
  name: kubernetes-dashboard
  namespace: kubernetes-dashboard
spec:
  ports:
    - port: 443
      targetPort: 8443
      nodePort: 30001
  selector:
    k8s-app: kubernetes-dashboard
  type: NodePort
...

kubectl apply -f recommended.yaml
kubectl get pods -n kubernetes-dashboard

存取地址：https://NodeIP:30001

建立service account並繫結預設cluster-admin管理員叢集角色：

 # 建立使用者
kubectl create serviceaccount dashboard-admin -n kube-system
# 使用者授權
kubectl create clusterrolebinding dashboard-admin --clusterrole=cluster-admin --serviceaccount=kube-system:dashboard-admin
# 獲取使用者Token
kubectl describe secrets -n kube-system $(kubectl -n kube-system get secret | awk '/dashboard-admin/{print $1}')