Fork me on GitHub

Herr Knedel/Skvělé věci s kontejnery: cluster Kubenetes a úložiště NFS

Created Sun, 20 Jun 2021 00:00:00 +0000 Modified Mon, 28 Mar 2022 18:24:29 +0000 Schwierigkeitsgrad: Sehr sportlich

818 Words

Dnes instaluji nový cluster Kubenetes a je toho hodně!

Objednal jsem pro něj tyto komponenty:

Jdeme na to!

Vytvořil jsem vlastní obraz pro instalaci na základě instalace Raspian Lite. Můj uživatelský/veřejný klíč je již uložen v tomto obraze a soubor “/boot/config.txt” byl upraven pro mé LED.

# meine Server brauchen kein HDMI, WLAN und Bluetooth
dtoverlay=disable-bt
dtoverlay=disable-wifi
disable_splash=1
hdmi_blanking=1
hdmi_ignore_hotplug=1
hdmi_ignore_composite=1
 
 
# Status-LEDs an GPIO weiterleiten
dtoverlay=act-led,gpio=21
dtparam=act_led_trigger=cpu0

Server 1 - Připojení disku

Nejprve nainstaluji službu NFS na “Server 1”. Toto úložiště lze později použít pro můj kontejnerový cluster. Připojil jsem pevný disk USB k “Serveru 1” a naformátoval ho EXT4 pomocí těchto pokynů: https://homecircuits.eu/blog/mount-sata-cubieboard-lubuntu/. Poté jsem vytvořil přípojný bod pro disk USB:

x
+
Terminal

$ sudo mkdir /media/usb-platte

Nový souborový systém jsem zadal do souboru “/etc/fstab” takto:

/dev/sda1 /media/usb-platte ext4 defaults 0 2

Nastavení lze zkontrolovat příkazem “sudo mount -a”. Nyní by měl být disk USB připojen do složky “/media/usb-disk”.

Instalace systému NFS

Tento balíček je vyžadován pro systém NFS:

x
+
Terminal

$ sudo apt-get install nfs-kernel-server -y

Na disku USB byla navíc vytvořena nová složka.

x
+
Terminal

$ sudo mkdir /media/usb-platte/nfsshare
$ sudo chown -R pi:pi /media/usb-platte/nfsshare/
$ sudo find /media/usb-platte/nfsshare/ -type d -exec chmod 755 {} \;
$ sudo find /media/usb-platte/nfsshare/ -type f -exec chmod 644 {} \;

Poté je třeba upravit soubor “/etc/exports”. Zde se zadává cesta, ID uživatele a ID skupiny:

/media/usb-platte/nfsshare *(rw,all_squash,insecure,async,no_subtree_check,anonuid=1000,anongid=1000)

Nyní lze nastavení přijmout takto.

x
+
Terminal

$ sudo exportfs -ra

Jak mohu připojit systém NFS?

Svazek mohu připojit následujícím způsobem:

x
+
Terminal

$ sudo mount -t nfs SERVER-1-IP:/media/usb-platte/nfsshare /mnt/nfs

Nebo zadejte trvale do souboru “/etc/fstab”:

SERVER-1-IP:/media/usb-platte/nfsshare /mnt/nfs/ nfs defaults 0 0

I zde mohu použít příkaz “sudo mount -a”.

Instalace služby Kubernetes

Následující příkazy musí být provedeny na serveru 1, serveru 2 a serveru 3. Nejprve nainstalujeme Docker a přidáme uživatele “PI” do skupiny Docker.

x
+
Terminal

$ curl -sSL get.docker.com | sh
$ sudo usermod pi -aG docker

Poté se nastavení velikosti swapu na všech serverech vynuluje. To znamená, že upravím soubor “/etc/dphys-swapfile” a nastavím atribut “CONF_SWAPSIZE” na “0”.

Dále je třeba upravit nastavení “Control-Group” v souboru “/boot/cmdline.txt”:

cgroup_enable=cpuset cgroup_enable=memory cgroup_memory=1

Viz:

Nyní by se měly všechny maliny jednou restartovat a poté jsou připraveny na instalaci Kubernetes.

x
+
Terminal

$ sudo reboot

Po restartu nainstaluji tyto balíčky na server 1, server 2 a server 3:
x
+
Terminal

$ curl -s https://packages.cloud.google.com/apt/doc/apt-key.gpg | sudo apt-key add - && \
$ echo "deb http://apt.kubernetes.io/ kubernetes-xenial main" | sudo tee /etc/apt/sources.list.d/kubernetes.list && \
$ sudo apt-get update -q && sudo apt-get install -qy kubeadm

# Pouze server 1

Nyní lze inicializovat hlavní modul Kubenetes.

x
+
Terminal

$ sudo kubeadm init --token-ttl=0 --pod-network-cidr=10.244.0.0/16

Po úspěšné inicializaci přijímám nastavení. Vzpomínám si na zobrazený příkaz “kubeadm join” pro připojení pracovních uzlů.
x
+
Terminal

$ mkdir -p $HOME/.kube
$ sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
$ sudo chown $(id -u):$(id -g) $HOME/.kube/config

Nyní je bohužel nutné pro síť něco udělat.
x
+
Terminal

$ kubectl apply https://raw.githubusercontent.com/coreos/flannel/2140ac876ef134e0ed5af15c65e414cf26827915/Documentation/kube-flannel.yml
$ sudo systemctl daemon-reload
$ systemctl restart kubelet

Příkaz “kubectl get nodes” by nyní měl zobrazit “Master” ve stavu “Ready”.

Kubernetes - Přidání uzlů

Nyní potřebujeme příkaz “kubeadm join” z inicializace Kubenetes. Tento příkaz zadám na “Serveru 2” a “Serveru 3”.

x
+
Terminal

$ kubeadm join master-ip:port --token r4fddsfjdsjsdfomsfdoi --discovery-token-ca-cert-hash sha256:1adea3bfxfdfddfdfxfdfsdffsfdsdf946da811c27d1807aa

Pokud nyní zadám příkaz “kubectl get nodes” ze “Serveru 1” znovu, tyto uzly se pravděpodobně zobrazí ve stavu “Not Ready”. I zde se objevuje problém se sítí, který měl i mistr. Znovu spustím předchozí příkaz, ale tentokrát přidám písmeno “f” jako force.
x
+
Terminal

$ kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/2140ac876ef134e0ed5af15c65e414cf26827915/Documentation/kube-flannel.yml

Poté se zobrazí všechny uzly připravené k použití.

Malé testovací zařízení (Server 1/Kubenetes-Master)

Napíšu si malé testovací nasazení a zkontroluji funkce. Vytvořím soubor “nginx.yml” s následujícím obsahem:

apiVersion: apps/v1
kind: Deployment
metadata:
  name: my-nginx
spec:
 selector:
   matchLabels:
     run: my-nginx
 replicas: 2
 template:
   metadata:
     labels:
       run: my-nginx
   spec:
     containers:
     - name: my-nginx
       image: nginx
       ports:
       - containerPort: 80

Nyní začínám s depilací:

x
+
Terminal

$ kubectl apply -f nginx.yml
$ kubectl rollout status deployment/my-nginx
$ kubectl get deplyments

Skvělé!

Vytvořím službu a mohu vyvolat svůj kontejner. Jednou škáluju až na 20 “replik”:
x
+
Terminal

$ kubectl scale deployment my-nginx --replicas=0; kubectl scale deployment my-nginx --replicas=20

Podívejte se na:

Vyčištění zkušebního provozu

Abych to uklidil, odstraním deplyment a službu znovu.

x
+
Terminal

$ kubectl delete service example-service
$ kubectl delete deplyments my-nginx

Podívejte se na: