Direkt zum Hauptinhalt

Proxmox Basis Setup für ZFS und / oder Ceph im Cluster

Installation Proxmox

Ein System hat extra Platten für unseren Workshop, zwei wurden bereits installiert.

Es kommt der HPE Microserver Gen10 Plus V2, vorzugsweise mit ECC, zum Einsatz

Bildschirmfoto 2024-12-18 um 11.08.06.jpg

Wir installieren mindestens einen Raid1, 10 oder Z, niemals auf Basis eines Hardware Raid Controllers!

Für Cluster dringend alle IPs und Namen vorher klären, sonst kommt es zu späteren Zusatzarbeiten für den Cluster

Bildschirmfoto 2024-12-18 um 11.08.29.jpg

Cluster mit drei PVE erstellen

Cluster wird in Sekunden erzeugt, ein Node alleine läuft problemlos

Bildschirmfoto 2024-12-18 um 11.15.59.jpg

Bildschirmfoto 2024-12-18 um 11.17.18.jpg

Bildschirmfoto 2024-12-18 um 11.17.34.jpg

Cluster Nodes hinzufügen

Nodes mit den Join Information des ersten Clusternodes in der Zwischenlage auf neuen Node unter Join Cluster Einfügen und Rootpasswort und Clusternetz(e) bereitstellen

Bildschirmfoto 2024-12-18 um 11.17.55.jpg

Bildschirmfoto 2024-12-18 um 11.18.05.jpg

Bildschirmfoto 2024-12-18 um 11.18.42.jpg

Bildschirmfoto 2024-12-18 um 11.20.33.jpg

Der neue Node wird im Vorgang die Verbindung zum Browser verlieren, da er Schlüssel und Zertifikate des Clusters übernimmt. Der Browser muss neu geladen werden. Danach ist die Administration von jedem Clustermitglied aus möglich.

Lokale Storages benötigen lokalen Login zum Einrichten

Bildschirmfoto 2024-12-18 um 11.21.06.jpg

Postinstaller für erweiterte Funktionen

Unser Postinstaller vom #Bashclub funktioniert am besten mit Standalone.

Für unser Setup verzichten wir auf Autosnapshots für rpool/data, also dem local-zfs Store und auf das SSH-Hardening, aus Kompatibilitätsgründen

Diese Zusammfassung zeigt die für unser Setup günstigsten Settings, mehr Kontext im Kurs

Bildschirmfoto 2024-12-18 um 11.23.17.jpg

Demonstration ZFS Raid

Software Raid mit ZFS ist ultra schnell bei Problemen entstört. Der direkte Zugriff auf die Platten bringt via Monitoring Probleme vor Ausfall zum Vorschein. Im Beispiel packen wir eine Platte vor Reboot offline, bitte nicht nachmachen!

Bildschirmfoto 2024-12-18 um 11.23.54.jpg

Bildschirmfoto 2024-12-18 um 11.24.19.jpg

Trotz defektem Raid zeigt das Summarydashboard kein Problem. Hier muss mit Check_MK oder CV4PVE kontrolliert werden, oder...

Bildschirmfoto 2024-12-18 um 11.24.30.jpg

S.M.A.R.T Kontrolle via GUI aus Erfahrung oft noch ohne Fehler, während unser Check_MK Plugin schon Probleme erkennt!

Bildschirmfoto 2024-12-18 um 11.24.34.jpg

Bildschirmfoto 2024-12-18 um 11.24.50.jpg

Mühselige Kontrolle aller Systeme via GUI pro Host ist nicht praxistauglich!!!

Bildschirmfoto 2024-12-18 um 11.24.53.jpg

Musterinstallation Linux / Windows als VM

Der Postinstaller stellt die aktuelle Windows Treiber ISO in der Stabilen Version bereit, der Proxmox Installer das zweite Laufwerk dafür

Bildschirmfoto 2024-12-18 um 11.28.12.jpg

Bildschirmfoto 2024-12-18 um 11.28.19.jpg

i440FX als Maschinentyp und Bios sind inzwischen eher zu vermeiden, schliesslich soll der Kram lange laufen.

Funfact, i440FX war für die Pro Version des ersten Pentiums, dung ding da ding!


Bildschirmfoto 2024-12-18 um 11.28.43.jpg

Proxmox VE legt im ZFS oder Ceph ebenfalls einen Blockstorage für TPM und EFI Einstellungen an, diese werden Raw ohne Dateisystem geschrieben und haben nichts mit der EFI-Boot-Partition zu tun.

Die native Bildschirmauflösung des Systems wird in der VM beim Starten mit ESC eingestellt.

Der Virtio SCSI single Controller wird im Host als eigener Prozess und im Gast als eigener Controller pro Disk aktiviert

Der Qemu Agent sorgt für Shattenkopien, Freezing, Herunterfahren und mehr!

Bildschirmfoto 2024-12-18 um 11.29.33.jpg

Die Kombination von Discard, SSD Emulation, wie auch IO thread gibt bessere Auslastung und Entlastung von gelöschten Daten an den Host

Bildschirmfoto 2024-12-18 um 11.30.01.jpg

CPU Typ Host ist für identische Hardware in Clustern und Standalone zu bevorzugen, da hier alle Prozessorfunktionen genutzt werden

Bildschirmfoto 2024-12-18 um 11.30.41.jpg

Ballooning spart RAM beim einschalten und macht noch mehr. Treiber unter Windows sind notwendig

Bildschirmfoto 2024-12-18 um 11.31.00.jpg

Virtio Netzwerkkarten brauchen unter Windows eigene Treiber, performen aber bis 100Gbit

Bildschirmfoto 2024-12-18 um 11.31.21.jpg

Die eingebaute Replikation ist erst mal gut genug, auch wenn es mit Zsync besser geht. Dafür hat man, leider nur in der VM hier, Kontrolle über den Erfolg. Löscht man den Job, löscht sich das Replikat

Das Zeitfenster ist mit 15-60 Minuten optimal, mit einer Minute perfekt. Jedoch sollte man nicht jede VM auf eine Minute stellen. da hier das ZFS Auflisten zu Timeouts führt. 

Autosnapshotting ist nicht vorgesehen, leider!

Bildschirmfoto 2024-12-18 um 11.32.04.jpg

Bildschirmfoto 2024-12-18 um 11.32.23.jpg

Linux unterstützt alle Virtio Laufwerke und Netzwerkkarten nativ

Bildschirmfoto 2024-12-18 um 11.37.48.jpg

Installation Ceph

Der Assistent installiert die notwendigen Repositories. Wir empfehlen hier wenigstens die Community Subscription zu nehmen, da ein defekter Ceph-Cluster ein Single-Point-of-Failure ist

Bildschirmfoto 2024-12-18 um 11.44.26.jpg

Bildschirmfoto 2024-12-18 um 11.44.39.jpg

Bildschirmfoto 2024-12-18 um 11.46.22.jpg

Bildschirmfoto 2024-12-18 um 11.46.26.jpg

Die Auswahl der Netze für Cluster, Ceph, Rendundanz und weitere Segmentierungen sollten von einem Erfahrenen Fachmann vorgenommen werden. Wir empfehlen hier Inett aus Saarbrücken

Im aktuellen Setup können wir zum Testen nur das LAN nehmen, das wir ausdrücklich so nicht empfohlen!!!

Bildschirmfoto 2024-12-18 um 11.47.07.jpg

Bildschirmfoto 2024-12-18 um 11.47.37.jpg

Die Installation muss auf allen Clustermitgliedern wiederholt werden, wobei die Konfiguration via PVE Cluster übernommen wird

Jeder Host bekommt mindestens eine SSD als sog. OSD, ab drei Stück haben wir einen funktionierenden Ceph Cluster, ohne extra Sicherheit. Als Nettonutzplatz erhalten wir 1/3 der SSDs, in dem Fall knapp 1TB

Auf keinen Fall dafür in irgendeiner Weise Hardware Raid Controller nutzen!!!

Bildschirmfoto 2024-12-18 um 11.52.59.jpg

Ceph OSD Einrichtung

Bildschirmfoto 2024-12-18 um 11.53.32.jpg

Bildschirmfoto 2024-12-18 um 11.53.55.jpg

Ceph Pool anlegen

Der Pool verbindet die OSDs zum Verbund, die Rolle Monitor und Manager können auf mehrere Nodes verteilt werden, sonst wäre der Reboot des ersten Nodes nicht ohne Schaden möglich!

Bildschirmfoto 2024-12-18 um 11.54.36.jpg

VM Migration Node zu Node

Die Übertragung einer laufenden VM oder eines LXC mit Shutdown ist bei ZFS und Ceph möglich.

Wärend bei CEPH der Speicher verteilt ist, muss bei ZFS RAM und Disk nocheinmalübertragen werden.

Bei vorheriger ZFS Replikation ist das meiste der VM schon auf dem Ziel und kann inkrementell ergänzr werden.

Gab es vorher keine Replikation muss die komplette VM übertragen werden.

Das Mittel der Übertragung ist je nach Zustand der VM via KVM oder ZFS möglich.

Ersteres würde zum Verlust von Snapshots führen!

Bildschirmfoto 2024-12-18 um 11.56.37.jpg

Bildschirmfoto 2024-12-18 um 11.56.53.jpg

Klonen zwischen ZFS und Ceph

Bildschirmfoto 2024-12-18 um 11.58.23.jpg

Bildschirmfoto 2024-12-18 um 11.58.52.jpg

Bildschirmfoto 2024-12-18 um 12.00.54.jpg

Bildschirmfoto 2024-12-18 um 12.01.44.jpg

Qemu-Guest-Agent Installation

Bildschirmfoto 2024-12-18 um 12.02.01.jpg

Bildschirmfoto 2024-12-18 um 12.03.39.jpg

Bildschirmfoto 2024-12-18 um 12.04.08.jpg

Bildschirmfoto 2024-12-18 um 12.04.56.jpg

Bildschirmfoto 2024-12-18 um 12.08.44.jpg

Bildschirmfoto 2024-12-18 um 12.10.47.jpg

Bildschirmfoto 2024-12-18 um 12.11.17.jpg

Login für Root und PVE User mit zwei Faktor absichern!

Bildschirmfoto 2024-12-18 um 12.11.21.jpg

Bildschirmfoto 2024-12-18 um 12.11.35.jpg

Bildschirmfoto 2024-12-18 um 12.12.09.jpg

Bildschirmfoto 2024-12-18 um 12.12.28.jpg

Bildschirmfoto 2024-12-18 um 12.12.49.jpg

SSH Daemon gegen Passwort Login absichern

Bildschirmfoto 2024-12-18 um 12.13.29.jpg

Bildschirmfoto 2024-12-18 um 12.13.34.jpg

Bildschirmfoto 2024-12-18 um 12.13.39.jpg

Eigene virtuelle Switche für VMs trennen das Verwaltungsnetz ab

Bildschirmfoto 2024-12-18 um 12.14.22.jpg

Bildschirmfoto 2024-12-18 um 12.14.36.jpg

Bildschirmfoto 2024-12-18 um 12.14.57.jpg

Ein Blick auf ZFS klärt nicht welche VM auf welchem Host aktiv ist!

Bildschirmfoto 2024-12-18 um 12.20.07.jpg

Bildschirmfoto 2024-12-18 um 12.20.09.jpg

Bildschirmfoto 2024-12-18 um 12.20.10.jpg

Bildschirmfoto 2024-12-18 um 12.20.48.jpg

Bildschirmfoto 2024-12-18 um 12.20.50.jpg

Bildschirmfoto 2024-12-18 um 12.21.29.jpg

Bildschirmfoto 2024-12-18 um 12.25.09.jpg

Prüfung der Replikationen muss mühselig pro VM vorgenommen werden

Bildschirmfoto 2024-12-18 um 12.25.56.jpg

Bildschirmfoto 2024-12-18 um 12.26.11.jpg

Bildschirmfoto 2024-12-18 um 12.26.55.jpg

Postinstaller sichert komplette Konfiguration und dessen Historie mit Rsync und ZFS-Auto-Snapshot

Bildschirmfoto 2024-12-18 um 12.28.52.jpg

Hochverfügbarkeit einer VM / HA

Bildschirmfoto 2024-12-18 um 13.19.17.jpg

Bildschirmfoto 2024-12-18 um 13.19.28.jpg

Bildschirmfoto 2024-12-18 um 13.20.48.jpg

Bildschirmfoto 2024-12-18 um 13.21.03.jpg

Bildschirmfoto 2024-12-18 um 13.21.24.jpg

Bildschirmfoto 2024-12-18 um 13.21.43.jpg

Bildschirmfoto 2024-12-18 um 13.22.18.jpg

Bildschirmfoto 2024-12-18 um 13.22.36.jpg

Bildschirmfoto 2024-12-18 um 13.23.10.jpg

Bildschirmfoto 2024-12-18 um 13.24.15.jpg

Bildschirmfoto 2024-12-18 um 13.29.35.jpg

Bildschirmfoto 2024-12-18 um 13.29.38.jpg

Bildschirmfoto 2024-12-18 um 13.30.10.jpg

Bildschirmfoto 2024-12-18 um 13.30.54.jpg

Bildschirmfoto 2024-12-18 um 13.33.21.jpg

Manuelle und automatische Snapshots

Bildschirmfoto 2024-12-18 um 13.36.44.jpg

Bildschirmfoto 2024-12-18 um 13.37.17.jpg

Bildschirmfoto 2024-12-18 um 13.37.27.jpg

Bildschirmfoto 2024-12-18 um 13.37.32.jpg

Bildschirmfoto 2024-12-18 um 13.37.34.jpg

Bildschirmfoto 2024-12-18 um 13.38.01.jpg

Automatische Snapshots Monitoring und Management mit CV4PVE-Admin

Bildschirmfoto 2024-12-18 um 13.38.57.jpg

Bildschirmfoto 2024-12-18 um 13.39.11.jpg

Bildschirmfoto 2024-12-18 um 13.40.57.jpg

Bildschirmfoto 2024-12-18 um 13.41.53.jpg

Bildschirmfoto 2024-12-18 um 13.42.06.jpg

Bildschirmfoto 2024-12-18 um 13.42.45.jpg

Bildschirmfoto 2024-12-18 um 13.43.27.jpg

Bildschirmfoto 2024-12-18 um 13.45.00.jpg

Bildschirmfoto 2024-12-18 um 13.45.15.jpg

Bildschirmfoto 2024-12-18 um 13.45.28.jpg

Bildschirmfoto 2024-12-18 um 13.45.40.jpg

Bildschirmfoto 2024-12-18 um 13.45.52.jpg

Bildschirmfoto 2024-12-18 um 13.45.54.jpg

Bildschirmfoto 2024-12-18 um 13.46.13.jpg

Bildschirmfoto 2024-12-18 um 13.46.25.jpg

Bildschirmfoto 2024-12-18 um 13.47.36.jpg

Bildschirmfoto 2024-12-18 um 13.48.29.jpg

Bildschirmfoto 2024-12-18 um 13.48.50.jpg

Bildschirmfoto 2024-12-18 um 13.49.43.jpg

Bildschirmfoto 2024-12-18 um 13.51.09.jpg

Bildschirmfoto 2024-12-18 um 13.51.18.jpg

Bildschirmfoto 2024-12-18 um 13.52.50.jpg

Bildschirmfoto 2024-12-18 um 13.53.32.jpg

Bildschirmfoto 2024-12-18 um 13.53.32.png

Bildschirmfoto 2024-12-18 um 13.53.50.jpg

Bildschirmfoto 2024-12-18 um 13.53.50.png

Bildschirmfoto 2024-12-18 um 13.54.03.jpg

Bildschirmfoto 2024-12-18 um 13.54.03.png

Bildschirmfoto 2024-12-18 um 13.56.34.jpg

Bildschirmfoto 2024-12-18 um 13.56.34.png

Bildschirmfoto 2024-12-18 um 13.56.52.jpg

Bildschirmfoto 2024-12-18 um 13.56.52.png

Bildschirmfoto 2024-12-18 um 13.56.57.jpg

Bildschirmfoto 2024-12-18 um 13.56.57.png

Bildschirmfoto 2024-12-18 um 13.57.30.jpg

Bildschirmfoto 2024-12-18 um 13.57.30.png

Bildschirmfoto 2024-12-18 um 13.57.50.jpg

Bildschirmfoto 2024-12-18 um 13.57.50.png

Bildschirmfoto 2024-12-18 um 13.57.56.jpg

Bildschirmfoto 2024-12-18 um 13.57.56.png

Bildschirmfoto 2024-12-18 um 14.00.46.jpg

Bildschirmfoto 2024-12-18 um 14.00.46.png

Bildschirmfoto 2024-12-18 um 14.01.04.jpg

Bildschirmfoto 2024-12-18 um 14.01.04.png

Datensicherung mit Proxmox Backup Server

Bildschirmfoto 2024-12-18 um 14.02.33.jpg

Bildschirmfoto 2024-12-18 um 14.02.33.png

Bildschirmfoto 2024-12-18 um 14.02.48.jpg

Bildschirmfoto 2024-12-18 um 14.02.48.png

Bildschirmfoto 2024-12-18 um 14.03.19.jpg

Bildschirmfoto 2024-12-18 um 14.03.19.png

Bildschirmfoto 2024-12-18 um 14.05.51.jpg

Bildschirmfoto 2024-12-18 um 14.05.51.png

Bildschirmfoto 2024-12-18 um 14.06.08.jpg

Bildschirmfoto 2024-12-18 um 14.06.08.png

Bildschirmfoto 2024-12-18 um 14.06.19.jpg

Bildschirmfoto 2024-12-18 um 14.06.19.png

Bildschirmfoto 2024-12-18 um 14.06.23.jpg

Bildschirmfoto 2024-12-18 um 14.06.23.png

Bildschirmfoto 2024-12-18 um 14.06.32.jpg

Bildschirmfoto 2024-12-18 um 14.06.32.png

Bildschirmfoto 2024-12-18 um 14.06.39.jpg

Bildschirmfoto 2024-12-18 um 14.06.39.png

Bildschirmfoto 2024-12-18 um 14.06.42.jpg

Bildschirmfoto 2024-12-18 um 14.06.42.png

Bildschirmfoto 2024-12-18 um 14.08.51.jpg

Bildschirmfoto 2024-12-18 um 14.08.51.png

Bildschirmfoto 2024-12-18 um 14.09.02.jpg

Bildschirmfoto 2024-12-18 um 14.09.02.png

Bildschirmfoto 2024-12-18 um 14.09.20.jpg

Bildschirmfoto 2024-12-18 um 14.09.20.png

Bildschirmfoto 2024-12-18 um 14.09.29.jpg

Bildschirmfoto 2024-12-18 um 14.09.29.png

Bildschirmfoto 2024-12-18 um 14.09.39.jpg

Bildschirmfoto 2024-12-18 um 14.09.39.png

Bildschirmfoto 2024-12-18 um 14.09.48.jpg

Bildschirmfoto 2024-12-18 um 14.09.48.png

Bildschirmfoto 2024-12-18 um 14.10.22.jpg

Bildschirmfoto 2024-12-18 um 14.10.22.png

Bildschirmfoto 2024-12-18 um 14.12.10.jpg

Bildschirmfoto 2024-12-18 um 14.12.10.png

Bildschirmfoto 2024-12-18 um 14.12.21.jpg

Bildschirmfoto 2024-12-18 um 14.14.19.jpg

Bildschirmfoto 2024-12-18 um 14.14.19.png

Bildschirmfoto 2024-12-18 um 14.14.34.jpg

Bildschirmfoto 2024-12-18 um 14.14.34.png

Bildschirmfoto 2024-12-18 um 14.15.10.jpg

Bildschirmfoto 2024-12-18 um 14.15.10.png

Bildschirmfoto 2024-12-18 um 14.17.38.jpg

Bildschirmfoto 2024-12-18 um 14.17.38.png

Bildschirmfoto 2024-12-18 um 14.17.41.jpg

Bildschirmfoto 2024-12-18 um 14.18.07.jpg

Bildschirmfoto 2024-12-18 um 14.18.07.png

Bildschirmfoto 2024-12-18 um 14.18.43.jpg

Bildschirmfoto 2024-12-18 um 14.18.43.png

Bildschirmfoto 2024-12-18 um 14.19.30.jpg

Bildschirmfoto 2024-12-18 um 14.19.30.png

Bildschirmfoto 2024-12-18 um 14.19.59.jpg

Bildschirmfoto 2024-12-18 um 14.19.59.png

Bildschirmfoto 2024-12-18 um 14.20.36.jpg

Bildschirmfoto 2024-12-18 um 14.20.36.png

Bildschirmfoto 2024-12-18 um 14.20.40.jpg

Bildschirmfoto 2024-12-18 um 14.20.40.png

Bildschirmfoto 2024-12-18 um 14.20.46.jpg

Bildschirmfoto 2024-12-18 um 14.20.46.png

Bildschirmfoto 2024-12-18 um 14.20.58.jpg

Bildschirmfoto 2024-12-18 um 14.20.58.png

Bildschirmfoto 2024-12-18 um 14.21.26.jpg

Bildschirmfoto 2024-12-18 um 14.21.59.jpg

Bildschirmfoto 2024-12-18 um 14.22.17.jpg

Bildschirmfoto 2024-12-18 um 14.22.42.jpg

Bildschirmfoto 2024-12-18 um 14.22.47.jpg

Bildschirmfoto 2024-12-18 um 14.22.57.jpg

Bildschirmfoto 2024-12-18 um 14.23.14.jpg

Bildschirmfoto 2024-12-18 um 14.23.39.jpg

Bildschirmfoto 2024-12-18 um 14.23.44.jpg

Bildschirmfoto 2024-12-18 um 14.24.09.jpg

Bildschirmfoto 2024-12-18 um 14.24.13.jpg

Bildschirmfoto 2024-12-18 um 14.24.25.jpg

Bildschirmfoto 2024-12-18 um 14.24.32.jpg

Bildschirmfoto 2024-12-18 um 14.24.45.jpg

Bildschirmfoto 2024-12-18 um 14.25.16.jpg

Bildschirmfoto 2024-12-18 um 14.25.28.jpg

Bildschirmfoto 2024-12-18 um 14.25.34.jpg

Bildschirmfoto 2024-12-18 um 14.25.44.jpg

Bildschirmfoto 2024-12-18 um 14.25.54.jpg

Bildschirmfoto 2024-12-18 um 14.26.11.jpg

Bildschirmfoto 2024-12-18 um 14.26.24.jpg

Bildschirmfoto 2024-12-18 um 14.27.05.jpg

Bildschirmfoto 2024-12-18 um 14.27.11.jpg

Bildschirmfoto 2024-12-18 um 14.27.28.jpg

Bildschirmfoto 2024-12-18 um 14.27.33.jpg

Bildschirmfoto 2024-12-18 um 14.27.49.jpg

Bildschirmfoto 2024-12-18 um 14.28.00.jpg

Bildschirmfoto 2024-12-18 um 14.28.24.jpg

Bildschirmfoto 2024-12-18 um 14.28.30.jpg

Bildschirmfoto 2024-12-18 um 14.28.31.jpg

Bildschirmfoto 2024-12-18 um 14.28.54.jpg

Bildschirmfoto 2024-12-18 um 14.29.02.jpg

Bildschirmfoto 2024-12-18 um 14.29.16.jpg

Bildschirmfoto 2024-12-18 um 14.29.19.jpg

Bildschirmfoto 2024-12-18 um 14.30.15.jpg

Bildschirmfoto 2024-12-18 um 14.30.28.jpg

Bildschirmfoto 2024-12-18 um 14.30.40.jpg

Bildschirmfoto 2024-12-18 um 14.31.05.jpg

Bildschirmfoto 2024-12-18 um 14.31.11.jpg

Bildschirmfoto 2024-12-18 um 14.31.34.jpg

Bildschirmfoto 2024-12-18 um 14.32.29.jpg

Bildschirmfoto 2024-12-18 um 14.32.32.jpg

Bildschirmfoto 2024-12-18 um 14.32.40.jpg

Bildschirmfoto 2024-12-18 um 14.33.02.jpg

Bildschirmfoto 2024-12-18 um 14.35.48.jpg

Bildschirmfoto 2024-12-18 um 14.36.48.jpg

Bildschirmfoto 2024-12-18 um 14.37.16.jpg

Bildschirmfoto 2024-12-18 um 14.37.41.jpg

Bildschirmfoto 2024-12-18 um 14.38.41.jpg

Bildschirmfoto 2024-12-18 um 14.38.50.jpg

Bildschirmfoto 2024-12-18 um 14.39.20.jpg

Bildschirmfoto 2024-12-18 um 14.40.00.jpg

Bildschirmfoto 2024-12-18 um 14.40.54.jpg

Bildschirmfoto 2024-12-18 um 14.41.35.jpg

Bildschirmfoto 2024-12-18 um 14.41.55.jpg

Bildschirmfoto 2024-12-18 um 14.42.01.jpg

Bildschirmfoto 2024-12-18 um 14.49.23.jpg

Bildschirmfoto 2024-12-18 um 14.50.00.jpg

Bildschirmfoto 2024-12-18 um 14.50.55.jpg

Bildschirmfoto 2024-12-18 um 14.52.04.jpg

Bildschirmfoto 2024-12-18 um 14.52.34.jpg

Bildschirmfoto 2024-12-18 um 14.53.42.jpg

Bildschirmfoto 2024-12-18 um 14.54.03.jpg

Bildschirmfoto 2024-12-18 um 14.55.45.jpg

Bildschirmfoto 2024-12-18 um 14.58.44.jpg

Optional Replikationskontrolle mit checkzfs von #Bashclub

Bildschirmfoto 2024-12-18 um 14.59.16.jpg

Bildschirmfoto 2024-12-18 um 14.59.39.jpg

Bildschirmfoto 2024-12-18 um 15.00.00.jpg

Bildschirmfoto 2024-12-18 um 15.01.43 1.jpg

Bildschirmfoto 2024-12-18 um 15.01.43.jpg

Bildschirmfoto 2024-12-18 um 15.01.45.jpg

Bildschirmfoto 2024-12-18 um 15.01.47.jpg

Bildschirmfoto 2024-12-18 um 15.17.28.jpg