Proxmox Node aus Cluster entfernen und erneut hinzufügen

Dieser Artikel zeigt wie Sie eine Node aus einem Proxmox Ceph Cluster entfernen und gegebenenfalls wieder hinzufügen können.

Voraussetzungen

Es dürfen sich keine VMs und Container auf der zu entfernenden Node befinden, daher empfiehlt es sich, diese vorher auf einen anderen Node zu migrieren (mehr dazu in der Vorbereitung)
Beachten Sie, ob Ihr Cluster genügend freien Speicherplatz hat um die Daten auf die übrigen Nodes zu verteilen

Vorbereitung

Migration der VMs & Container

Migrieren Sie alle Virtual Machines und Container auf einen beliebigen anderen Server.

Klicken Sie mit der rechten Maustaste auf die VM/ den Container, anschließend klicken Sie auf [Migrate].
Alternativ dazu können Sie auch den [Bulk Migrate] mit Rechtsklick auf die Node nutzen, um mehrere gleichzeitig zu migrieren.
Wählen Sie in diesem Fenster den Node aus, auf welchen die VM/ der CT migriert werden sollte.
Folgend klicken Sie auf [Migrate].
Die VM wird auf den ausgewählten Node migriert.
Die VM/CT ist nun in der Übersicht einem anderen Node zugeordnet. Wiederholen Sie dieses Vorgehen bis alle VMs und Container migriert sind.

Löschen der OSDs

Wählen Sie [Ceph] --> [OSD] aus.
Wählen Sie eine OSD des Nodes aus und klicken Sie anschließend oben rechts auf [Out].
Folgend wählen Sie die gleiche OSD erneut aus, dieses Mal klicken Sie auf [Stop].
Die OSD sollte als down/out angezeigt werden.
Nun wählen Sie die OSD erneut aus und wählen Sie [More] --> [Destroy] --> [Remove] aus. Somit wird die OSD komplett gelöscht. Wiederholen Sie diesen Vorgang mit den übrigen OSDs.
Nach dem Löschen der OSDs sollte der gewünschte Node folgendermaßen aussehen.

Monitor, Manager, MetaDataServer Daemons löschen

Um spätere Komplikationen beim Erstellen der verschiedenen Deamons zu vermeiden, empfiehlt es sich bevor die Node entfernt wird, diese zu löschen. Gehen Sie dabei wie folgt vor:

Klicken Sie in der Übersicht auf [Ceph] --> [Monitor] und wählen Sie den Monitor aus, den Sie löschen wollen. Anschließend klicken Sie auf [Destroy].
Befolgen Sie die vorherige Reihenfolge auch bei den Manager.
Klicken Sie in der Oberfläche auf [Ceph] --> [CephFS] und wählen Sie den MetaDataServer aus. Anschließend klicken Sie auch hier auf [Destroy].

Auslesen des Namens

Lesen Sie den Namen Ihres Nodes entweder in der GUI unter der "Server View" aus oder nutzen Sie in der CLI diesen Befehl: "pvecm nodes". Der Name des Servers wird in den darauffolgenden Schritt benötigt.

root@PMX1:~# pvecm nodes

Membership information
----------------------
    Nodeid      Votes Name
         1          1 PMX1 (local)
         2          1 PMX2
         3          1 PMX3

Clusternode entfernen

Verbinden Sie sich zunächst über die IP-Adresse eines anderen Nodes ein, um einen Verbindungsabbruch während des Entfernens zu vermeiden. Anschließend müssen Sie den zu entfernenden Node herunterfahren, stellen Sie dabei sicher, dass sich der Node nicht wieder einschaltet (z.B. durch Wake-On-LAN).

Nachfolgend können Sie den folgenden Befehl absetzen um den Node aus dem Cluster zu entfernen, nutzen Sie dafür die CLI eines beliebigen anderen Nodes.

root@PMX2:~# pvecm delnode PMX1
Killing node 1
root@PMX2:~#

Neuinstallation & Konfiguration der Node

Nun ist es essenziell zu wissen, dass Sie den Node nicht einfach wieder zu dem Cluster hinzufügen können, denn Sie müssen eine komplette Neuinstallation durchführen. Dabei können Sie jedoch auch die ursprüngliche Konfiguration nutzen. Beachten Sie aber, dass Sie die gleiche PVE Version wie auf dem Cluster verwenden. Falls Sie eine andere Hardware benutzen wollen, achten Sie darauf, dass diese identisch mit der Hardware von den übrigen Clusternodes ist.

Nun können Sie die Konfiguration Ihres neuen Systems starten. Dabei ist eine Neuinstallation, die Konfiguration des Netzwerks und das Editieren der Hosteinträge notwendig. Hilfreiche Tipps für die Konfiguration können Sie aus der Proxmox Dokumentation entnehmen.

Cluster Join

Im Anschluss können Sie den Node erneut zu dem Cluster hinzufügen.

Verbinden Sie sich mit dem Cluster, welches der Node joinen sollte und gehen Sie unter [Datacenter] --> [Cluster] auf [Join Information].
Hier können Sie mit einen Klick auf [Copy Information] die Join Informationen kopieren. Danach wechseln Sie auf den Node, welcher hinzuzufügen ist.
Gehen Sie hier unter [Datacenter] --> [Cluster] auf [Join Cluster].
Unter [Information] fügen Sie die zuvor kopierte Join Informationen ein. Zusätzlich ist auch das Passwort und ein Link0 sowie Link1 erforderlich. Diese sollten Sie identisch zum Cluster konfigurieren.
Nun wird der Node dem Cluster hinzugefügt.

Ceph Installation und Konfiguration

Der letzte Schritt für das Einbinden einer Node in das Cluster ist die Installation und Konfiguration von Ceph auf dem neu hinzugefügten Server.

Wählen Sie den neuen Node aus, klicken Sie auf [Ceph] und führen Sie die Installation aus.
Die Konfiguration sollte automatisch von den anderen Nodes übernommen werden.
Folgend können Sie unter [Ceph] --> [Monitor] auf [Create] klicken und den Monitor wieder erstellen.
Auch für den Managerdienst klicken Sie auf [Create].
Um den MDS erneut zu erstellen wählen Sie [Ceph] --> [CephFS] aus und klicken Sie auf [Create].
Zuletzt müssen Sie die OSDs unter [Ceph] --> [OSD] erstellen. Hierbei müssen Sie die gleiche Device Class verwendet wie auch bei den anderen Nodes.
Die OSDs nach dem Erstellen.
Ceph braucht noch etwas Zeit um die ganzen Daten erneut zu verteilen. Dies kann etwas dauern.
Nach einer Wartezeit sollte alles wieder in Ordnung sein.

Autor: Niklas Pauli

Niklas Pauli arbeitet im Product Management Team von Thomas-Krenn. Er absolvierte am Gymnasium Freyung seine Allgemeine Hochschulreife und ist seit 2021 als Azubi zum Fachinformatiker für Systemintegration bei Thomas-Krenn beschäftigt. Dabei beschäftigt sich Herr Pauli unter anderem mit Proxmox Virtualisierung oder dem Thomas-Krenn-Wiki.