Zugriff auf Ceph Cluster

[Daniel Baumann]

Hallo zusammen,

wie angekuendigt[0] haben wir gestern Abend den temporaeren Zugriff
abgeschaltet, den Ceph Cluster neu gebootstrapped und begonnnen, die
Daten wieder zurueck auf den Cluster zu kopieren.

Hier nochmal, ganz stark vereinfacht und (management-kompatibel :)
das Problem erklaert (siehe auch meine bescheidene Zeichnung im
Anhang):

  * vorher: Zugriffe auf CephFS zur Datenablage auf dem Ceph Cluster
    konnten unter gewissen Umstaenden zu Inkonsistenzen (siehe "Kreuz")
    fuehren, wenn die *gleichen* Dateien auf unterschiedlichen Wegen
    *gleichzeitig* von z.B. den Linux Number Crunchern und einem Windows
    Client via SMB (Samba) *geschrieben* wurden.

    Vorteil: Nutzer mussten keine zusaetzlichen Tools installieren
    um z.B. die Daten auf den Linux Number Crunchern von Windows/macOS
    aus zu bearbeiten.

  * neu: Zugriffe von Linux gehen weiterhin direkt auf CephFS,
    Zugriffe ueber SMB (Samba) gehen in ein separates CephFS. Damit
    werden auch die Instabilitaetsprobleme[1] mit CephFS entgueltig
    behoben.

    Nachteil: die Daten liegen entweder im einen oder anderen CephFS,
    Windows/macOS koennen auf das "Linux CephFS" via SMB nur lesend
    zugreifen und muessen WinSCP oder aehnliches benutzen fuer
    Schreibzugriffe.

Dank der permanenten Konsistenzpruefung aller Objekte innerhalb von Ceph
und unserer aktiven Ueberwachung haben wir das Problem schnell erkannt
und entsprechend reagiert[2]: Es gab aus knapp 3 Milliarden Dateien
insgesamt 13 inkonsistente Dateien welche ohne Verlust (dank replica=3)
manuell aufgeloest werden konnten.

Alle Daten und Systeme werden ab Montag, 30.10. gegen Mittag wieder zur
Verfuegung stehen, ausgenommen 3 speziell grosse User-Homes
mit jeweils mehreren Millionen kleinen Dateien werden erst am
Dienstag/Mittwoch abgeschlossen sein (die betreffenden User sind
informiert).

Gruesse,
Daniel

[0]
https://lists.bfh.ch/pipermail/bfh-linux-announce/2017-October/000067.html
[1]
https://lists.bfh.ch/pipermail/bfh-linux-announce/2017-October/000063.html
[2]
https://lists.bfh.ch/pipermail/bfh-linux-announce/2017-October/000064.html

-- 
Berner Fachhochschule / Bern University of Applied Sciences
IT-Services / Team Infrastructure Services
Daniel Baumann
IT System Engineer Linux
___________________________________________________________
Dammweg 3, CH-3013 Bern
Phone direct +41 31 848 48 22
Phone Servicedesk +41 31 848 48 48
daniel.baumann at bfh.ch
https://servicedesk.bfh.ch
https://www.bfh.ch
https://linux.bfh.ch
-------------- next part --------------
A non-text attachment was scrubbed...
Name: ceph-zugriff.png
Type: image/png
Size: 83872 bytes
Desc: not available
URL: <http://lists.bfh.ch/pipermail/bfh-linux-announce/attachments/20171028/cabb9ae3/attachment.png>