Lustre

A Unix/Linux szerverek üzemeltetése wikiből
(Változatok közti eltérés)
(Új oldal, tartalma: „=== Lustre === A Lustre Linux alapú fájlrendszert nagyméretű számítógép-hálózatokban használják. Előnye a jól skálázhatóság, és a gyors I/O műveletek.…”)
 
(Összegzés)
 
(egy szerkesztő 6 közbeeső változata nincs mutatva)
1. sor: 1. sor:
=== Lustre ===
 
 
 
A Lustre Linux alapú fájlrendszert nagyméretű számítógép-hálózatokban használják. Előnye a jól skálázhatóság, és a gyors I/O műveletek.
 
A Lustre Linux alapú fájlrendszert nagyméretű számítógép-hálózatokban használják. Előnye a jól skálázhatóság, és a gyors I/O műveletek.
   
8. sor: 6. sor:
 
Az adatok az Object Storage Serveren (OSS), a metaadatok pedig a MetaData Serveren(MDS) találhatóak.
 
Az adatok az Object Storage Serveren (OSS), a metaadatok pedig a MetaData Serveren(MDS) találhatóak.
   
== MDS ==
+
=== MDS ===
   
 
Egy fájlrendszerben jelenleg egyszerre egy aktív MDS lehet (2.0-ás verzióra ígérik a fejlesztők több MDS használatát), azonban ajánlott egy másik passzív MDS használata is tartaléknak ha az első meghibásodna. Az MDS felelős hogy a felhasználók elérjék a szerverhez tartozó, MetaData Targeten (MDT) levő inodeokat. A Lustre-ben bővitett attribútumok vannak (extended attributes), melyekben megtalálható a hagyományos inode-okban tárolt információn kívül, az objektumok helyei az OSS-eken. Az MDS kapacitása a fájlrendszer 1-2%-át teszi ki, és kb 2 milliárd inode tárolására képes egy 8 TB-os rendszer.
 
Egy fájlrendszerben jelenleg egyszerre egy aktív MDS lehet (2.0-ás verzióra ígérik a fejlesztők több MDS használatát), azonban ajánlott egy másik passzív MDS használata is tartaléknak ha az első meghibásodna. Az MDS felelős hogy a felhasználók elérjék a szerverhez tartozó, MetaData Targeten (MDT) levő inodeokat. A Lustre-ben bővitett attribútumok vannak (extended attributes), melyekben megtalálható a hagyományos inode-okban tárolt információn kívül, az objektumok helyei az OSS-eken. Az MDS kapacitása a fájlrendszer 1-2%-át teszi ki, és kb 2 milliárd inode tárolására képes egy 8 TB-os rendszer.
   
== OSS ==
+
=== OSS ===
   
 
Egy OSS-hez 2-8 OST tartozik 8TB maximum tárhellyel, ezek tárolják a fájlok egy-egy szeletét (object), egy fájlt maximálisan 160 részre bonthatunk részenként 8 TB mérettel azaz a rendszerben a maximális fájlméret 1,43 PB. A rendszer támogatja a bővítést, azonban zsugorítani nem lehet.
 
Egy OSS-hez 2-8 OST tartozik 8TB maximum tárhellyel, ezek tárolják a fájlok egy-egy szeletét (object), egy fájlt maximálisan 160 részre bonthatunk részenként 8 TB mérettel azaz a rendszerben a maximális fájlméret 1,43 PB. A rendszer támogatja a bővítést, azonban zsugorítani nem lehet.
   
== Kliens ==
+
=== Kliens ===
   
 
A linux 2.6.16-os kerneltől a Lustre Patch nélkül is működik. Lehetséges userspace libraryt használni (liblustre), vagy NFS, CIFS-en keresztül is elérhetjük a rendszert. A Lustre a POSIX szabvánnyal kompatibilis.
 
A linux 2.6.16-os kerneltől a Lustre Patch nélkül is működik. Lehetséges userspace libraryt használni (liblustre), vagy NFS, CIFS-en keresztül is elérhetjük a rendszert. A Lustre a POSIX szabvánnyal kompatibilis.
 
A kliens egy Logical Object Volume-ot (LOV) lát a fájlrendszerről.
 
A kliens egy Logical Object Volume-ot (LOV) lát a fájlrendszerről.
   
  +
[[Fájl:Lustre_halozat.jpg]] [[Fájl:Lustre_file.jpg]]
   
 
== Lock manager ==
 
== Lock manager ==
38. sor: 37. sor:
   
 
Lustre-t akkor érdemes használni, ha a gyors I/O műveleteken van a hangsúly. Bonyolultsága miatt nehézkes karbantartása, ezért kisebb rendszereknél jobban megéri más rendszert használni.
 
Lustre-t akkor érdemes használni, ha a gyors I/O műveleteken van a hangsúly. Bonyolultsága miatt nehézkes karbantartása, ezért kisebb rendszereknél jobban megéri más rendszert használni.
  +
  +
== Hasznos linkek ==
  +
  +
[http://en.wikipedia.org/wiki/Lustre_%28file_system%29 Lustre wikipedia szócikk angolul]
  +
  +
[http://wiki.lustre.org/index.php?title=Lustre_FAQ Lustre wiki]
  +
  +
[http://www.sun.com/software/products/lustre/get.jsp Lustre Operations Manuals]

A lap jelenlegi, 2009. december 19., 01:24-kori változata

A Lustre Linux alapú fájlrendszert nagyméretű számítógép-hálózatokban használják. Előnye a jól skálázhatóság, és a gyors I/O műveletek.

Tartalomjegyzék

[szerkesztés] 1 Felépítése

Működésének lényege hogy a tényleges fájl és a hozzá tartozó metaadatok más más helyen találhatóak. Az adatok az Object Storage Serveren (OSS), a metaadatok pedig a MetaData Serveren(MDS) találhatóak.

[szerkesztés] 1.1 MDS

Egy fájlrendszerben jelenleg egyszerre egy aktív MDS lehet (2.0-ás verzióra ígérik a fejlesztők több MDS használatát), azonban ajánlott egy másik passzív MDS használata is tartaléknak ha az első meghibásodna. Az MDS felelős hogy a felhasználók elérjék a szerverhez tartozó, MetaData Targeten (MDT) levő inodeokat. A Lustre-ben bővitett attribútumok vannak (extended attributes), melyekben megtalálható a hagyományos inode-okban tárolt információn kívül, az objektumok helyei az OSS-eken. Az MDS kapacitása a fájlrendszer 1-2%-át teszi ki, és kb 2 milliárd inode tárolására képes egy 8 TB-os rendszer.

[szerkesztés] 1.2 OSS

Egy OSS-hez 2-8 OST tartozik 8TB maximum tárhellyel, ezek tárolják a fájlok egy-egy szeletét (object), egy fájlt maximálisan 160 részre bonthatunk részenként 8 TB mérettel azaz a rendszerben a maximális fájlméret 1,43 PB. A rendszer támogatja a bővítést, azonban zsugorítani nem lehet.

[szerkesztés] 1.3 Kliens

A linux 2.6.16-os kerneltől a Lustre Patch nélkül is működik. Lehetséges userspace libraryt használni (liblustre), vagy NFS, CIFS-en keresztül is elérhetjük a rendszert. A Lustre a POSIX szabvánnyal kompatibilis. A kliens egy Logical Object Volume-ot (LOV) lát a fájlrendszerről.

Lustre halozat.jpg Lustre file.jpg

[szerkesztés] 2 Lock manager

A Lustreban elosztott lock menedzser működik azaz az egyes műveletek előtt a részekre lock-ot kell kérnünk, azonban mivel minden OST és az MDS is külön rendelkezik ezzel a rendszerrel, így egy fájlon akár több felhasználó is végezhet műveletet, ha nem ugyanazt a szeletet akarják használni. Ütközés esetén az OST, felszólítja a lockot használó felhasználót hogy fejezze be a szelet használatát, és engedje el a lockot, amennyiben nem teszi meg ezt egy adott beállított időn belül, akkor a lockot a rendszer elveszi a felhasználó adatai pedig elvesznek. MDS-eken a lockolni kétféleképpen lehet, a felhasználó elküldi a kérését egy lockra, amiben benne van az elvégzendő művelet minden információja, majd a szerver eldönti hogy rögtön lock nélkül megcsinálja a kért műveletet vagy ad egy lockot a felhasználónak. Lehetőség van továbbá az inode-ok különböző részeinek külön lockolására is (Lustre 1.4-től).

[szerkesztés] 3 Fájlrendszer

Adatvesztés elkerülése miatt, ajánlott a merevlemezeket RAIDdel létrehozni. Az MDS-nél ajánlott a RAID0+1, a OSS-nél RAID5 vagy RAID6. Az OST-ket LVM logikai kötetbe szervezzük. Lehetséges az egész rendszerről snapshotot készíteni, amit külön fájlrendszerként mountolhatunk. A rendszer kétféle Backup-ot támaogat az egyik a gtar módosított verziója (a bővített attribútumok miatt), a másik az rsync ami csak egy meghatározott időintervallum óta eszközölt módosításokat menti. A Lustre jelenleg ext3 módosított változatát használja, a jövőben várható az ext4 illetve a SUN ZFS fájlrendszere.

[szerkesztés] 4 Hálózat

Támogatja a InfiniBand, TCP/IP Quadrics Elan, Myrinet, Cray hálózatokat. A hálózati hibákból adódó csomagvesztést 32 bites ellenőrzőösszeg (checksum) segítségével detektálhatjuk a kliens és szerver oldalon egyaránt. Ha nem egyezik a generált és kapott kód, akkor még 5 ször küldhetjük újra az adatot, majd I/O hibaüzenetet kapunk.

[szerkesztés] 5 Összegzés

Lustre-t akkor érdemes használni, ha a gyors I/O műveleteken van a hangsúly. Bonyolultsága miatt nehézkes karbantartása, ezért kisebb rendszereknél jobban megéri más rendszert használni.

[szerkesztés] 6 Hasznos linkek

Lustre wikipedia szócikk angolul

Lustre wiki

Lustre Operations Manuals

Személyes eszközök