Archive

Posts Tagged ‘Storage’

ext3

October 23rd, 2010 Comments off

EXT3 fajl sistem po default-u uzima 5% rezervisanog prostora, što je za današnje sisteme malo mnogo, naročito kad su u pitanju Tb podataka. Ako ne želite da izgubite 33 Gb na recimo 500Gb sa default ex3 fajlsistemom, onda čitaj dalje:

# vgdisplay
 --- Volume group ---
 VG Name               test
 System ID             
 Format                lvm2
 Metadata Areas        1
 Metadata Sequence No  1
 VG Access             read/write
 VG Status             resizable
 MAX LV                0
 Cur LV                0
 Open LV               0
 Max PV                0
 Cur PV                1
 Act PV                1
 VG Size               500.00 GB
 PE Size               16.00 MB
 Total PE              32000
 Alloc PE / Size       0 / 0   
 Free  PE / Size       32000 / 500.00 GB
 VG UUID               4ZKCUa-yLd7-WMSn-OIzA-2XS1-RAvJ-ny1QS5

# lvcreate --size 500G --name test test
 Logical volume "test" created

# mkfs.ext3 /dev/mapper/test-test
mke2fs 1.41.9 (22-Aug-2009)
Filesystem label=
OS type: Linux
Block size=4096 (log=2)
Fragment size=4096 (log=2)
32768000 inodes, 131072000 blocks
6553600 blocks (5.00%) reserved for the super user
First data block=0
Maximum filesystem blocks=4294967296
4000 block groups
32768 blocks per group, 32768 fragments per group
8192 inodes per group
Superblock backups stored on blocks:
 32768, 98304, 163840, 229376, 294912, 819200, 884736, 1605632, 2654208,
 4096000, 7962624, 11239424, 20480000, 23887872, 71663616, 78675968,
 102400000

Writing inode tables: done                            
Creating journal (32768 blocks): done
Writing superblocks and filesystem accounting information: done

This filesystem will be automatically checked every 21 mounts or
180 days, whichever comes first.  Use tune2fs -c or -i to override.

# mount /dev/mapper/test-test /test

# df -h
Filesystem            Size  Used Avail Use% Mounted on
/dev/mapper/test-test 493G  198M  467G   1% /test                <<<< WTF?!

# umount /test

# tune2fs -m 0.2 /dev/mapper/test-test
tune2fs 1.41.9 (22-Aug-2009)
Setting reserved blocks percentage to 0.2% (262144 blocks)

# mount /dev/mapper/test-test /test
# df -h
Filesystem            Size  Used Avail Use% Mounted on
/dev/mapper/test-test 493G  198M  491G 1% /test

Naravno, pre bilo kakve akcije, RTFM tune2fs. Lično ne koristim ex3 fs nigde, ali me je tweet o ovoj temi kao i razgovor sa momsab-om kopkao da vidim koliko on zaista jede prostora.

Categories: Linux/BSD, Storage Tags: , ,

IBM XIV storage

July 5th, 2009 No comments

Od kako je IBM kupio XIV početkom prošle 2008-me godine, šuškalo se na sve strane o misterioznom XIV (iks-aj-vi) storage sistemu na koga je IBM bacio oko. Čini mi se da su od jun/jul/avgusta 2008-me počeli da se pojavljuju tekstovi po net-u o IBM-u i XIV-u. To verovatno ne bih ni zapazio da EMC u  isto vreme nije digao priličnu prašinu na tu temu, uglavnom po blogovima svojih razvojnih inžinjera, što i ne čudi kad je jedan od ključnih ljudi za razvoj XIV-a bio upravo čovek koji je otišao iz EMC-a. A zna se kako naš narod kaže, “za dobrim konjem se prašina diže”. U međuvremenu izašli su i IBM najave njihovih novih proizvoda (XIV hardware i XIV SSS v10 software). I onda je sve krenulo već svojim uobičajnim tokom. Od tada stigla je i prva izmena u konfiguraciji već početkom februara 2009-te.

IBM je XIV stavio u svoju tier 1 grupu, što znači da on spada u grupu High-end and Enterprise Disk systems kod IBM-a. Poređenja radi DS8000 serija je u istoj grupi sa ovim storage sistemom. Onda je odmah jasno koliko je ozbiljan uređaj u pitanju. Zbog čega je ovaj storage digao toliku prašinu? Zbog svog koncepta tj interne logike i arhitekture. XIV donosi potpuno novi koncept grid arhitekture standardnih (čitaj jefitnih) komponenti čije performanse, dostupnost i lakoća korišćenja nadmašuju sve dosadašnje storage sisteme. Sve to naravno ide uz cenu (ne samo cenu samog “gvožđa”) već gubitka prostora kojim raspolažete u odnosu na RAW prostor koji dolazi uz sam XIV, kao primer navešću osnovnu konfiguraciju koja stiže sa 72TB raw prostora. Od tih 72TB vi možete da iskoristite za svoje potrebe 27TB (ne nije šala). Za one koji ne veruju IBM XIV fact sheet (pdf). Pored gubitka prostrora postoje još neke mane ovog storage-a kao što je malo jača potrošnja struje (9kW po full reku), enormna količina toplote (26K BTU/satu) koju ovaj uređaj disipira (neki su imali problema da isti rashlade dovoljno) kao i fixne konfiguracije samog uređaja. Ovu poslednju “manu” su vrlo brzo shvatili pa su  u Avgustu 2008-e izbacili nove moguće konfiguracije ovog storage-a. Evo tabele koja ilustruje trenutne moguće kombinacije (sortirano po raspoloživom prostoru):

Broj modula 6 9 10 11 12 13 14 15
Prostor za korišćenje (TB) 27 43 50 54 61 66 73 79
Interfejs moduli 3 6 6 6 6 6 6 6
Data moduli 3 3 4 5 6 7 8 9
Diskovi 72 108 120 132 144 156 168 180
Fibre Channel portovi 8 16 16 20 20 24 24 24
iSCSI Portovi 0 4 4 6 6 6 6 6
Keš memorija (GB) 48 72 80 88 96 104 112 120

Neki će primetiti da nisam naveo u gornjoj tabeli raw prostor koji, kako bi se video gubitak u prostoru. S obzirom da su u pitanju jeftini SATA diskovi i da cena ovog storage sistema nije straobalno velika kao kod recimo DS8000 serije, ovaj gubitak u prostoru ne bi trebao da vas mnogo brine (čitaj boli).

Ok na stranu sve te negativne strane ovog uređaja. IBM ne bi ovoliko reklamirao ovakav storage, i ne bi ga prihvatile mnogobrojne firme tako brzo da on nema neku realnu težinu. Skoro sam prisustvovao IBM Forumu dinamične infrastrukture, koji se održao u Holiday Inn hotelu, u Beogradu  7.Maja ove godine. Na tom forumu između ostalog prezentovan je i XIV storage po prvi put u Beogradu. Još tada sam hteo da napišem par reči na temu XIV-a, ali mi moje obaveze to nisu dopustile, pa se evo 2 meseca kasnije ispravljam. Da krenemo odmah od arhitekture samog storage-a. S obzirom da slika govori 1000 reči, evo interne arhitekture (klik na slidžu za veću rezolociju):

Iz same arhitekture se odmah vidi drugačiji tkz. grid pristup arhitekturi ovog sistema. Za razliku od “starih” (?) sistema, XIV dolazi kao prazan rek sa backbone-om, 3 APC UPS sistema, i brojem modula koje ste izabrali prema kapacitetu storage-a. Svaki modul sadrži svoju sopstvenu disk grupu, memoriju, procesore i interfejs portove. Upravo tu leži glavna prednost ovog storage-a u odnosu na sve ostale storage sisteme i njihove performanse. 12 SATA diskova (1TB veličine), 8GB obične ram memorije, 1 quad core intel procesor i u zavisnosti od tipa modula ethernet, fibre channel ili iscsi moduli. Sama interna logika je bazirana na FC (do 4 Gbps) i TCP/IP protokolima pa je i zbog toga cena ovog uređaja drastično manja u odnosu na konkurenciju. Koristeći (jefitnu) tehnologiju i veoma kvalitetan software XIV donosi i novosti na polju kontrole podataka time što ravnomerno distribuira vaše podatke po celom storage-u i time potpuno eliminiše tkz. hot spots. Odličan pregled XIV mogućnosti daje i IBM product overview (pdf). O redudansi samog sistema nema potrebe trošiti previše reči, sve je redudantno (po N+1 sistemu) a tkz. fensi naziv “self healing” je marketinški naziv za segment software-a koji brine da se rebuild prilikom otkaza diska vrši najbrže moguće brzom preraspodelom podataka unutar storage-a (Između ostalog ovo je jedan od glavnih uzroka što sam storage “pojede” onoliki prostor za sebe) što u proseku traje oko 30 min. za 1 disk od 1 TB. Kako izgleda sam storage (uz direktno poređenje sa DS8000 serijom) možete videti na sledećem video snimku:

Sam storage raspolaže veoma intuitivnim i izuzetno jednostavnim GUI-em (što i ne čudi, jer ga nije pravio IBM već Izraelci) tako da praktično neko ko veoma malo poznaje ovakve sisteme, i bez nekog velikog iskustva, može da radi na istom. Naravno dozvolili su i klasičan CLI za nas koji volimo da prčkamo po internim stvarima ili ukoliko želimo da neke stvari automatizujemo. Na ovom linku je XIV prezentacija GUI software-a pa možete i sami videti o čemu pričam. Predstavljanje XIV-a na IBM Pulse 2009 konferenciji možete pogledati na ovom kraćem video snimku:

Categories: Storage Tags: , , , ,

Logical drive 2Tb limit

March 18th, 2009 No comments

Ako nikad ranije niste radili sa storage sistemima većih kapaciteta (što je malo verovatno s obzirom da je sada prostor (po GB) nikad jeftiniji, može vam se desiti da se iznenadite kao i ja pre 2-3 godine kada sam saznao da većina IBM storage sistema (DS4700, DS4800 a i DS8300) imaju limit od 2 Tb na veličini logičkog prostora. Šta to praktično znači? Recimo da imate brdo jeftinih 500GB SATA diskova u jeftinom DS4700 storage-u i da želite da kreirate, recimo polje od 5TB za potrebe bekapa. Neprijatno ćete se iznenaditi da vam administrativni panel (IBM Storage Manager ver. 09.60) neće dozvoliti da kreirate logički disk veći od: 2,03 TB (2,186,134,159,360 Bytes). Što znači da morate kreirati 3 disk polja 2x 2TB i 1x 1TB i kao takve ih eksportovati (mapirati) hostu koji će ih koristiti (što generalno nije problem ako koristite AIX jer onda verovatno imate volume grupe,  ili neki linux/bsd sa njihovim lvm alatima koji rade perfektno dok za neke winbl0ws-e …), a zatim da ih putem nekog alata na samom hostu spajati u jedan veliki logički drajv ili ih mount-ovati ponaosob. Pitanje je kada će se proizvođači poput IBM-a setiti da treba da pređu sa 32-bitnog okruženja na 64-bitno i na storage-ima. Zar još uvek živimo u 90-tim? Kakav će uticaj na performanse i gubitak prostora imati ovakav setup, ostavljam vama na razmišljanje. Lično, nisam bio nimalo oduševljen.