Archive for the 'Storage' Category

ZFS pool with SSD ZIL (log) device shared with NFS – Performance problems!

Some times ago I bought a STEC ZeusIOPS SSD with 18GB capacity. This disks comes out from a Sun ZFS Storage 7420 system. But it’s 3.5″ large and without a server which supports 3.5″ large SAS disk drives I couldn’t test the SSD. Today I was able to test the drive on a Fujitsu Primergy RX300 S5 server. I installed five 500 GB large SATA drives and my STEC ZeusIOPS SSD. The first disk contains an OpenIndiana installation, the rpool. The remaing four SATA drives are grouped as a ZFS RAIDZ2 pool. I exported a ZFS dataset over NFS and 1 GbE to a VMware ESX system. With a Ubuntu linux virtual machine I run several benchmarks.

The results without the SSD are 75-80 MBytes/s write (850ms latency),  between 40 and 65 MBytes/s rewrite and 120 MBytes/s read performance. I did different runs with bonnie++ and iozone and achieved always similar values. During the tools did their benchmarks I watched the IO with “zfs iostat”. The write and rewrite results matched the numbers above. Reading lot’s of data from disk was not necessarry due a large enough ARC mem cache. That’s why the iostat output values was lower than 10 Mybtes/s.

Then I added the STEC SSD as log device to the ZFS pool and rerun all the tests. But I couldn’t believe the values!!! My benchmarks finished with only 45-50 MBytes/s write and 35-45 MBytes/s rewrite. Read performance didn’t changed, of course. The write latency exceeded 10000ms!!! Something went wrong but I don’t know what. I did the runs again and I watched the zfs iostat output parallel. But the output of zfs iostat throwed values always above 100 Mbytes/s. Sometimes I reached even values above 170 MBytes/s, but always more than 100 Mbytes/s. This is the maximum rate for a single 1 GbE connection! But the benchmark output was very different. They didn’t reached the results of the benchmark without the SSD. I was confused. I disabled the log device with the logbias option and set it to throughput. The benchmark result and the iostat results went back to 75-80 Mbytes/s write. I reenabled the log device with logbias=latency and I had again the benchmark result of max. 50 Mybtes/s write and big latency values but with an iostat ouput always over 100 Mbytes/s!

Something is wrong, but I don’t know what. :( Do you have an idea?

One step towards Converged Infrastructure

I know my blog is very silent since several weeks. But I have lot’s of work and of course a daughter.;)

As you can imagine I have some new ideas for my home lab. ;) And one is very exciting ! I started to rethink and rebuild my HP blade environment. Yesterday a new toy arrived. Have a look at the backside of my HP c-Class BladeSystem. You can see a very important interconnect module for a Converged Infrastructure. ;)

hpbs_interconnects

As posted below I planned to build a network upon HP ProCurve. But I noticed that I need a premium license for features like VRRP and OSPF. But these two features are neccessary for my new Home-Lab network infrastructure. I like to create a enterprise network for my systems and not a simple 192.168.x.x home network. That’s why I switched to big Cisco 6506 modular switches. Cisco isn’t cheap, but it offers all features I need. Buying 3 HP ProCurve licenses is impossible, I don’t earn so much money. Let’s say hello to my first Cisco 6506 switch. The second 6506 is below and I will receive a Sup2 engine with MSFC2 the next weeks. ;)

cisco6506

I hope you followers haven’t forget my blog. Please stay tuned! The next months will be very exciting. I’m saving money for a HP MDS 600. ;)

Kind regards
Tschokko

EVA 5000 replacement

Time to say good bye… My HP StorageWorks EVA 5000 was a big challenge. A few years ago I started this project with one HSV110 controller. Step by step I created my own EVA 5000 with parts that I bought everywhere in the world. ;) Since two years this system is running in my home lab, but it’s old and slow. I upgraded the system to 56 disks but the performance increase was not as mentioned. I decided to sell the entire system, but there was no buyer. But thank god I had the chance to get a pair of EVA 4000 (HSV200-A) controllers. ;) Today a big package arrived at home! Lot’s of parts for a big upgrade to an EVA 4000. ;)

Say hello to my new storage system: The HP StorageWorks EVA 4000

hsv200

eva4000-1

eva4000-2

The performance raise is phenomenal. The EVA 4000 is 2-3x faster than the old EVA 5000. I didn’t expect this performance increase. :) That’s absolutely great! I love that new toy… ;)

Hot-swap trays for my HP DL185 storage server

Today my hard disk hot-swap trays arrived. :) Yippiieee… time to complete my storage server. The new hot-swap trays had no labels, so I created them myself. It looks pretty nice!

Next step is getting some more disks and a suitable rackmount-kit. My private datacenter grows and grows. :)

ADMIN Magazin 03/2010

Im aktuellen ADMIN Magazin 03/2010 (www.admin-magazin.de) gibt es einen Artikel zu OpenSolaris COMSTAR von mir. Viel Spaß beim lesen. :)

admin-magazin

Quick Start – Veritas Storage Foundation Basic Linux

Mal wieder was zum Nachschlagen. ;)

[root@ius022 install]# /opt/VRTS/bin/vxdisksetup -i sdb
[root@ius022 install]# vxdg init datadg disk01=sdb
[root@ius022 install]# vxassist -g datadg maxsize
Maximum volume size: 83695616 (40867Mb)
[root@ius022 install]# vxassist -g datadg make datavol 40000m layout=nostripe
[root@ius022 install]# mkfs -t vxfs /dev/vx/rdsk/datadg/datavol
version 7 layout
81920000 sectors, 40960000 blocks of size 1024, log size 65536 blocks
largefiles supported
[root@ius022 install]# mkdir /data
[root@ius022 install]# mount -t vxfs /dev/vx/dsk/datadg/datavol /data
[root@ius022 install]#
[root@ius022 install]# /opt/VRTS/bin/vxdisksetup -i sdb
[root@ius022 install]# vxdg init datadg disk01=sdb
[root@ius022 install]# vxassist -g datadg maxsize
Maximum volume size: 83695616 (40867Mb)
[root@ius022 install]# vxassist -g datadg make datavol 40000m layout=nostripe
[root@ius022 install]# mkfs -t vxfs /dev/vx/rdsk/datadg/datavol
    version 7 layout
    81920000 sectors, 40960000 blocks of size 1024, log size 65536 blocks
    largefiles supported
[root@ius022 install]# mkdir /data
[root@ius022 install]# mount -t vxfs /dev/vx/dsk/datadg/datavol /data
[root@ius022 install]#

NetApp clonen? ;)

Was tun wenn man 3 Stück Sun StorEdge 6020 Arrays (eigentlich 6 Stück. :D ) mit je 14 Stück 146 GB Fibre Channel Festplatten hat? Eigentlich klar, die Arrays konfigurieren und an das SAN klemmen. Tja, was ist aber wenn die installierten RAID Controller einfach nur grausam in der Bedienung sind, man maximal 2 Volumes pro Disk Array erstellen kann und die Geschwindigkeit mit ZFS einfach nur lausig ist?

Dumm in die Wäsche schauen? ;)

Ich habe versucht 4 Volumes (entspricht 2 Disk Arrays und 28 Platten) in diversen Konfigurationen (verschiedene Kombinationen aus Block Size, RAID-Level, etc.) passend für ZFS zu konfigurieren. Alle Ergebnisse waren ziemlich ernüchternd und der Weg dahin langwierig und schwierig.

Keine Lust mehr….

Die neue Idee war fix geboren. Ein StorEdge 6020/6120 kann auch zum Expansion Disk Array umgebaut werden, d.h. Controller ausbauen. Das riecht doch offensichtlich nach FC-AL. Für viel Geld hab ich mir also spezielle Kabel für die HSSDC2 Anschlüsse besorgt. Doch alle Versuche das 6020 als JBOD zu nutzen sind kläglich gescheitert.

Frust macht sich breit. :-/

Lange Zeit passierte nichts mehr und es schwirrte lediglich die Idee in meinem Kopf, die 42 Platten irgendwie in ein EMC CLARiiON CXx00 zu stecken. Nur ohne aktuelle Flares schwierige Sache. Hinzu kommt die Unsicherheit ob eine EMC CLARiiON die Platten überhaupt erkennt. Meine HP EVA tut es jedenfalls nicht so recht. Sie erkennte zwar die Platten, aber verweigert dessen Nutzung! Wieder einmal keimte der Gedanke JBOD auf. Aber woher ein JBOD nehmen? Fibre Channel JBODs sind halt alles andere als gängig. Was tun?

Ins kalte Wasser springen? ;)

Nach einigen Überlegungen und Recherchen sagte mir mein Bauch, NetApp macht doch eigentlich auch nichts anderes, als das was ich im Sinn habe? Die haben schlaue Software in ihren Filer Köpfen und brauchen doch eigentlich nur dumme JBODs mit vielen schnellen Platten, oder? Nachdem ich auch noch Verkabelungspläne für einen NetApp FAS3050 entdeckte, war ich mir immer sicherer, dass das NetApp DS14 mk2 Disk Enclosure ein dummes FC-AL JBOD sein muss. Lediglich die IO Module auf der Rückseite bereiteten mir kurzfristig Bauchschmerzen. Nach einigem hin und her entschloß ich mich für das sog. ESH2 Modul. Wie ich finde, eine gute Entscheidung. ;)

DSC03277

Aus UK habe ich mir dann für einen fairen Preis ein NetApp DS14 mk2 Disk Enclosure mit 2 Stück ESH2 Modulen besorgt. Frisch angekommen, habe ich das Enclosure mit 14 Platten aus einer meiner 6020 Arrays bestückt. In die Sun Fire X4100 hab ich einen Emulex FC HBA installiert und diesen direkt mit dem IO Modul verbunden. Das Ergebnis sieht so aus:

locadm@ius002:~$ pfexec luxadm probe
Found Fibre Channel device(s):
Node WWN:500000e010731c30  Device Type:Disk device
Logical Path:/dev/rdsk/c0t500000E010731C30d0s2
Node WWN:2000000087014896  Device Type:Disk device
Logical Path:/dev/rdsk/c0t2000000087014896d0s2
Node WWN:500000e010730550  Device Type:Disk device
Logical Path:/dev/rdsk/c0t500000E010730550d0s2
Node WWN:2000000c509a551e  Device Type:Disk device
Logical Path:/dev/rdsk/c0t2000000C509A551Ed0s2
Node WWN:2000000c509a5621  Device Type:Disk device
Logical Path:/dev/rdsk/c0t2000000C509A5621d0s2
Node WWN:500000e0107325c0  Device Type:Disk device
Logical Path:/dev/rdsk/c0t500000E0107325C0d0s2
Node WWN:20000000871a4524  Device Type:Disk device
Logical Path:/dev/rdsk/c0t20000000871A4524d0s2
Node WWN:2000000c509a553f  Device Type:Disk device
Logical Path:/dev/rdsk/c0t2000000C509A553Fd0s2
Node WWN:500000e0107323e0  Device Type:Disk device
Logical Path:/dev/rdsk/c0t500000E0107323E0d0s2
Node WWN:2000000c509a4f64  Device Type:Disk device
Logical Path:/dev/rdsk/c0t2000000C509A4F64d0s2
Node WWN:500000e010730b90  Device Type:Disk device
Logical Path:/dev/rdsk/c0t500000E010730B90d0s2
Node WWN:20000000871ae23b  Device Type:Disk device
Logical Path:/dev/rdsk/c0t20000000871AE23Bd0s2
Node WWN:2000000c50860c5d  Device Type:Disk device
Logical Path:/dev/rdsk/c0t2000000C50860C5Dd0s2
Node WWN:500000e0107311b0  Device Type:Disk device
Logical Path:/dev/rdsk/c0t500000E0107311B0d0s2

Ein paar Tests belegen mir eine Schreibgeschwindigkeit von durchschnittlich 140 MByte/Sek. und eine Lesegeschwindigkeit von 210 MByte/Sek. Cool ! Es wird Zeit für 3 weitere NetApp DS14 mk2 Disk Enclosures. ;) Die neue Idee ist geboren und schimpft sich:

“NoNapp Data ONZFS”

:D :D :D

Alles weitere demnächst hier in diesem Kino. ;)

HP EVA 5000 Upgrade ;)

So, geschafft ! :) Die Preise für Platten sind endlich mal in Keller gepurzelt – außer bei den ganzen Traumtänzern *räusper* Resellern in eBay.de – und ich hab meine zwei M5214 Diskshelves endlich voll gemacht. :) Nun dürfen 28 Stück 73 GB 15k Fibre Channel Platten in einer Diskgroup rackern und mir jedesmal ein Lächeln ins Gesicht zaubern. :)

HP EVA 5000 28 Stück 72 GB 15k

HP EVA 5000 28 Stück 72 GB 15k

Ich hab ein paar Benchmarks durchgeführt und kriege durchweg konstant unter allen Umständen mind. 120 MByte/Sek. schreibend und 180 MByte/Sek. lesend hin. Unter sehr idealen Bedingungen sind auch über 300 MByte/Sek. schreibend bei einem Vraid-0 möglich. Das ist natürlich schon ziemlich extrem bei maximal 2 GBit/s Fibre Channel. ;) Wie auch immer, jede LUN die ich angelegt und getestet habe, fühlte sich wirklich verdammt schnell an. Echt cooooooooool. :)

Sun Fire 3800 und StorEdge 6120

Nach langem Warten endlich wieder ein neuer Blog Eintrag. Heute war mir danach meine Sun Fire 3800 mal anzuwerfen um die kürzlich erworbenen Speicherriegel zu testen. In diesem Zug hab ich gleich ein Sun StorEdge 6120 dazu geklemmt. Von dem hübschen Ding soll unter anderem die Maschine booten. Ärgerlich ist lediglich das ich nur 1GBit/s FC HBAs in der Fire stecken habe, und das Array eigentlich 2GBit/s unterstützt. Na ja, irgendwann schnapp ich mir schon den 2GBit/s Compact PCI Emulex FC HBA. ;)

Beim Starten der Domain A ist beim Testen der Systemboards prompt ein defekter DIMM entdeckt worden (/N0/SB0/P3/B0/D1). Den habe ich natürlich gewechselt und die Tests sind erfolgreich durchgelaufen. Blöd ist nur das trotzdem die Reparatur LEDs leuchten. Hmmm…

In wenigen Minuten sollte meine OpenSolaris 2009.06 Repository DVD geladen sein, danach werde ich einen Local Repository Server einrichten und meine Sun Fire 3800 mit OpenSolaris betanken. :) Mal schauen ob ich das heute noch schaffe. ;)

Der Banner darf natürlich nicht fehlen:

Sun Fire 3800
OpenFirmware version 5.20.12 (01/16/09 07:08)
Copyright 2009 Sun Microsystems, Inc.  All rights reserved.
Use is subject to license terms.
SmartFirmware, Copyright (C) 1996-2001.  All rights reserved.
9216 MB memory installed, Serial #15284988.
Ethernet address 8:0:20:e9:3a:fc, Host ID: 80e93afc.

Sun Fire 3800 und StorEdge 6210 Array

Rubrik Keller gestartet!

In der Rubrik Keller präsentiere ich euch meine kleine IT Sammlung die ich in meinem Keller so betreibe. Einfach oben auf “Keller” klicken und schon kann es los gehen.

Neuigkeiten und Veränderungen kündige ich selbstverständlich an.