Stor IT Back - Ihr Speicherspezialist
SAN "Storage Area Network und Fibre Channel" V1.20 (c) Stor IT Back 2024
Alle Server in einem SAN (Storage Area Network) können auf alle Storage-Systeme zugreifen. Damit ist
sowohl die Konsolidierung der einzelnen Storage-Elemente, wie auch die gemeinsame
Nutzung von Festplattenspeicher für unterschiedliche Server und Betriebssysteme
möglich. Das Konzept SAN hebt also die wichtigsten
Nachteile von DAS-Systemen
(Direct Attached Storage) auf. Das Storage Area Network ist also ein Netzwerk für Speicher.
Von einem Network Attached Storage unterscheidet sich das SAN dadurch, das in einem SAN blockbasierende Speicher genutzt werden. Die
Speicher erscheinen wie interne Festplatten im Server. Es wird meistens auch nur mit Servern genutzt und nicht mit Client-Systemen.
Ein SAN besteht aus Hostbusadaptern in den Servern, den Netzwerkkomponenten, wie Fibre Channel Switch oder Router und den Storage-Elementen. Die letztgenannten können sowohl Festplatteneinheiten, RAID-Systeme oder Tapelibraries sein. Von der Topologie ist ein SAN dem LAN sehr ähnlich. Das Übertragungsmedium kann entweder Fibre Channel, iSCSI oder FCoE sein.
Die Festplatten in dem Storage-System werden virtuell in LUNs (Logical Unit Number, logisches Laufwerk) unterteilt
oder über ein RAID zusammengefasst und dann den Servern zur Verfügung gestellt.
Ein Server erkennt diese virtuellen Festplatten (LUNs) wie eine interne Platte. Das
Betriebssystem, Anwendungen und Programme benötigen also keine Änderungen,
es muss nur ein passender Treiber für den Host-Bus-Adapter geladen werden.
Damit können die Betriebssysteme auch aus dem Storage Area Network booten. Dies bietet
klare Vorteile, sollte einmal die Server-Hardware ausfallen. Nur sie muss getauscht
werden, es kann sofort wieder ohne Neuinstallation gebootet werden, da sich
das Betriebssystem auf dem Storage Area Network befindet.
Wichtig ist jetzt aber auch die Verfügbarkeit des Storage Area Network (SAN). Im Bereich Host-Bus-Adapter
und Fibre Channel Switch kann die Verfügbarkeit sehr leicht durch einfache
Verdopplung der Hardware erreicht werden. Der Treiber des Host-Bus-Adapters
steuert dann diese unterschiedlichen Wege zum Storage-System (Multipathing).
Der Einsatz von zwei Fibre Channel Switches und Dual-Port HBAs ist der Standard bei produktiven
Umgebungen. Ein Storage-System ist in sich schon sehr redundant aufgebaut. Zwei
Netzteile und redundante Lüfter sollten immer vorhanden sein. Zwei unabhängige
RAID-Controller im System erhöhen die Verfügbarkeit zusätzlich.
Beim Storage-System gibt es noch weitere Verfahren zur Steigerung der Verfügbarkeit.
Die Systeme können entweder durch das Betriebssystem (Mirroring, RAID 1)
oder durch die eigene Hardware (Replikation, synchron oder asynchron) gespiegelt werden. Damit lassen
sich identische Daten an zwei unterschiedlichen Standorten vorhalten. Eine Vorsorge
gegen den K-Fall.
Im Fibre Channel SAN gibt es zwei grundsätzlich verschiedene Topologien, die
Loop und das Fabric.
Im Fabric sind alle Geräte an einen Switch angeschlossen. Dieser schaltet dann in Echtzeit die jeweils
benötigten Verbindungen zwischen Sender und Empfänger. Dies wird heute meist
durch eine hochperformante Backplane erreicht, die genügend Performance
für alle Anschlüsse bereitstellt. Diese Fabric-Topologie wird im Fibre
Channel Storage Area Network nur noch verwendet.
Mehrere Switche können kaskadiert bzw. kombiniert werden. So lassen sich
die Anzahl der Ports nahezu beliebig erweitern. Aber auch verteilte SANs an
unterschiedlichen Standorten sind leicht realisierbar. So können einzelne
Serverräume mit jeweils einem Switch (oder 2 Switche zur Steigerung der
Verfügbarkeit) ausgestattet werden, die jeweils untereinander verbunden
werden. Das Storage-System kann dann an jedem Standort untergebracht werden.
Ein zweites System zur Spiegelung wird dann einfach in einem anderen Serverraum
an den dortigen Switch angeschlossen. So lassen sich sehr einfach verteilte
und hochredundante Systeme aufbauen.
Durch Monomode-Kabel sind auch Verbindungen über einige Kilometer realisierbar,
bei spezieller Hardware bis zu 120 Kilometer. Natürlich kann bei einem
verteilten Storage Area Network auch die Sicherungshardware an einem getrennten Standort untergebracht
werden. Hierbei kann durch geschickte Wahl der Verteilung eine manuelle Auslagerung
von Bändern umgangen werden. Bei einer Disk-to-Disk-Sicherung an den ersten
Standort und eine Disk-to-Tape Replizierung an einen zweiten Standort, kann
eine Auslagerung meist umgangen werden.
Bei einer Loop sind alle Geräte (Server, Festplatten und Bandlaufwerke) in einer Schleife angeordnet. Sendet ein Gerät Daten, so laufen diese durch alle Geräte bis zum Empfänger. Denkbar ist dieser Aufbau ohne jegliche Netzhardware, es werden einfach nur die Geräte untereinander zusammengeschaltet. In diesem Fall ist jedoch beim Ausfall eines Gerätes die Loop unterbrochen, eine Kommunikation ist nicht mehr möglich und wird deswegen auch nicht in der Praxis verwendet.
Aus diesem Grund wird ein Hub eingesetzt. Er überwacht die einzelnen Geräte und beim Ausfall
oder Ausschalten überbrückt der Hub die Verbindung, die anderen Geräte können
sich weiter unterhalten. In dieser Schleife liegt aber auch der zweite Nachteil,
alle angeschlossenen Geräte müssen sich die Bandbreite teilen. Bei normal ausgelasteten
Servern sollte ab 5 Geräten von der Loop zum Fabric gewechselt werden. Aber
warum dann einen Hub verwenden? Der Hub war bis 2003 die kostengünstigere
Hardware für ein Storage Area Network, ein Fibre Channel Switch war noch sehr teurer. Ab 2003 wurden die
Fibre Channel Switche kostengünstiger und haben bis 2005 die Hubs als externe Geräte
komplett verdrängt.
Die Loop mit einem Hub wurde zum Beispiel noch lange zur Ansteuerung von Fibre Channel Festplatten
verwendet. Dort greift ja nur ein Controller auf alle Platten zu, die Performance
ist also dort kein Nachteil. Aber seit den SAS und SATA Festplatten, wird auch dies nicht mehr eingesetzt.
Der größte Vorteil eines Storage Area Networks ist die direkte Erreichbarkeit aller ins SAN integrierten
Komponenten untereinander. Dies heißt, jeder Server kann jedes Storage-System
und jedes Tapelaufwerk ansprechen. Im Idealfalle wird in einem Storage Area Network nur
ein Storage-System und eine Tapelibrary für alle unterschiedlichen Server und
Betriebssysteme benötigt. Es werden Kosten eingespart, Plattenplatzreserven nur einmal zentral
benötigt, der Raumbedarf im Rechenzentrum minimiert und die Übertragungsgeschwindigkeit
gesteigert. Dies gilt speziell bei der Datensicherung beim LAN-free- und
Serverless-Backup. Hierbei wird auch noch die Belastung
des LANs verringert.
Im Storage Area Network sind Cluster-Anwendungen leicht zu implementieren, jeder
Server kommt an jedes Blockdevice (LUN), mit der passenden Software sind sogar konkurrierende
Schreibzugriffe möglich. Durch die möglichen großen Entfernungen
im Fibre Channel oder iSCSI Storage Area Network sind Spiegelungen auf entfernte Systeme problemlos möglich, selbst
im K-Fall kann über das SAN weiterhin zugegriffen werden.
Für eine reibungslose Servervirtualisierung (VMware, Hyper-V, XEN) wird ein SAN benötigt,
ohne den gemeinsamen Zugriff auf die Festplattenressourcen ist eine hochverfügbare
Virtualisierung und Features wie vMotion nicht möglich. Aber schon zwei physikalische Server für
die Virtualisierung und ein synchron repliziertes Speichersystem erhöhen
die Verfügbarkeit gegenüber klassischen Systemen enorm.
Wenn viele Server im Storage Area Network (SAN) angeschlossen sind und alle ihre Festplatten von einem einzelnen zentralen Storage-Subsystem bekommen, kann der Ausfall des SAN oder des Storage-Systems zum Ausfall aller Server führen. Das muss natürlich soweit möglich verhindert werden. Dafür bietet das Storage-Netz einiges an Features. Das Grundlegende ist die Multipathing-Fähigkeit des Fibre Channel und iSCSI Protokolls. Durch geeignete Treiber auf den Server-Betriebssystemen können verschiedene Pfade vom Server zum Storage-System genutzt werden. Sollte einer dieser Pfade nicht verfügbar sein (zum Beispiel durch den Ausfall eines Fibre Channel Switches), so werden andere Wege genutzt. Die redundanten Pfade können auch zur Lastverteilung genutzt werden. Sind also alle Pfade aktiv, so können auch alle für eine maximale Performance und einen höchstmöglichen Durchsatz genutzt werden. Die Verteilung erfolgt zum Beispiel "lastabhängig" oder "Round Robin". Der grundlegende Aufbau eines SAN mit einem Switch muss also erweitert werden.
Neben dem einen Fibre Channel Switch wird ein zweiter benötigt, jeder Server
benötigt entweder zwei FC HBAs oder einen HBA mit zwei Kanälen. Auch
das Storage-System muss dann an beide Switche angebunden werden. Was wird jetzt
damit erreicht? Der "Server 1" in unserem Beispiel kann das "Storage-System
Master" über den Pfad "P1" und den Pfad "P2" erreichen.
Wird jetzt vom Storage System eine virtuelle Platte freigegeben, so "sieht"
sie der Server 1 auch doppelt, einmal über P1 und einmal über P2.
Damit das Betriebssystem jetzt die eine Platte aber nicht doppelt nutzt (und
damit die Daten zerstört) muss eine Treibersoftware installiert werden,
die erkennt, dass es eigentlich nur eine Platte ist und auch nur eine Platte
dem Betriebssystem zur Verfügung stellt. Diese Treibersoftware wird Multipathing-Software
genannt, da sie verschiedene Pfade verwalten kann.
Die erste Aufgabe der Multipathing-Software ist also das Erkennen
der Pfade und das Verwalten der virtuellen Festplatten. Die zweite Aufgabe ist
die Überwachung der Pfade. Sollte einer der Wege zum Storage-System ausfallen,
so muss auf den zweiten (oder nächsten) Pfad umgeschaltet werden. Und das
passiert schneller, als der Timeout des Betriebssystems zuschlägt. Auch
die Anwendung auf der Festplatte (egal ob Betriebssystem oder Datenbank) sollte
eine Umschaltung (bzw. den kurzfristigen Ausfall) nicht merken.
Durch diese Multipathing Software wird also der Ausfall eines HBAs (oder eines
HBA-Kanals), eines Switches, eines RAID-Controller im Storage-System oder eines
Kabels umgangen.
Damit wird die Gesamtverfügbarkeit des Storage Area Networks
stark erhöht. Dieser Aufbau mit zwei FC-Switches und Dual Channel HBAs
ist der Standard-Aufbau für produktive Umgebungen.
Was nicht abgefangen wird, ist der Ausfall des gesamten Servers und des Storage-Systems.
Der Ausfall eines Servers kann durch einen Cluster
geschützt werden, beim Storage-System übernimmt dies eine Replikation
der Daten auf ein zweites System. In diesem Beispiel repliziert das Master Storage-System
die Daten an den Slave. Diese Replikation kann synchron oder
asynchron erfolgen. In vielen Fällen ist eine synchrone
Replikation einfacher zu beherrschen und sicherer zu betreiben. Es
wird jede Schreiboperation auf dem Master sofort an den Slave übertragen
und erst dann das OK an den Server gemeldet. Master und Slave nutzen also zu
jedem Zeitpunkt exakt die gleichen Daten. Fällt jetzt der Master aus, so
muss zwar erst auf den Slave umgeschaltet werden (der dann zum Master wird),
jedoch gehen keine Daten verloren. Der Neustart der Systeme kann innerhalb weniger
Minuten erfolgen.
Ein SAN nutzt Fibre
Channel oder iSCSI als Übertragungsmedium. Fibre Channel ist seit 1994 ANSI-Standard.
Dort sind die physikalischen Schnittstellen, sowie die einzelnen Schichten des
Protokolls definiert. Die 1994 festgelegte Übertragungsrate liegt bei 100 MB/s,
1997 wurden Erweiterungen mit Übertragungsraten von 200 und 400 MB/s festgelegt.
Geräte für den 200 MB/s-Standard sind seit 2001 auf dem Markt, 400 MB/s (4 Gbit/s)
seit Mitte 2004. Die aktuelle Implementierung nutzt Übertragungsraten bis 1600
MB/s zu den Endgeräten, die Übertragungsrate für Interconnect-Verbindungen
(Switch-to-Switch) beträgt heute bis zu 100 GBit/s. Die nächste Stufe
mit 32 Gbit/s zu den Endgeräten ist bereits 2018 zu bekommen.
Fibre Channel ist ein serielles Übertragungsverfahren, das heißt es gibt nur
eine Datenleitung pro Übertragungsrichtung (full duplex). Dies bietet einen
großen Vorteil zu SCSI. Je höher die Übertragungsraten
sind, desto anfälliger werden die Datensignale bei SCSI gegen zeitliche Laufunterschiede
in den einzelnen Datenleitungen. Es entsteht bei hohen Raten ein Signalgemisch,
welches immer schwerer zu trennen ist. Bei Fibre Channel können sich Signale
nicht gegenseitig überholen (es gibt bei der seriellen Übertragung ja nur
eine Leitung), sie kommen immer in der richtigen Reihenfolge beim Empfänger
an.
Ein Begriff, der immer wieder im Zusammenhang mit Fibre Channel auftaucht, ist das Zoning. Das Zoning ist im
Prinzip wie das VLAN im Ethernet. Es lassen sich Unterteilungen im FC Netz definieren. Aber warum das? Im Fibre Channel
SAN kann sich erst einmal jeder Knoten bzw. jedes Gerät mit jedem anderen unterhalten. Es gibt zwar auch
Zugriffsregeln, zum Beispiel das Mapping per WWN, aber eine echte Unterteilung wird erst durch das Zoning erreicht.
Ist das Zoning kompliziert? Nein, es ist eine einfache Zuordnung zwischen Ports oder WWNs auf einem Switch.
Ein Beispiel:
Port 1: Storage System Controller A mit WWN 1
Port 2: Storage System Controller B mit WWN 2
Port 3: Server 1 mit WWN 3
Port 4: Server 2 mit WWN 4
Wenn sich jetzt Server 1 und 2 nicht "sehen" dürfen, aber beide auf das Storage System zugreifen sollen, so definiert man die folgenden Zonen:
1. Zone: Port 1 und Port 2 und Port 3
2. Zone: Port 1 und Port 2 und Port 4
Und fertig ist das Zoning auf Basis der Switch Ports. Ersetzt man die Ports durch die WWN der einzelnen angeschlossenen Geräte, so erhält man
das Zoning auf WWN Basis:
1. Zone: WWN 1 und WWN 2 und WWN 3
2. Zone: WWN 1 und WWN 2 und WWN 4
Auch eine Mischung zwischen Port und WWN ist möglich, aber meist nicht sinnvoll. Aber warum einmal das Zoning mit Ports (Hardware Zoning) und zum anderen
mit den WWNs (Software Zoning)? Beim Port-Zoning muss nach einem Austausch des Fibre Channel Switches jedes Kabel wieder exakt an den gleichen Port
gesteckt werden, ansonsten ist das Zoning falsch. Beim WWN-Zoning muss nach dem Tausch eines HBAs oder des Storage-Systems die entsprechenden WWNs
geändert werden, was dann vergessen wird. Also beides hat Vor- und Nachteile.
Brocade FC Switch - HTML5 Element Manager GUI - Zoning
Wenn Sie mehr über das FC Zoning erfahren möchten, wir bieten einen Praxisworkshop zum Thema Storage Area Network an.
Die maximalen Entfernungen hängen vom Verbindungsmedium und der Transfergeschwindigkeit ab. Einige Hersteller bieten abweichende Lösungen an, hier werden spezielle Laser oder entsprechend angepasste Medien verwendet. Wichtig ist gerade bei 4 und 8 Gbit/s die Auswahl der passenden Faser. Mit OM3-Faser lässt sich die Entfernung mehr als verdoppelt. Die Faser ist zwar teurer, es kann aber noch Multi-Mode-Hardware eingesetzt werden. Gerade bei Host Bus Adaptern mit festen Optiken ein großer Vorteil.
Geschwindigkeit | Medium | maximale Entfernung |
1 Gbit/s / 100 MB/s | Kupfer (DB9/HSSDC) | 25 m |
1 Gbit/s / 100 MB/s | LWL-Multi Mode (50/125 µm) OM2 | 500 m |
1 Gbit/s / 100 MB/s | LWL-Multi Mode (50/125 µm) OM3 | 850 m |
1 Gbit/s / 100 MB/s | LWL-Multi Mode (62,5/125 µm) OM1 | 300 m |
1 Gbit/s / 100 MB/s | LWL-Mono Mode (9/125 µm) OS1 | 10 km |
2 Gbit/s / 200 MB/s | Kupfer (HSSDC) | 16 m |
2 Gbit/s / 200 MB/s | LWL-Multi Mode (50/125 µm) OM2 | 300 m |
2 Gbit/s / 200 MB/s | LWL-Multi Mode (50/125 µm) OM3 | 500 m |
2 Gbit/s / 200 MB/s | LWL-Multi Mode (62,5/125 µm) OM1 | 150 m |
2 Gbit/s / 200 MB/s | LWL-Mono Mode (9/125 µm) OS1 | 2 km |
4 Gbit/s / 400 MB/s | LWL-Multi Mode (50/125 µm) OM2 | 150 m |
4 Gbit/s / 400 MB/s | LWL-Multi Mode (50/125 µm) OM3 | 380 m |
4 Gbit/s / 400 MB/s | LWL-Multi Mode (50/125 µm) OM4 | 400 m |
4 Gbit/s / 400 MB/s | LWL-Multi Mode (62,5/125 µm) OM1 | 70 m |
8 Gbit/s / 800 MB/s | LWL-Multi Mode (50/125 µm) OM2 | 50 m |
8 Gbit/s / 800 MB/s | LWL-Multi Mode (50/125 µm) OM3 | 150 m |
8 Gbit/s / 800 MB/s | LWL-Multi Mode (50/125 µm) OM4 | 190 m |
16 Gbit/s / 1.600 MB/s | LWL-Multi Mode (50/125 µm) OM2 | 35 m |
16 Gbit/s / 1.600 MB/s | LWL-Multi Mode (50/125 µm) OM3 | 100 m |
16 Gbit/s / 1.600 MB/s | LWL-Multi Mode (50/125 µm) OM4 | 125 m |
10 Gbit/s / 1000 MB/s | LWL-Multi Mode (50/125 µm) | 80 m |
10 Gbit/s / 1000 MB/s | LWL-Multi Mode (62,5/125 µm) | 30 m |
Abweichend von dieser Tabelle können durch den Einsatz von ELWL (Extend Long Wavelength GBICs) Entfernungen bis zu 80 Kilometer erreicht werden. Mit der Hilfe von Link Extendern wurden Strecken von über 120 Kilometer überbrückt. Dies ist in den meisten Fällen ausreichend für die Anbindung von "Ausweich-Rechenzentren" zur Desaster-Vorsorge.
Die technische Grundlage für jedes Fibre Channel SAN (Storage Area Network) ist der "Fibre
Channel-Protokoll-Standard", richtig bezeichnet als "Fibre Channel Physical
and Signaling Interface". Fibre Channel ist kein Kabel-Typ, es ist nicht zu
verwechseln mit Fiber/Fibre (= Faser). Das Fibre Channel Protokoll kann auch über
Kupferleitung mit elektrischen Signalen übertragen werden. Trotzdem hat
sich der Begriff Fibre Channel auch für (LWL-) Kabel, Geräte und Verbindungen
eingebürgert.
Welche Anforderungen werden bzw. wurden an die Entwicklung von Fibre Channel
gestellt? In der Entwicklungszeit vor Fibre Channel und SAS war das parallele SCSI die gebräuchlichste
Übertragungsart für Daten. Die Geschwindigkeit bei FC sollte deutlich übertroffen
werden und auch eine hohe Reserve für Verbesserungen bieten. Beim parallelen
SCSI war das technisch Machbare mit 320 MB/s erreicht. Also musste es ein serielles
Protokoll werden und es sollten sich größere Entfernungen als mit
SCSI überbrücke lassen. Wichtig war weiter auch eine möglichst
geringe Zahl von Übertragungsfehlern, da die Korrekturen immer zu Verzögerungen
führen. Und Verzögerungen sind im Speicherbereich niemals gut, also
musste auch die Latenzzeit gering gehalten werden. Eine wichtige Anforderung
war auch die Entlastung der Server-CPU, das FC-Protokoll sollte möglichst
in eigener Hardware (den Host-Bus-Adaptern) laufen. Also die Vorteile von SCSI
weiter ausbauen und alle Begrenzungen möglichst entfernen. Ein großer
Nachteil von SCSI war auch die fehlende Hot Plug Fähigkeit. Systeme müssen
vor der Verkabelung ausgeschaltet werden, dies wäre für Fibre Channel
undenkbar. Hot Plug wurde also zu einem Hauptbestandteil der Entwicklung.
Schauen wir uns hier jetzt die Theorie zum Fibre Channel an. Das Fibre Channel
(Protokoll) ist nach einem Schichtenmodell aufgebaut, ähnlich dem OSI-Modell.
Es gibt die Schichten FC 0 bis FC 4.
Dies ist die unterste Schicht und bezeichnet die physikalischen Schnittstellen. Dies sind Geschwindigkeit, Medium (Kabel und Stecker), Übertragungstyp und Entfernung. Mit den Kurzformen dieser Schnittstellenbezeichnungen werden physikalische Verbindungen beschrieben.
Geschwindigkeit | Kurzform |
3.200 MB/s | 3200 |
1.600 MB/s | 1600 |
800 MB/s | 800 |
400 MB/s | 400 |
200 MB/s | 200 |
100 MB/s | 100 |
Medium | Kurzform | Erweiterung | Nutzung |
Single-Mode Fibre 9 μm | SM | OS1 | große Entfernungen |
Multi-Mode Fibre 50 μm | M5 | OM2 | kurze Entfernungen (alt) |
Multi-Mode Fibre 50 μm | M5 | OM3 | längere Entfernungen |
Multi-Mode Fibre 50 μm | M5 | OM4 | längere Entfernungen (neu) |
Multi-Mode Fibre 50 μm | M6 | OM5 | längere Entfernungen (neuer) |
Multi-Mode Fibre 62,5 μm | M6 | OM1 | kurze Entfernungen (veraltet) |
Twisted Pair Cable | TP | innerhalb Gehäuse |
Übertragungstyp | Kurzform |
Longwave Laser | LL |
Shortwave Laser w | SL |
Shortwave Laser n | SN |
Longwave Lightemitting Diode | LE |
Electrical | EL |
Entfernung | Kurzform |
Long | L |
Intermediate | I |
Short | S |
Jede mögliche physikalische Übertragung kann jetzt beschrieben werden:
800-M5-SL-S
Dies ist eine 50 μm
Multi-Mode Fibre Verbindung mit Shortwave Laser und 800 MB/s Übertragungsrate.
Zum größten Teil werden optische Verbindungen verwendet, sie ermöglichen
größere Übertragungsentfernungen. Jedoch sind sie gegenüber mechanischen
Einflüssen nicht so widerstandsfähig wie die elektrischen Verbindungen.
Ein Einklemmen in der Tür quittieren optische Kabel meist mit Ausfall oder
Störungen.
Jede Fibre Channel Verbindung besteht immer aus 2 Wegen, einmal die Read-
und zum anderen die Write-Leitung. Die Daten werden also "full duplex" übertragen.
Damit ist dann immer die theoretisch doppelte Übertragungsrate möglich.
Wichtig ist gerade bei "Verlegekabeln" zwischen Räumen oder Gebäuden,
dass pro Verbindung immer zwei Fasern benötigt werden. Die IT rechnet meist
in Verbindungen, die Installateure aber in Fasern. Dies kann schnell zu einem
Mangel an Fasern führen.
In der Fibre Channel Terminologie wird ein Gerät als Konten bezeichnet. Dies kann zum Beispiel ein Host-Bus-Adapter in einem Server sein. Dieser Host-Bus-Adapter besitzt einen Port oder auch mehrere. Wie auch im LAN-Bereich besitzt jeder Knoten einen eindeutigen Namen, die WWN (World Wide Name). Da ein Knoten mehrere Ports besitzen kann, hat dieser auch einen eindeutigen Namen, die WWPN (World Wide Port Name). Diese Name setzen sich aus 64-Bit-Schlüssel zusammen, allerdings werden diese WW(P)N's nicht zur Datenübertragung verwendet. Unterschieden werden auch noch die Grundfunktionen der einzelnen Ports. Sie werden je nach ihren Möglichkeiten bezeichnet.
Bezeichnung | Port-Typ | Funktion |
E_Port | Expansion_Port | Port eines Switches, an dem ein anderer Switch angeschlossen wird |
TE_Port | Truncing-Expansion_Port | zusammengefasste Ports eines Switches, an dem ein anderer Switch angeschlossen wird |
F_Port | Fabric_Port | Port eines Switches, an dem ein Knoten via Point to Point angeschossen ist |
FL_Port | Fabric_Loop_Port | Port eines Switches, an dem Knoten via Fibre Channel Arbitrated Loop angeschossen werden |
G_Port | Generic_Port | entweder E_Port oder N_Port |
N_Port | Node_Port | Port, an dem ein Knoten via Point to Point (z.B. an einen Switch) angeschlossen wird |
NL_Port | Node_Loop_Port | Port eines Knotens in einer Fibre Channel Arbitrated Loop |
TL_Port | Translation_Port | Port zur Kommunikation zwischen Switch und Private Loop (veraltet) |
U_Port | Universal_Port | Port, an dem alle anderen Porttypen angeschlossen werden können |
Die Verschlüsselung von Daten verbessert die Sicherheit eines seriellen
Übertragungsvorganges. Immer 8 Bit werden vor dem Versand in 10 Bit-Werte
verschlüsselt, die Methode wird danach 8b/10b-Verschlüsselung genannt.
Weiterhin versucht diese Verschlüsselung immer ein Gleichgewicht zwischen
Einsen und Nullen zu halten. Ein Unterschied in diesen Werten in einem übertragenen
Wort wird durch die Kontrollfunktion "Disparity Character" angegeben. Diese
und andere Verfahren ermöglichen eine große Sicherheit der Übertragung
bei sehr geringem Overhead. Der Nutzdateninhalt bei einer Übertragung ist
sehr hoch und damit können über Fibre Channel, bei gleicher Geschwindigkeit,
mehr Daten übertragen werden als bei Ethernet. Dies beantwortet auch die
Frage, warum ein neues Übertragungsmedium entwickelt wurde und nicht einfach
ein SAN mit Ethernet und TCP/IP aufgebaut wurde.
Die 10 Gbit/s bzw. 20 Gbit/s Inter-Switch-Links arbeiten nach der 64b/66b Codierung,
es werden als 64 Bit in 66 Bit "verpackt". Dieses geänderte Verfahren
hat man auch für die 16 Gbit/s Version verabschiedet. Es soll aber trotzdem
mit den 8 bzw. 4 Gbit/s Fibre Channel kompatibel sein.
Weiterhin wird in FC 1 das "Link Control Protocol" definiert. Es sind
die Steuersignale der Übertragung, für Initialisierung und Verwaltung
des Links. Die sogenannten Ordered Sets beginnen immer mit der gleichen speziellen
Bitfolge, die sonst in der Übertragung von Daten nicht vorkommt. Das K28.5
Zeichen signalisiert also immer ein Steuerpaket und ist damit für alle
Komponenten sehr einfach zu entdecken.
Diese Schicht steuert die Struktur und Definition der Informationen und ist damit die umfangreichste Schicht. Sie ist in vier Klassen aufgeteilt
Login Session |
Exchange |
Sequenz |
Frame |
Bevor Nutzdaten zwischen zwei Geräten ausgetauscht werden können, müssen diese beiden Ports erst einmal Informationen über ihren Status austauschen. Ist dieser Login erfolgreich, so bleibt eine Kommunikation bis zu einem Logout bzw. Abbruch der Verbindung möglich. Natürlich kann ein Gerät auch Sessions mit verschiedenen anderen Knoten zur gleichen Zeit aufrechterhalten. Nach diesem Login sind also Adressen der Knoten und Ports und die Übertragungscharakteristika ausgetauscht. Zur Verwaltung der Adressen in einem Fabric, es sind bis zu 15,6 Millionen Geräte denkbar, nutzt der Switch einen "Simple Name Server", eine Datenbank, in der alle Informationen gespeichert werden.
Bei jeder Datenübertragung zwischen zwei Ports wird auch ein Exchange gestartet, um die Operation zu steuern und zu kontrollieren. Für jedes Übertragungsprotokoll sind spezielle Exchanges, auch "Information Units" genannt, vorhanden. Ein Port kann mehrere Exchanges zur gleichen Zeit nutzen, damit wird die Auslastung effizienter.
Durch die Übertragung sehr großer Datenmengen muss die optimale Größe von Datenpaketen angepasst werden. Jedoch ist diese Menge auf 2.148 Byte pro Paket geschränkt. Es lassen sich bis zu 65.536 dieser Pakete (Frames) zu einer Sequenz zusammenfassen. Diese Frames innerhalb einer Sequenz werden nicht unbedingt in der richtigen Reihenfolge übertragen, sie enthalten relative Adressen zur Encodierung.
Frames sind eine Untereinheit der Sequenz. Die Nutzdaten werden in Frames verpackt,
mit einem Start- und Stop-Delimiter, einem Header und einer Checksumme (CRC)
versehen und können dann verschickt werden. Durch die Optimierung erreicht
man ein Verhältnis von Nutzdaten zu Protokoll-Overhead von bis zu 98%.
Das CRC Verfahren im Frame erkennt alle Fehler, wenn das Transportmedium die
vorgegebene Fehlerrate einhält. Wird ein Fehler erkannt, so wird nicht
nur das betroffene Frame erneut gesendet, sondern die ganze Sequenz mit den
enthaltenen Frames. Damit muss der einzelne fehlerhafte Frame nicht umständlich
an die richtige Reihenfolge in der Sequenz einsortiert werden.
Diese Funktion stellt Dienste wie zum Beispiel Multicast-Sendungen zur Verfügung.
Bei dieser Funktion werden Datenpakete an mehr als einen Empfänger zugestellt.
Damit können Datenreplizierungen direkt über Fibre Channel realisiert
werden, ohne das ein Paket wirklich zweimal verschickt werden muss. Als weiteres
gibt es den Dienst Striping, hier werden Daten abwechselnd über verschiedene
Ports bzw. verschiedene Wege verschickt. Dies erhöht den Durchsatz.
Beide angeführten Dienste werden aber auch unabhängig vom FC 3 Service
angeboten. So lässt sich mit dem Multipathing Round Robin auch ein Striping
bzw. das Nutzen von verschiedenen Wegen realisieren.
Diese Schicht beschreibt wie die "Upper Level Protokolle", wie z.B. SCSI oder
Ficon Fibre Channel nutzen können. Dies ist ein Übersetzer, welcher
aber auch spezielle Funktionen steuern kann. So muss zum Beispiel das "half
duplex" Protokoll SCSI auf das "full-duplex" Verfahren von Fibre Channel umgesetzt
werden. Auch können "Classes of Service" für einzelne Gruppen festgelegt
werden.
In der Praxis übernimmt die FC 4 Schicht die Übersetzung von SCSI
auf FCP. Damit wurde bei der Entwicklung von Fibre Channel der "Konnektor"
zur alten SCSI Welt hergestellt. Das Betriebssystem erkennt also die Fibre Channel
Devices als normale SCSI Geräte und kann mit dem schon vorhandenen und
bewährten SCSI-Subsystem arbeiten. Es sind wesentlich weniger Anpassungen
in den Betriebssystemen notwendig gewesen. Sicherlich auch ein Erfolgsbaustein
für die schnelle und unkomplizierte Integration von Fibre Channel.
Fibre Channel ist mehr oder weniger auf Plug and Play konzipiert worden. Was bedeutet das?
Wenn Sie einen Fibre Channel HBA mit einem Fibre Channel Storage verbinden, dann sehen sich beide
Schnittstellen über Fibre Channel, tauschen Informationen aus und gleich sich ab. Das geht automatisch,
ohne einen manuellen Eingriff des Administrators. Danach muss aber manuell eingegriffen werden, da
jetzt eine LUN oder ein Laufwerk für den HBA freigegeben werden muss. Dies ist aber eine meist einfache
Zuordnung in der GUI des Storage-Systems. Dort wird einfach die WWN des Fibre Channel HBAs einer LUN
zugeordnet. Danach kann der HBA (bzw. das Betriebssystem) auf diese LUN zugreifen.
Ist das jetzt kompliziert? Vergleich wir das Mal mit einer ähnlichen Technologie, dem iSCSI. Die physikalische
Verkabelung ist gleich. Jetzt muss aber für jeden Port eine IP-Adresse definiert werden, dann auch noch zwei unterschiedliche Netze für
die beiden Verbindungen einer redundanten Lösung. Bei vielen Verbindungen kann das schnell zu Fehlern führen. Doppelte IP Adresse, falsches Subnetting oder
einfach ein Dreher in der Verkabelung, schon findet keine Verbindung statt. Dann erfolgt noch die Freigabe zwischen HBA über die IQN zu der LUN im Storage. Da
die IQN leicht zu manipulieren ist, sollte man dort auch noch eine Chap Authentifizierung einsetzen, also User und Passwort für
die Verbindung. Danach kann die LUN genutzt werden. Da Ethernet und TCP/IP aber nicht für Storage entwickelt wurde, müssen meist
noch Parameter angepasst werden, im einfachsten Fall die MTU auf 9000.
Die IP-Adressen, Netzwerke und Netzmasken braucht Fibre Channel nicht (= hat es nicht). Diese Fehlermöglichkeiten fallen also weg,
Fibre Channel ist da deutlich schneller und einfacher aufzusetzen und damit auch stabiler in der Produktion.
Aber was ist mit der Fehlersuche? Bei iSCSI kann man mit einem Ping testen, ob die Verbindungen da sind, bei Fibre Channel gibt
es keinen Ping... Bei Fibre Channel braucht man die Information über den FC-Login, ist der Login OK, dann ist die Verbindung in Ordnung. Zu sehen ist
der Login in der GUI des Storage-Systems oder im Log des Treibers des HBA. Normalerweise reicht bei Fibre Channel schon der Blick auf
die LEDs der jeweiligen Ports. Mehr Informationen zur Analyse liefert ein Fibre Channel Switch. Dieser zeigt auch zum Beispiel Fehlerzähler an,
die auf defekte Leitungen hindeuten können. Alles in allem ist Fibre Channel einfach zu installieren und sehr stabil.
Ein SAN ist einer der komplexesten Anschaffungen in der EDV-Landschaft.
Angebote
für SAN-Lösungen finden Sie bei Stor IT Back , es kann aber in den
meisten Fällen nur als Beispiel dienen.
Weiterhin bieten wir herstellerunabhängige Schulungen zum
Thema "Storage Area Network" an. In der Basis-Schulung lernen Sie die
Unterschiede zu DAS, NAS und iSCSI kennen, sowie die jeweiligen Einsatzgebiete.
In der Praxis-Schulung bauen Sie ein komplettes SAN auf, lernen
die Topologien kennen und sehen Vor- und Nachteile am "lebenden
Objekt".
Sollten Sie Fragen zu diesem Thema haben, oder wünschen Sie Beratung, so wenden Sie sich an uns.