Ferraris und Sattelschlepper

Wenn man in der KMU-Welt arbeitet, kommt es tatsächlich recht selten vor, dass wir über Latenz sprechen müssen. Die KMU-Welt ist nahezu durchweg auf den Systemdurchsatz fokussiert und sich der Latenz als Anforderung im Allgemeinen nicht bewusst. Doch es gibt Zeiten, in denen Latenz wichtig wird, und wenn das geschieht, ist es entscheidend, dass wir das Zusammenspiel von Durchsatz und Latenz verstehen und auch das, was “Geschwindigkeit” für uns bedeutet. Sobald wir uns in den Enterprise-Bereich begeben, wird Latenz häufiger als ein Anliegen betrachtet, doch selbst dort herrscht nahezu immer der Durchsatz vor, und zwar in einem Maße, dass sich Geschwindigkeitskonzepte nahezu durchweg um den Durchsatz drehen und Latenzkonzepte oft ignoriert oder vergessen werden.

Die Rolle der Latenz in einem System zu verstehen, kann kompliziert sein, auch wenn Latenz selbst relativ einfach zu verstehen ist.

Ein großartiger Vergleich zwischen Latenz und Durchsatz, den ich gerne verwende, ist die Vorstellung eines Ferraris und eines Sattelschleppers. Ferraris sind “schnell” im herkömmlichen Sinne, sie haben eine hohe “Stundenkilometerzahl.” Man könnte sagen, sie sind auf Geschwindigkeit ausgelegt. Aber sind sie das?

Sattelschlepper betrachten wir im Allgemeinen als langsam. Sie sind große und behäbige Ungetüme mit einer niedrigen Höchstgeschwindigkeit. Aber sie befördern eine Menge Zeug auf einmal.

In Computer-Begriffen denken wir bei Geschwindigkeit normalerweise eher an Transportkapazität – wir denken in Begriffen von “Stück” pro Sekunde. Im Falle eines Ferraris ist es großartig, zweihundert Stundenkilometer zu fahren, aber er kann vielleicht eine Kiste auf einmal befördern. Ein Sattelschlepper kann nur hundert Stundenkilometer fahren, aber an die tausend Kisten auf einmal befördern. Wenn wir über Durchsatz oder Geschwindigkeit bei einem Computer sprechen, ist es eher dies, woran wir denken. In Netzwerk-Begriffen denken wir an Gigabyte pro Sekunde und kümmern uns nur selten um die Geschwindigkeit eines einzelnen Pakets, da ein einzelnes Paket nur selten von Bedeutung ist. In Rechen-Begriffen denken wir an Vorstellungen wie Gleitkommaoperationen pro Sekunde, ein ähnliches Konzept. Niemanden interessiert wirklich, wie lange ein einzelner FLOP (Gleitkommaoperation) dauert, sondern nur, wie viele wir in einer oder zehn Sekunden erledigen können.

Wenn wir also einen Ferrari betrachten, könnten wir sagen, dass er eine nutzbare Geschwindigkeit von zweihundert Kisten-Kilometern pro Stunde hat. Das heißt, pro Betriebsstunde kann ein Ferrari eine Kiste bis zu zweihundert Kilometer weit bewegen. Ein Sattelschlepper hat eine nutzbare Geschwindigkeit von einhunderttausend Kisten-Kilometern pro Stunde. Was das Bewegen von Paketen angeht, ist der Durchsatz des Sattelschleppers ohne Weiteres fünfhundertmal “schneller” als der des Ferraris.

In dem Sinne also, wie wir normalerweise über Computer und Netzwerke denken, wäre ein Sattelschlepper “schnell” und ein Ferrari wäre “langsam.”

Aber es gibt auch die Latenz zu berücksichtigen. Unter der Annahme, dass unsere Fracht winzig ist, sagen wir ein Brief oder eine kleine Kiste, kann ein Ferrari diese eine Kiste in nur fünf Stunden über mehr als tausend Kilometer bewegen! Ein Sattelschlepper würde für dieselbe Strecke zehn Stunden brauchen (könnte aber eine MENGE Briefe befördern, die alle auf einmal ankommen). Wenn wir eine Nachricht oder ein kleines Paket sehr schnell von einem Ort zum anderen bringen müssen, ist der Ferrari die bessere Wahl, weil er nur die halbe Latenz (Verzögerung) vom Zeitpunkt der Auslösung der Zustellung bis zur Zustellung des ersten Pakets hat als der Sattelschlepper.

Wie Sie sich vorstellen können, sind Sattelschlepper in den meisten Fällen weitaus praktischer, weil ihre Zustellgeschwindigkeit so viel höher ist. Und da dies der Fall ist, sehen wir tatsächlich ständig große Lastwagen auf den Autobahnen, und die Häufigkeit von Ferraris ist sehr gering – obwohl beide ungefähr gleich viel in der Anschaffung kosten (sehr grob gesagt). Aber in besonderen Fällen ergibt der Ferrari mehr Sinn. Eben nur nicht sehr oft.

Dies ist ein allgemeines Konzept und kann auf zahlreiche Anwendungen zutreffen. Es trifft auf Caching-Systeme, Arbeitsspeicher, CPU, Netzwerke, Betriebssystemkerne und -scheduler, auf Autos und mehr zu. Latenz und Durchsatz stehen im Allgemeinen in einem umgekehrten Verhältnis – wir geben Latenz auf, um Durchsatz zu erlangen. Für die meisten Vorgänge ist dies am sinnvollsten. Doch manchmal ist es sinnvoller, auf Latenz hin abzustimmen.

Speicher ist im Computing tatsächlich ein Sonderfall, bei dem sich nahezu der gesamte Fokus auf die Speicherleistung um IOPS dreht, was grob ein Stellvertretermaß für die Latenz ist, statt um den Durchsatz, der in „übertragenen Daten pro Sekunde“ gemessen wird. Nur selten kümmern wir uns um diese zweite Zahl, da sie fast nie die Ursache von Speicherengpässen ist. Doch dies ist die Ausnahme, nicht die Regel.

Latenz und Durchsatz können in der Welt des Computing einige überraschende Wechselwirkungen aufweisen. Wenn wir beispielsweise über Netzwerke sprechen, messen wir typischerweise nur den Durchsatz (Gb/s), kümmern uns aber selten groß um die Latenz (normalerweise in Millisekunden gemessen). Typischerweise liegt das daran, dass nahezu alle Netzwerksysteme ähnliche Latenzwerte aufweisen und die meisten Anwendungen sich um Latenzverzögerungen so gut wie gar nicht scheren. Nur bei der seltenen Anwendung wie VoIP über internationale Verbindungen oder Satellit wirkt sich Latenz auf den Durchschnittsmenschen aus oder kann Menschen mitunter überraschen, wenn sie etwas Ungewöhnliches wie iSCSI über eine WAN-Verbindung über große Entfernung versuchen und plötzlich die Latenz auftaucht und sie als unvorhergesehenes Problem überrascht.

Einer der Punkte, an denen das Zusammenspiel von Latenz und Durchsatz beginnt, verblüffend und interessant zu werden, ist, wenn wir von elektrischen oder optischen Datennetzen zu physischen übergehen. Ein berühmtes Zitat in der Branche lautet:

Unterschätzen Sie niemals die Bandbreite eines Kombis voller Bänder, der über die Autobahn rast.

Dies ist eine großartige Veranschaulichung enormer Bandbreite bei sehr hoher Latenz. Fährt man fünfzig Meilen quer durch die Stadt, könnte ein einzelner Kombi oder SUV Hunderte von Petabyte an Daten befördern und dabei Datenraten erreichen, an die 10-GB/s-Glasfaser nicht annähernd herankommen könnte. Doch die Zeit, bis das erste Datenpaket eintrifft, beträgt etwa eine Stunde. Wir tun diese Art von Netzwerk oft ab, weil wir annehmen, dass die Latenz bei unter etwa 500 ms gedeckelt sein muss. Aber das ist nicht immer der Fall.

Australien sorgte kürzlich für Schlagzeilen, als man einen Test durchführte, um zu sehen, ob eine Taube, die eine SD-Karte trägt, in puncto Netzwerkdurchsatz den ISP der Region übertreffen könnte – und die Taube erwies sich am Ende als schneller als der ISP!

Was die Rechenleistung angeht, ignorieren wir die Latenz oft so sehr, dass wir uns ihrer nicht einmal als eines Kontextes bewusst sind, in dem über Leistung zu sprechen wäre. Doch in Kreisen mit niedriger Latenz wird sie sehr sorgfältig berücksichtigt. Der Systemdurchsatz wird im Allgemeinen stark reduziert (es wird üblich, Systeme so auszulegen, dass sie nur zehn Prozent CPU-Auslastung erreichen, während herkömmlichere Systeme eher neunzig Prozent anpeilen), wobei Konzepte wie Echtzeit-Kernel, CPU-Affinität, Prozessor-Pinning, Cache-Trefferquoten und gesenkte Auslastung allesamt zum Einsatz kommen, um sich darauf zu konzentrieren, die unmittelbarste mögliche Reaktion aus einem System herauszuholen, statt zu versuchen, die höchste Gesamtverarbeitung aus einem System herauszuholen.

Gängige Bereiche, in denen niedrige Latenz aus rechnerischer Sicht gewünscht ist, sind kritische Steuerungssysteme (etwa Fertigungssteuerungen, bei denen schon eine Millisekunde Latenz Probleme in der Werkshalle verursachen kann) oder Finanzhandelssysteme, bei denen wenige Millisekunden Verzögerung dazu führen können, dass sich der Preis von Anlagen geändert hat oder Produkte bereits verkauft sind und nicht mehr verfügbar sind. Geschwindigkeit, im Sinne von Latenz, ist oft der ausschlaggebende Faktor zwischen Geld verdienen oder Geld verlieren – schon eine einzige Millisekunde kann verheerend sein.

Technisch gesehen müssen sogar Audio- und Videoverarbeitungssysteme latenzempfindlich sein, doch die meisten modernen Computersysteme verfügen über so viel überschüssige Verarbeitungsreserve, und die Latenz ist im Allgemeinen niedrig genug, dass die meisten Systeme – selbst VoIP-Telefonanlagen und Konferenzsysteme – heute funktionieren können, wobei nur sehr selten ein Bewusstsein für Latenzbelange auf der Verarbeitungsseite erforderlich ist (selbst Netzwerklatenz wird als Anliegen immer seltener). Der durchschnittliche Systemadministrator oder -ingenieur könnte ohne Weiteres eine ganze Laufbahn durchlaufen, ohne je an einem System arbeiten zu müssen, das latenzempfindlich ist oder bei dem nicht so viel verfügbare Reserve vorhanden ist, dass jegliche Latenzempfindlichkeit verborgen bleibt.

Geschwindigkeit zu definieren – ob das nun Durchsatz, Latenz oder sogar etwas anderes oder eine Kombination aus beidem bedeutet – ist etwas, das in allen Aspekten der IT und im Leben sehr wichtig ist. Zu verstehen, wie sie sich in verschiedenen Situationen auf uns auswirken und wie sie aufeinander reagieren, wobei sie im Allgemeinen in einem indirekten Verhältnis zueinander stehen, bei dem Verbesserungen des Durchsatzes auf Kosten der Latenz gehen oder umgekehrt, und zu lernen, diese nach Bedarf auszubalancieren, um die Systeme zu verbessern, an denen wir arbeiten, ist sehr wertvoll.