Forscher der Universitäten Cambridge und London haben mit Sandstorm einen
Spezialisierung für mehr Leistung: So lässt sich die
Dieser wurde auf Basis des Netmap-Frameworks von FreeBSD entwickelt, das den Pufferspeicher der Netzwerk-Interfaces direkt in den Userspace mappt. Sandstorm ist ausschließlich dafür ausgelegt, statische Dateien auszuliefern. Und das soll Sandstorm deutlich schneller können als herkömmliche Webserver. Nach Ansicht der Forscher ist für solche Server in Systemlandschaften mit hunderten oder tausenden Servern, die spezielle Aufgaben übernehmen, ausreichend Platz. So könnten Server wie Sandstorm beispielsweise eingesetzt werden, um Bilder oder statische Inhalte aus einem Cache auszuliefern.
Es sind vor allen drei Dinge die Sandstorm schneller machen sollen als herkömmliche Webserver wie Nginx, die schon heute diverse Optimierungen nutzen, um statische Inhalte sehr schnell und mit geringer CPU-Last auszuliefern. Erstens haben die drei Forscher einen kompletten Zerocopy-Stack umgesetzt, so dass das Senden der Daten sehr effizient erfolgt. Das bezieht sich nicht nur auf Daten, die das Betriebssystem bereitstellt, beispielsweise Dateisystem-Blöcke, sondern umfasst auch HTTP-Header, die von der Applikation bereitgestellt werden.
Zweitens optimieren sie über traditionelle Grenzen hinweg, so dass beispielsweise Code auf Applikationsebene eine Vorabsegmentierung von Daten anfordern kann, um diese mehrfach auszuliefern. Zudem wird extensives Batching genutzt, um den Overhead von Systemaufrufen aus dem Userspace zu reduzieren.
Drittens ist die Implementierung synchron, ausgehend von empfangenen Paketen was das Caching verbessern und die Latenz beim Senden des ersten Antwort-Pakets minimieren soll. Dabei wird auf Queues und das Zwischenspeichern von Daten verzichtet.
Vorgefertigte Pakete
Letztendlich lädt Sandstorm eine statische Datei in den Speicher, generiert daraus alle Pakete, die gesendet werden müssen, um sie zu übertragen, einschließlich TCP, IP und Link-Layer-Headern. Wird die Datei angefragt, muss der Server nur noch TCP-Protokoll-Control-Blocks (TCB) anfordern, um den Status der Verbindung zu überwachen, die eigentlichen Pakete, die er senden muss, liegen aber schon fertig vor. Die Pakete werden dann direkt per Netmap an das Netzwerk-Interface gesendet.
3,5 Mal mehr Durchsatz als Nginx
Die Forscher haben ihre Implementierung gegen Nginx unter FreeBSD und Linux getestet, einmal auf alter Hardware (zwei Xeon X5355, Intels Netzwerkkarte 82598EB Dual Port 10GbE und 8 GByte RAM) mit Linux 3.6.7 und FreeBSD 9-Stable und einmal auf moderner Hardware (Xeon E5-2643 mit vier Kernen, 128 GByte RAM und drei Intel-Netzwerkkarte vom Typ 82599EB 10GbE) mit Linux 3.10.10 und FreeBSD 10-Current mit speziellen Patches von Netflix zur Optimierung von sendfile().
Auf alter Hardware erreicht Sandstorm bei zwei gleichzeitigen Verbindungen einen um rund 35 Prozent höheren Datendurchsatz. Mit steigender Zahl gleichzeitiger Verbindungen hat Sandstorm größere Vorteile. Allerdings ist es nicht möglich, die eine Netzwerkkarte mit kleinen Dateien auszulasten. Das gelingt erst bei Dateigrößen ab etwa 100 KByte.
Interessanter sind die Ergebnisse auf der modernen Hardware, die Data Direct I/O unterstützt und somit DMA-Zugriffe über PCIe von der Netzwerkkarte direkt auf den Last-Level Cache (LLC) des Prozessors zulässt. Sandstorm kann dadurch eine einzelne 10-Gigabit-Ethernet-Karte bei nur 13 Prozetn CPU-Last vollständig ausnutzen, skaliert linear bis zu sechs Netzwerkkarten und erreicht damit einen Datendurchsatz von 55 GBit/s bei 73 Prozent CPU-Last. Die konventionellen Stacks kommen den Forschern zufolge nicht über 16 GBit/s bei vier Netzwerkkarten.
Golem.de
Du musst dich
Anmelden
oder
Registrieren
um diesen link zusehen!
entwickelt, der auf die Auslieferung statischer Inhalte optimiert ist. Er ist in Tests dreimal so schnell wie Nginx und erzeugt dabei weniger CPU-Last, so dass er moderne Netzwerkhardware voll ausnutzen kann. AnzeigeSpezialisierung für mehr Leistung: So lässt sich die
Du musst dich
Anmelden
oder
Registrieren
um diesen link zusehen!
. Aktuelle Netzwerk-Stacks seinen ein "Meisterwerk der Generalität", schrieben die drei, die mit ihrem Webserver Sandstorm zeigen, dass sich durch Spezialisierung die Leistung deutlich steigern lässt. Denn die herkömmlichen Netzwerk-Stacks basieren alle auf Code, der Anfang der 90er Jahre entstand.Dieser wurde auf Basis des Netmap-Frameworks von FreeBSD entwickelt, das den Pufferspeicher der Netzwerk-Interfaces direkt in den Userspace mappt. Sandstorm ist ausschließlich dafür ausgelegt, statische Dateien auszuliefern. Und das soll Sandstorm deutlich schneller können als herkömmliche Webserver. Nach Ansicht der Forscher ist für solche Server in Systemlandschaften mit hunderten oder tausenden Servern, die spezielle Aufgaben übernehmen, ausreichend Platz. So könnten Server wie Sandstorm beispielsweise eingesetzt werden, um Bilder oder statische Inhalte aus einem Cache auszuliefern.
Es sind vor allen drei Dinge die Sandstorm schneller machen sollen als herkömmliche Webserver wie Nginx, die schon heute diverse Optimierungen nutzen, um statische Inhalte sehr schnell und mit geringer CPU-Last auszuliefern. Erstens haben die drei Forscher einen kompletten Zerocopy-Stack umgesetzt, so dass das Senden der Daten sehr effizient erfolgt. Das bezieht sich nicht nur auf Daten, die das Betriebssystem bereitstellt, beispielsweise Dateisystem-Blöcke, sondern umfasst auch HTTP-Header, die von der Applikation bereitgestellt werden.
Zweitens optimieren sie über traditionelle Grenzen hinweg, so dass beispielsweise Code auf Applikationsebene eine Vorabsegmentierung von Daten anfordern kann, um diese mehrfach auszuliefern. Zudem wird extensives Batching genutzt, um den Overhead von Systemaufrufen aus dem Userspace zu reduzieren.
Drittens ist die Implementierung synchron, ausgehend von empfangenen Paketen was das Caching verbessern und die Latenz beim Senden des ersten Antwort-Pakets minimieren soll. Dabei wird auf Queues und das Zwischenspeichern von Daten verzichtet.
Vorgefertigte Pakete
Letztendlich lädt Sandstorm eine statische Datei in den Speicher, generiert daraus alle Pakete, die gesendet werden müssen, um sie zu übertragen, einschließlich TCP, IP und Link-Layer-Headern. Wird die Datei angefragt, muss der Server nur noch TCP-Protokoll-Control-Blocks (TCB) anfordern, um den Status der Verbindung zu überwachen, die eigentlichen Pakete, die er senden muss, liegen aber schon fertig vor. Die Pakete werden dann direkt per Netmap an das Netzwerk-Interface gesendet.
3,5 Mal mehr Durchsatz als Nginx
Die Forscher haben ihre Implementierung gegen Nginx unter FreeBSD und Linux getestet, einmal auf alter Hardware (zwei Xeon X5355, Intels Netzwerkkarte 82598EB Dual Port 10GbE und 8 GByte RAM) mit Linux 3.6.7 und FreeBSD 9-Stable und einmal auf moderner Hardware (Xeon E5-2643 mit vier Kernen, 128 GByte RAM und drei Intel-Netzwerkkarte vom Typ 82599EB 10GbE) mit Linux 3.10.10 und FreeBSD 10-Current mit speziellen Patches von Netflix zur Optimierung von sendfile().
Auf alter Hardware erreicht Sandstorm bei zwei gleichzeitigen Verbindungen einen um rund 35 Prozent höheren Datendurchsatz. Mit steigender Zahl gleichzeitiger Verbindungen hat Sandstorm größere Vorteile. Allerdings ist es nicht möglich, die eine Netzwerkkarte mit kleinen Dateien auszulasten. Das gelingt erst bei Dateigrößen ab etwa 100 KByte.
Interessanter sind die Ergebnisse auf der modernen Hardware, die Data Direct I/O unterstützt und somit DMA-Zugriffe über PCIe von der Netzwerkkarte direkt auf den Last-Level Cache (LLC) des Prozessors zulässt. Sandstorm kann dadurch eine einzelne 10-Gigabit-Ethernet-Karte bei nur 13 Prozetn CPU-Last vollständig ausnutzen, skaliert linear bis zu sechs Netzwerkkarten und erreicht damit einen Datendurchsatz von 55 GBit/s bei 73 Prozent CPU-Last. Die konventionellen Stacks kommen den Forschern zufolge nicht über 16 GBit/s bei vier Netzwerkkarten.
Golem.de
