É«¿Ø´«Ã½

Ein dedizierter GPU-Server ist ein Server mit mindestens einer GPU (Graphics Processing Unit), die die zum Ausf¨¹hren von rechenintensiven Aufgaben wie Video-Rendering, Datenanalyse und maschinelles Lernen erforderliche Leistung und Geschwindigkeit bietet. Dedizierte GPU-Server k?nnen auch eine spezielle CPU enthalten und sind mit besonders gro?em RAM und Storage ausgestattet.

Dank der parallelen Architektur einer GPU, die urspr¨¹nglich f¨¹r die Grafik- und Videoverarbeitung entwickelt wurde, kann ein dedizierter GPU-Server mehrere Aufgaben gleichzeitig mit einer Geschwindigkeit bew?ltigen, die die M?glichkeiten eines CPU-basierten Servers ¨¹bersteigt.

Was ist ein GPU-Rack-Server?

Ein GPU-Rack-Server ist ein Server, der mit speziell f¨¹r ein Server-Rack entwickelten GPUs ausgestattet ist. Ein Server-Rack ist ein rechteckiges Gestell mit mehreren Einbausch?chten zur Aufnahme von Rack-Servern und anderen Netzwerkkomponenten. Server werden platzsparend aufeinander gestapelt und werden je nach Bedarf in das Rack hineingeschoben oder aus dem Rack herausgezogen.

Ein GPU-Rack-Server bietet verschiedene Vorteile wie eine bessere Raumnutzung, eine h?here Skalierbarkeit, eine optimierte Luftf¨¹hrung und eine einfachere Wartung.

Gr¨¹nde f¨¹r den Einsatz eines dedizierten GPU-Servers

GPUs sind die durchsatzoptimierten, spezialisierten Pendants zu CPUs. Anstelle einiger ressourcenintensiver Kerne mit hohen Taktfrequenzen zum Durchf¨¹hren verschiedener rechenintensiver Aufgaben kommen bei GPUs Tausende von ressourcenschonenden Kernen zum Einsatz, die f¨¹r die parallele Verarbeitung (d.?h. f¨¹r SIMD, Single Instruction, Multiple Data) dieser Prozesse optimiert sind.

Diese Kerne arbeiten mit Befehlss?tzen, die f¨¹r die dimensionale Matrixarithmetik und Gleitkommaberechnungen optimiert sind, und erm?glichen so eine schnellere lineare Algebra. So entsteht ein f¨¹r parallele Berechnungen optimiertes System.

Gr¨¹nde f¨¹r den Einsatz eines dedizierten GPU-Servers:

• Big-Data-Analyse-Pipelines
• Streaming-Videos
• Bildverarbeitung
• 3D-Animationen und Simulationen (z.?B. Modellierung der Faltung von Proteinketten)
• Deep-Learning-Anwendungen (z.?B. Spracherkennung)
• Hash-Cracking (z.?B. Passwortwiederherstellung)
• Crypto-Mining

Wenn auch nur eine Operation beschleunigt werden muss, die von der parallelen Ausf¨¹hrung auf Tausenden Kernen profitieren kann, kann sich ein dedizierter GPU-Server lohnen.

Arten von GPU-Rack-Servern

GPU-Rack-Server passen in Server-Racks oder Schr?nke. Server-Racks und die darin installierten Ger?te werden in H?heneinheiten (HE) angegeben. Eine HE beschreibt die H?he der Ger?te (z.?B. die H?he eines Servers oder die H?he und Anzahl der F?cher in einem Server-Rack).

Eine HE entspricht 1,75?Zoll. Das bedeutet, dass die H?he eines 1-HE-Servers 1,75?Zoll und die eines 2-HE-Servers 3,5?Zoll entspricht. Eine 32-HE-Rack-Einheit kann beispielsweise 32 1-HE-Server, 4 8-HE-Server oder 1 32-HE-Server aufnehmen.

Weitere Informationen zum Rack-Sizing finden Sie unter ?A Definitive Guide to 19-Inch Server Rack Sizes¡°.

Kleinere und gr??ere Formfaktoren im Vergleich

Rack-Server mit kleineren bzw. gr??eren Formfaktoren unterscheiden sich haupts?chlich durch ihre Dichte und Erweiterungsf?higkeit.

1-HE- & 2-HE-GPU-Rack-Server

GPU-Server mit kleineren Formfaktoren (z.?B. 1- und 2-HE-GPU-Rack-Server) wurden speziell f¨¹r eine hohe Performance-Dichte entwickelt, sind daf¨¹r jedoch nicht so leistungsf?hig wie GPU-Server mit gr??eren Formfaktoren. Sie werden h?ufig verwendet, weil sie kosteng¨¹nstiger sind und wenig Platz im Server-Rack beanspruchen.

1-HE- und 2-HE-GPU-Rack-Server sind wartungsfreundlich, extrem portabel und einfach zu skalieren (die Performance kann durch Einsatz mehrerer Server skaliert werden). Ein 1-HE-Server kann in der Regel ein bis zwei CPUs, mehrere Terabyte Speicher und mehrere GPUs aufnehmen. Ein 2-HE-Server mit der doppelten H?he eines 1-HE-Servers bietet etwas mehr Platz f¨¹r Rechenleistung und Storage.

In Servern mit kleinerem Formfaktor werden die GPUs aus Platzgr¨¹nden in der Regel horizontal montiert. Zudem ist wenig Platz f¨¹r PCIe-Steckpl?tze und Storage vorhanden, wobei hier die M?glichkeit der Erweiterung mittels PCIe-Erweiterungs-Kit oder JBOD-Geh?use besteht.

8-HE- & 16-HE-GPU-Rack-Server

Gr??ere GPU-Rack-Server mit 8?HE und 16?HE sind auf Workloads ausgelegt, die eine umfangreichere Leistungsf?higkeit erfordern. Sie verf¨¹gen ¨¹ber mehr Platz f¨¹r Storage und zus?tzliche Erweiterungssteckpl?tze, sodass mit zus?tzlichen PCIe-Karten die Performance bei der Datenverarbeitung verbessert werden kann. Der zus?tzliche Platz ist dar¨¹ber hinaus auch f¨¹r eine bessere Luftzirkulation zur Vermeidung einer ?berhitzung f?rderlich.

In Servern mit gr??erem Formfaktor werden GPUs vertikal installiert, wobei sich der zus?tzliche Platz f¨¹r die Stromanschl¨¹sse an der Oberseite der Karte und nicht an deren R¨¹ckseite befindet.

So bemessen Sie die Gr??e eines dedizierten GPU-Servers

Beim Sizing eines dedizierten GPU-Servers m¨¹ssen Sie die gew¨¹nschten Produktfunktionen sowie Ihre aktuellen und zuk¨¹nftigen Gesch?ftsanforderungen ber¨¹cksichtigen. Die optimale Serverkonfiguration h?ngt von den Ziel-Workloads, den jeweiligen Anwendungsf?llen des Servers und der gew¨¹nschten Geschwindigkeit ab.

Dedizierte GPU-Server k?nnen f¨¹r bestimmte Ziel-Workloads wie Video-Rendering, Deep-Learning-Training, Inferenz, Big-Data-Analyse und High-Performance-Computing (HPC) konfiguriert werden. Die optimale Serverkonfiguration h?ngt von den Ziel-Workloads, den jeweiligen Anwendungsf?llen des Servers und der gew¨¹nschten Geschwindigkeit ab.

GPUs verbrauchen viel Strom und erzeugen jede Menge W?rme. Sie sind gr??er als CPUs und ben?tigen zus?tzlichen Platz f¨¹r Stromanschl¨¹sse. Das Servergeh?use muss nicht nur gro? genug sein, um die gew¨¹nschte Anzahl von GPUs aufzunehmen. Zur Vermeidung von ?berhitzung und muss es auch eine gute Bel¨¹ftung erm?glichen.

Wie viel kostet ein dedizierter GPU-Server?

Verst?ndlicherweise variieren die Kosten, je nachdem, ob Sie einen eigenen dedizierten GPU-Server bauen, einen Server mieten oder Cloud-basierte Services nutzen.

Wenn Sie einen eigenen Server bauen, m¨¹ssen Sie die Kosten f¨¹r GPU, Netzteil, Geh?use, die spezielle CPU, RAM und Storage ber¨¹cksichtigen. M?glicherweise m¨¹ssen Sie auch die mit dem Bau von lokalen Rechenzentren verbundenen Kosten, beispielsweise f¨¹r Strom, Platz, K¨¹hlung und Wartung, ber¨¹cksichtigen sind.

GPUs werden nach Spezialisierungen eingeteilt, und die Preise variieren je nach Anwendungsfall. NVIDIA bietet beispielsweise Tesla V100-basierte Server an, die f¨¹r Deep Learning und hochpr?zise Berechnungen geeignet sind. Eine wie die Nvidia GTX Titan Z von NVIDIA kann rund 3.000?USD kosten.

Wenn Sie sich f¨¹r eine Cloud-Plattform entscheiden, k?nnen Sie zwischen verschiedenen Cloud-Serviceprovidern w?hlen, die Tarife f¨¹r dedizierte GPU-gest¨¹tzte Server bieten, darunter die gro?en Cloud-Serviceprovider wie AWS V2 Cloud, Google Cloud Platform und Azure. AWS bietet beispielsweise ab 0,900?USD pro Stunde f¨¹r eine GPU und vier virtuelle Kerne.

GPU-Rack-Server: kaufen oder mieten

Die Entscheidung f¨¹r Kauf oder Miete h?ngt von verschiedenen Faktoren ab. Dabei sind die wichtigsten Faktoren das Budget des Unternehmens und die potenziellen Anwendungsf?lle.

Der Kauf eines GPU-Rack-Servers ist mit Anschaffungskosten verbunden. GPUs mit Spitzenbewertungen f¨¹r Machine-Learning-Workloads k?nnen recht kostspielig sein. Zusammen mit den Kosten f¨¹r Wartung, Energie und Bandbreite, die beim Aufstellen des GPU-Servers vor Ort anfallen, k?nnen Ihre anf?nglichen Investitionskosten in astronomische H?hen steigen.

Angesichts der rasanten Innovationen bei modernen Technologien birgt der Kauf eines GPU-Servers das Risiko, dass er veraltet ist, bevor sich Ihre Investition bezahlt gemacht hat. Dar¨¹ber hinaus entstehen auch durch die Aktualisierung des Systems zus?tzliche Kosten.?

Wenn Sie mit gro?en Datens?tzen arbeiten und Ihre Modelle in einer Produktionsumgebung implementieren m?chten, sollten Sie sich ¨¹berlegen, ob es nicht sinnvoll ist, eine GPU-Infrastruktur bei einem Cloud-Serviceprovider anzumieten. Bei diesem Abonnementmodell bezahlen Sie je nach genutzten Ressourcen stundenweise oder monatlich und k?nnen die Leistung dem jeweiligen Bedarf anpassen.

Modernste KI-Infrastruktur dank É«¿Ø´«Ã½

Ein dedizierter GPU-Server bietet gegen¨¹ber einem CPU-basierten Server verschiedene Vorteile wie etwa eine h?here Leistung, mehr Flexibilit?t und eine bessere Auslastung von CPU-Ressourcen. Dedizierte GPU-Server k?nnen gekauft oder von einem Serviceprovider angemietet werden.?

AIRI//S? ist eine einfache, extrem skalierbare Flash-basierte KI-Infrastruktur, die von É«¿Ø´«Ã½? und NVIDIA entwickelt wurde. AIRI//S basiert auf den neuesten NVIDIA-DGX-Systemen und É«¿Ø´«Ã½ FlashBlade//S?-Storage, dem Betriebssystem É«¿Ø´«Ã½ Purity//FB und Pure1? f¨¹r das Cloud-Management.

Beispielloser KI-Erfolg dank Pure und AIRI//S.