Un serveur d¨¦di¨¦ GPU est un serveur ¨¦quip¨¦ de plusieurs processeurs graphiques (GPU) qui d¨¦livre davantage de puissance et de rapidit¨¦ pour prendre en charge les t?ches gourmandes en ressources de calcul, par exemple le rendu vid¨¦o, l¡¯analytique de donn¨¦es et l¡¯apprentissage machine. Les serveurs d¨¦di¨¦s GPU peuvent ¨¦galement int¨¦grer un processeur sp¨¦cialis¨¦ et offrir de grandes quantit¨¦s de RAM et d¡¯espace de stockage.
L¡¯architecture parall¨¨le d¡¯un GPU, initialement con?u pour le traitement graphique et vid¨¦o, permet ¨¤ ce type de serveur de g¨¦rer plusieurs t?ches simultan¨¦ment ¨¤ des vitesses qui d¨¦passent les capacit¨¦s d¡¯un simple serveur bas¨¦ sur des processeurs.
Qu¡¯est-ce qu¡¯un serveur rack GPU??
Un serveur rack GPU est un serveur ¨¦quip¨¦ de processeurs graphiques sp¨¦cialement con?us pour ¨ºtre install¨¦s dans un rack de serveurs. Un rack de serveurs se pr¨¦sente sous la forme d¡¯une structure rectangulaire qui int¨¨gre plusieurs logements de montage destin¨¦s ¨¤ accueillir des serveurs rack et d¡¯autres composants r¨¦seau. Les serveurs sont empil¨¦s les uns sur les autres pour r¨¦duire l¡¯encombrement au sol et coulissent simplement via un syst¨¨me de tiroir.
Un serveur rack GPU garantit, entre autres avantages, une meilleure utilisation de l¡¯espace, une plus grande ¨¦volutivit¨¦, un ¨¦coulement d¡¯air optimal et une plus grande simplicit¨¦ de maintenance.
Pourquoi utiliser un serveur d¨¦di¨¦ GPU??
Les GPU ne sont ni plus ni moins que l¡¯¨¦quivalent des CPU, mais dans une version sp¨¦cialis¨¦e et optimis¨¦e pour le d¨¦bit. Plut?t que d¡¯utiliser de nombreux c?urs ??lourds?? capables de d¨¦livrer de hautes fr¨¦quences d¡¯horloge pour prendre en charge une grande diversit¨¦ de t?ches de calcul, les GPU s¡¯appuient sur des milliers de c?urs all¨¦g¨¦s, optimis¨¦s pour traiter la m¨ºme op¨¦ration en parall¨¨le (SIMD, Single Instruction, Multiple Data).
Ces c?urs suivent des ensembles d¡¯instructions optimis¨¦s pour le traitement arithm¨¦tique ¨¤ matrice dimensionnelle et pour les calculs en virgule flottante, ce qui acc¨¦l¨¨re l¡¯alg¨¨bre lin¨¦aire et contribue ¨¤ produire un syst¨¨me optimis¨¦ pour le calcul parall¨¨le.
Les serveurs d¨¦di¨¦s GPU sont adapt¨¦s ¨¤ de nombreux cas d¡¯usage?:
- Pipelines d¡¯analytique et Big Data
- Vid¨¦o en streaming
- Traitement d¡¯images
- Animations et simulations en?3D (par exemple, mod¨¦lisation du repliement prot¨¦ique)
- Applications de deep learning (reconnaissance vocale par exemple)
- Cassage de mots de passe (pour la r¨¦cup¨¦ration des mots de passe)
- Minage de cryptomonnaie
Un serveur d¨¦di¨¦ GPU peut ¨ºtre une excellente solution si vous cherchez ¨¤ acc¨¦l¨¦rer une op¨¦ration bien sp¨¦cifique qui pourrait tirer avantage d¡¯une ex¨¦cution parall¨¨le sur plusieurs milliers de c?urs.
Types de serveurs rack GPU
Les serveurs rack GPU sont mont¨¦s dans des racks ou des armoires. Les racks de serveurs et leurs ¨¦quipements internes sont mesur¨¦s en unit¨¦s de rack (??U?? ou ??RU??). Une unit¨¦ de rack, ??U??, d¨¦crit la hauteur de l¡¯¨¦quipement (par exemple, la hauteur d¡¯un serveur ou la hauteur et le nombre d¡¯¨¦tag¨¨res dans un rack de serveurs).
Une U est ¨¦gale ¨¤ 1,75?pouce?; la hauteur d¡¯un serveur?1U est donc de 1,75?pouce, et celle d¡¯un serveur?2U est de 3,5?pouces. Un rack?32U, par exemple, peut contenir 32?serveurs?1U, 4?serveurs?8U ou 1?serveur?32U.
Pour en savoir plus sur les dimensions de racks, consultez le Guide des tailles de racks de serveurs 19?pouces (en anglais).
Grand ou compact?: quel format choisir??
Les principales diff¨¦rences entre les diff¨¦rents formats de serveurs rack r¨¦sident dans leur densit¨¦ et leur capacit¨¦ d¡¯extension.
Serveurs rack GPU 1U et 2U
Les formats compacts (serveurs rack GPU 1U et 2U, par exemple) sont con?us dans une logique de densit¨¦ des performances. Ils sont en revanche moins puissants que les plus grands formats de serveurs GPU. Leurs co?ts r¨¦duits et leur capacit¨¦ ¨¤ ¨¦conomiser de l¡¯espace rack les rendent tr¨¨s attractifs, c¡¯est pourquoi ils sont couramment utilis¨¦s.
Les serveurs rack GPU 1U et 2U sont faciles ¨¤ entretenir, ¨¤ transporter et ¨¤ faire ¨¦voluer (avec la possibilit¨¦ d¡¯en utiliser plusieurs pour augmenter les performances). Un serveur?1U peut g¨¦n¨¦ralement accueillir un ou deux processeurs, plusieurs t¨¦raoctets de m¨¦moire et plusieurs processeurs graphiques. Un serveur?2U (deux fois plus haut qu¡¯un serveur?1U) procure l¨¦g¨¨rement plus d¡¯espace pour la puissance de calcul et le stockage.
Dans les serveurs plus compacts, les processeurs graphiques sont g¨¦n¨¦ralement mont¨¦s ¨¤ l¡¯horizontale pour des questions de contraintes d¡¯espace. Ces serveurs offrent ¨¦galement moins d¡¯espace pour les logements?PCIe et le stockage, bien qu¡¯il soit possible d¡¯utiliser un kit d¡¯extension PCIe ou un bo?tier JBOD.
Serveurs rack GPU 8U et 16U
Les serveurs rack GPU plus hauts (8U et 16U par exemple) sont con?us pour les charges de travail qui exigent des performances plus intenses. Ils offrent davantage d¡¯espace de stockage et int¨¨grent des logements d¡¯extension suppl¨¦mentaires pour vous permettre d¡¯ajouter des cartes PCIe afin d¡¯am¨¦liorer les performances de traitement de donn¨¦es. L¡¯espace suppl¨¦mentaire garantit ¨¦galement une meilleure circulation de l¡¯air, ce qui ¨¦vite les risques de surchauffe.
Dans les plus grands formats, les processeurs graphiques sont mont¨¦s ¨¤ la verticale. Un espace est pr¨¦vu au-dessus de la carte (et non ¨¤ l¡¯arri¨¨re) pour le raccordement des connexions d¡¯alimentation.
Comment dimensionner un serveur d¨¦di¨¦ GPU
Pour le dimensionnement d¡¯un serveur d¨¦di¨¦ GPU, vous devez imp¨¦rativement tenir compte des fonctionnalit¨¦s produit dont vous avez besoin et ¨¦valuer vos besoins m¨¦tier actuels et futurs. La configuration de serveur optimale d¨¦pend de vos charges de travail, des cas d¡¯usage sp¨¦cifiques du serveur et du degr¨¦ de rapidit¨¦ recherch¨¦.
Les serveurs d¨¦di¨¦s GPU peuvent ¨ºtre configur¨¦s pour des charges de travail sp¨¦cifiques, par exemple le rendu vid¨¦o, l¡¯entra?nement de mod¨¨les deep learning, l¡¯inf¨¦rence, l¡¯analytique et le Big Data, ou encore le calcul haute performance (HPC). La configuration de serveur optimale d¨¦pend de vos charges de travail, des cas d¡¯usage sp¨¦cifiques du serveur et du degr¨¦ de rapidit¨¦ recherch¨¦.
Les processeurs graphiques consomment ¨¦norm¨¦ment d¡¯¨¦nergie et g¨¦n¨¨rent d¡¯immenses quantit¨¦s de chaleur. Plus massifs que les simples processeurs, ils ont besoin d¡¯espace suppl¨¦mentaire pour accueillir leurs connecteurs d¡¯alimentation. Le ch?ssis du serveur doit non seulement ¨ºtre suffisamment large pour accueillir le nombre de GPU que vous voulez utiliser, mais ¨¦galement assurer une bonne ventilation d¡¯air pour ¨¦viter les surchauffes et l¡¯.
Combien co?te un serveur d¨¦di¨¦ GPU??
Les co?ts varient in¨¦vitablement selon que vous d¨¦cidiez de d¨¦velopper votre propre serveur, de louer un serveur ou d¡¯utiliser des services bas¨¦s sur le cloud.
Si vous d¨¦veloppez votre propre serveur, vous devez tenir compte non seulement du co?t du processeur graphique proprement dit, mais ¨¦galement du co?t de l¡¯alimentation, du ch?ssis, du processeur sp¨¦cialis¨¦, de la RAM et du stockage. Il peut ¨¦galement ¨ºtre int¨¦ressant de prendre en compte les co?ts associ¨¦s au d¨¦veloppement de datacenters on-premises, notamment les co?ts d¡¯alimentation, d¡¯espace, de refroidissement et de maintenance.
Les processeurs graphiques sont class¨¦s en fonction de leur sp¨¦cialisation et leurs prix varient selon leur cas d¡¯usage. Par exemple, NVIDIA propose des serveurs ¨¦quip¨¦s de GPU Tesla?V100 qui conviennent pour le deep learning et les calculs haute pr¨¦cision. Un de type NVIDIA?GTX?Titan?Z peut co?ter autour de 3?000?$.
Si vous optez pour une plateforme cloud, un certain nombre de fournisseurs de services cloud, notamment des grands noms comme AWS?V2?Cloud, Google?Cloud?Platform ou Azure, proposent des plans d¡¯abonnement ¨¤ des serveurs d¨¦di¨¦s GPU. AWS, par exemple, propose une ¨¤ partir de 0,900?$ de l¡¯heure pour un processeur graphique et quatre c?urs virtuels.
Serveur rack GPU?: achat ou location??
Le choix de l¡¯achat ou de la location d¨¦pend de plusieurs facteurs, ¨¤ commencer par le budget de votre entreprise et par les cas d¡¯usage potentiels.
L¡¯achat d¡¯un serveur rack GPU implique des co?ts initiaux et, ¨¤ cet ¨¦gard, les GPU haut de gamme con?us pour les charges de travail associ¨¦es ¨¤ l¡¯apprentissage machine peuvent ¨ºtre tout particuli¨¨rement on¨¦reux. Ajoutez ¨¤ cela les co?ts de maintenance, d¡¯¨¦nergie et de bande passante que vous devrez supporter en stockant votre serveur GPU on-premises, et vous obtenez des co?ts d¡¯investissement initiaux litt¨¦ralement astronomiques.
Face au rythme soutenu des innovations technologiques modernes, sachez que votre tout nouveau serveur GPU risque de devenir obsol¨¨te avant m¨ºme que puissiez rentabiliser votre investissement. La mise ¨¤ jour du syst¨¨me peut ¨¦galement induire des co?ts suppl¨¦mentaires.?
Si vous intervenez sur des datasets volumineux et que vous envisagez de d¨¦ployer vos mod¨¨les dans un environnement de production, envisagez plut?t de louer une infrastructure GPU aupr¨¨s d¡¯un fournisseur de services cloud. Ce mod¨¨le d¡¯abonnement repose sur une tarification horaire ou mensuelle, en fonction des ressources que vous utilisez, et vous permet de monter ou de diminuer en capacit¨¦ en fonction de vos besoins actuels.
B¨¦n¨¦ficiez d¡¯une infrastructure IA ¨¤ la pointe de la technologie gr?ce ¨¤ É«¿Ø´«Ã½
Performances optimis¨¦es, flexibilit¨¦ accrue, meilleure utilisation des ressources CPU?: un serveur d¨¦di¨¦ GPU offre un certain nombre d¡¯avantages comparativement ¨¤ un serveur purement bas¨¦ sur des processeurs. Les serveurs d¨¦di¨¦s GPU peuvent ¨ºtre soit achet¨¦s directement, soit lou¨¦s aupr¨¨s d¡¯un fournisseur de services.?
É«¿Ø´«Ã½? et NVIDIA ont d¨¦velopp¨¦ conjointement AIRI//S?, une infrastructure?IA simple et hautement ¨¦volutive, reposant sur le stockage flash. Pilot¨¦e par les syst¨¨mes NVIDIA?DGX nouvelle g¨¦n¨¦ration, l¡¯infrastructure AIRI//S repose sur le stockage FlashBlade//S? de É«¿Ø´«Ã½, le syst¨¨me d¡¯exploitation É«¿Ø´«Ã½ Purity//FB et la solution de gestion cloud Pure1?.
Repoussez les limites de l¡¯IA avec Pure et AIRI//S.
