色控传媒

Um servidor de GPU dedicado é um servidor com uma ou mais unidades de processamento gráfico (GPUs, Graphics Processing Units) que oferece mais potência e velocidade para executar tarefas com uso intensivo de computa??o, como renderiza??o de vídeo, análise de dados e aprendizado de máquina. Os servidores dedicados de GPU também podem ter uma CPU especializada e vêm com grandes quantidades de RAM e armazenamento.

A arquitetura paralela de uma GPU, originalmente desenvolvida para lidar com processamento de gráficos e vídeos, permite que um servidor dedicado de GPU gerencie várias tarefas simultaneamente em velocidades além das capacidades de um servidor baseado em CPU.

O que é um servidor de rack de GPU?

Um servidor de rack de GPU é um servidor equipado com GPUs desenvolvidas para caber em um rack de servidor. Um rack de servidor é uma estrutura retangular com vários slots de montagem desenvolvidos para armazenar servidores de rack e outros componentes de rede. Os servidores s?o empilhados uns sobre os outros para minimizar o uso do espa?o físico e s?o deslizados para dentro e para fora do rack conforme necessário.

Um servidor de rack de GPU oferece várias vantagens, incluindo melhor utiliza??o do espa?o, maior escalabilidade, fluxo de ar maximizado e manuten??o mais fácil.

Raz?es para usar um servidor de GPU dedicado

As GPUs s?o as contrapartes para CPUs especializadas e otimizadas para taxa de transferência. Em vez de ter alguns núcleos pesados com altas velocidades de clock capazes de realizar uma grande variedade de tarefas computacionais, as GPUs empregam milhares de núcleos leves otimizados para processar a mesma opera??o em paralelo (ou seja, instru??o única, vários dados [SIMD]).

Esses núcleos têm conjuntos de instru??es otimizados para cálculos de ponto flutuante e aritmético de matriz dimensional, acelerando a álgebra linear. O resultado final é um sistema otimizado para computa??o paralela.

Os motivos pelos quais você pode querer usar um servidor de GPU dedicado incluem:

• Fluxos de análise de Big Data
• Transmiss?o de vídeo
• Processamento de imagens
• Anima??es e simula??es em 3D (por exemplo, a modelagem do dobramento da cadeia proteica)
• Aplicativos de aprendizagem profunda (por exemplo, reconhecimento de fala)
• Rachadura de hash (por exemplo, recupera??o de senha)
• Criptomoeda de minera??o

Se você tem uma única opera??o que precisa ser acelerada e que pode se beneficiar da execu??o paralela em milhares de núcleos, um servidor de GPU dedicado pode ajudar.

Tipos de servidores de rack de GPU

Os servidores de rack de GPU se encaixam em servidores de rack ou gabinetes. Os racks de servidores e os equipamentos instalados neles s?o medidos em unidades de rack, gravados como “U” ou, às vezes, “RU”. Um “U” descreve a altura do equipamento (por exemplo, a altura de um servidor ou a altura e o número de prateleiras em um rack de servidores).

Um U é igual a 1,75 polegadas, de modo que a altura de um servidor 1U seria de 1,75 polegadas e um servidor 2U seria de 3,5 polegadas. Uma unidade de rack de 32U, por exemplo, pode comportar 32 servidores 1U, 4 servidores 8U ou 1 servidor 32U.

Leia “Um guia definitivo para tamanhos de rack de servidor de 19-Inch” para obter mais informa??es sobre o dimensionamento de rack.

Fatores de forma menores vs. fatores de forma maiores

As principais diferen?as entre os fatores de forma de servidor de rack menor e maior s?o sua densidade e capacidade de expans?o.

Servidores rack de GPU 1U e 2U

Fatores de forma menores, como servidores rack de GPU 1U e 2U, s?o desenvolvidos com a densidade de desempenho em mente, mas s?o menos potentes do que fatores de forma de servidor de GPU maiores. Eles s?o comumente usados devido aos custos mais baixos e à capacidade de economizar espa?o no rack do servidor.

Os servidores rack de GPU 1U e 2U s?o fáceis de manter, altamente portáteis e fáceis de expandir (você pode expandir o desempenho usando vários deles). Um servidor 1U normalmente pode ter uma CPU ou dois, vários terabytes de memória e várias GPUs. Um servidor de 2U com o dobro da altura do servidor de 1U dará a você um pouco mais de espa?o para poder de computa??o e armazenamento.

Em servidores de fator de forma menor, as GPUs normalmente s?o montadas horizontalmente devido a restri??es de espa?o. Também há menos espa?o para slots e armazenamento PCIe, embora você possa expandi-los usando um kit de expans?o PCIe ou um gabinete JBOD.

Servidores rack de GPU 8U e 16U

Servidores de rack de GPU maiores, como 8U e 16U, s?o voltados para cargas de trabalho que exigem recursos de desempenho mais abrangentes. Eles vêm com mais espa?o para armazenamento e slots de expans?o adicionais, permitindo que você conecte placas PCIe adicionais para aumentar o desempenho do processamento de dados. O espa?o adicional também promove melhor circula??o de ar para evitar superaquecimento.

Em um formato maior, as GPUs s?o instaladas verticalmente com espa?o extra para conex?es de energia localizadas na parte superior da placa, e n?o na parte traseira.

Como dimensionar um servidor de GPU dedicado

Ao dimensionar um servidor de GPU dedicado, você precisará considerar os recursos do produto que deseja, bem como suas necessidades de negócios atuais e futuras. A configura??o ideal do servidor depende das cargas de trabalho de destino, dos casos de uso específicos desse servidor e da velocidade necessária.

Os servidores dedicados de GPU podem ser configurados para cargas de trabalho específicas, como renderiza??o de vídeo, treinamento de aprendizagem profunda, inferência, análise de Big Data e computa??o de alto desempenho (HPC, High-Performance Computing). A configura??o ideal do servidor depende das cargas de trabalho de destino, dos casos de uso específicos desse servidor e da velocidade necessária.

As GPUs usam muita energia e geram muito calor. Eles s?o maiores do que CPUs e precisam de espa?o extra para conectores de energia. O rack do servidor n?o deve apenas ser grande o suficiente para se adequar à quantidade de GPUs que você deseja usar, mas também fornecer boa ventila??o de ar para evitar superaquecimento e .

Quanto custa um servidor de GPU dedicado?

? compreensível que os custos variem dependendo de você optar por criar seu próprio servidor de GPU dedicado, alugar um servidor ou usar servi?os baseados em nuvem.

Se você for criar seu próprio servidor, precisará considerar o custo da GPU, bem como a fonte de alimenta??o, o rack, a CPU especializada, a RAM e o armazenamento. Você também pode precisar considerar os custos que acompanham a constru??o de datacenters locais, como custos de energia, espa?o, refrigera??o e manuten??o.

As GPUs s?o classificadas em especializa??es e os pre?os variam de acordo com o caso de uso. Por exemplo, a NVIDIA oferece servidores V100-based adequados para aprendizagem profunda e cálculos de alta precis?o. Uma , como a Nvidia GTX Titan Z da NVIDIA, pode custar cerca de US$ 3.000.

Se você optar por uma plataforma de nuvem, há vários provedores de servi?os de nuvem que oferecem planos de servidor dedicados com tecnologia de GPU, incluindo os principais provedores de servi?os de nuvem, como AWS V2 Cloud, Google Cloud Platform e Azure . A AWS, por exemplo, oferece a partir de US$ 0,900 por hora para uma GPU e quatro núcleos virtuais.

Servidor de rack de GPU: Compra x aluguel

Escolher comprar ou alugar se resume a vários fatores. O or?amento e os casos de uso potenciais da sua empresa s?o os principais.

Comprar um servidor de rack de GPU envolve custos iniciais. As placas de vídeo com melhor classifica??o para cargas de trabalho de aprendizado de máquina podem ter um pre?o alto. Adicione isso aos custos de manuten??o, energia e largura de banda do armazenamento do seu servidor de GPU no local, e seus custos iniciais de investimento podem ser astron?micos.

Com o ritmo das inova??es tecnológicas modernas, comprar um servidor de GPU corre o risco de se tornar obsoleto antes que você possa obter um retorno sobre seu investimento. A atualiza??o do sistema também incorrerá em custos adicionais.?

Se você trabalha com grandes conjuntos de dados e planeja implantar seus modelos em um ambiente de produ??o, considere alugar a infraestrutura de GPU por meio de um provedor de servi?os de nuvem. Esse modelo de assinatura permite que você pague por hora ou mensalmente, dependendo dos recursos usados e aumente ou diminua com base nas demandas atuais.

Obtenha infraestrutura de AI de última gera??o com a 色控传媒

Um servidor de GPU dedicado oferece várias vantagens em rela??o a um servidor baseado em CPU, incluindo melhor desempenho, maior flexibilidade e melhor utiliza??o dos recursos da CPU. Os servidores dedicados de GPU podem ser adquiridos diretamente ou alugados de um provedor de servi?os.?

A AIRI.0 é uma infraestrutura de AI simples, altamente escalável e baseada em flash desenvolvida pela 色控传媒 ? e pela NVIDIA . A AIRI?conta com os sistemas NVIDIA DGX mais atuais com armazenamento FlashBlade//S? da 色控传媒, o sistema operacional Purity//FB da 色控传媒 e o gerenciamento de nuvem Pure1?.

Experimente novos níveis de sucesso de AI com a Pure e a AIRI.