Sete RTX 5090 GPUS Power AI servidor no valor de mais de US $ 30.000 – mais de 4000W de energia e 224 GB de memória em um único quadro
Não é segredo que o RTX 5090 da NVIDIA é uma potência para cargas de trabalho de IA, dadas as melhorias arquitetônicas de Blackwell e o suporte para os formatos de dados de baixa precisão. Uma loja vietnamita, NguyEncongpc (via I_leak_vn), Recentemente compartilhou algumas fotos de uma plataforma de IA que eles montaram para um cliente, com sete RTX 5090s conectados a vários Kilowatt PSUs em um quadro de GPU ao ar livre. Apesar do RTX 5090 médio custar quase US $ 4.000, os profissionais encontram seu desempenho no valor do investimento, embora a NVIDIA não esteja posicionando esses cartões como soluções de estação de trabalho.
O indescritível RTX 5090 esteve fora das prateleiras e fora de alcance durante a maior parte de sua vida útil, a menos que você esteja disposto a pagar pelo nariz. Isso ocorre principalmente porque as margens de lucro da NVIDIA são significativamente mais altas em seus GPUs Blackwell B100/B200/B300 focados no servidor do que nos produtos típicos da GeForce. Para a NVIDIA, alocar o número limitado de bolachas que adquire do TSMC para esses aceleradores de IA é simplesmente mais lucrativo.
O sistema de IA se assemelha a plataformas de mineração da era da pandemia. O quadro GPU ao ar livre carrega sete unidades OC de jogos Gigabyte RTX 5090 conectadas usando o que podemos ver são cabos PCIe Riser, alimentados por vários PSUs de Super Flower Leadex 2000W. O sistema pode ser facilmente avaliado em mais de US $ 30.000, considerando que essas GPUs custam US $ 3.500 a US $ 4.000 em um bom dia.
Esse quadro único oferece um enorme pool de memória de 224 GB para treinamento e inferência de IA. Obviamente, isso não é uma memória unificada; portanto, os desenvolvedores devem confiar em técnicas como o paralelismo do modelo para distribuir cargas de trabalho com eficiência em várias GPUs. Nessa nota, os próximos cartões de estação de trabalho da NVIDIA Blackwell são equipados com até 96 GB de VRAM e custam entre US $ 8.000 e US $ 9.000.
Embora o RTX Pro 6000 Blackwell ofereça mais memória, vários RTX 5090s fornecem uma vantagem de desempenho para tarefas de IA em que a computação bruta é essencial, especialmente com um orçamento limitado. No entanto, quando o preço não é uma preocupação e você deseja dimensionar a IA de maneira mais eficaz, mais VRAM por GPU individual se torna essencial para lidar com modelos complexos com centenas de bilhões de parâmetros.
Com o advento da IA, a Nvidia agora diferencia suas ofertas de GPU por capacidades de memória, o que resulta em uma curva de preço acentuada se você estiver procurando por configurações de memória mais altas. Houve soluções alternativas de modders, onde o RTX 4090s no estilo do soprador com 48 GB de memória são comuns na comunidade chinesa.
Pode levar meses para que os preços se normalizem, pois praticamente todos os novos GPU voam das prateleiras instantaneamente e nunca são vistos no MSRP. Você pode querer conferir o mercado usado para GPUs de última geração, que geralmente podem ser encontradas perto de seus MSRPs de lançamento ou até mais baixos.
