logo
Casa Casos

Dell Pro Precision 9 T4 Review: 86 Cores Xeon e Duas GPUs RTX PRO 6000 para Modelos Grandes Demais para Uma Placa

Certificado
China Beijing Qianxing Jietong Technology Co., Ltd. Certificações
China Beijing Qianxing Jietong Technology Co., Ltd. Certificações
Revisões do cliente
A equipe de vendas da tecnologia Co. de Qianxing Jietong do Pequim, Ltd é muito profissional e paciente. Podem fornecer cotações rapidamente. A qualidade e o empacotamento dos produtos são igualmente muito bons. Nossa cooperação é muito lisa.

—— LLC do》 de Festfing DV do 《

Quando eu procurava o processador central de intel e o SSD de Toshiba urgentemente, Sandy da tecnologia Co. de Qianxing Jietong do Pequim, Ltd deu-me muita ajuda e obteve-me os produtos que eu precisei rapidamente. Eu aprecio-a realmente.

—— Kitty Yen

Sandy da tecnologia Co. de Qianxing Jietong do Pequim, Ltd é um vendedor muito cuidadoso, que possa me lembrar de erros da configuração a tempo quando eu compro um servidor. Os coordenadores são igualmente muito profissionais e podem rapidamente terminar o processo de teste.

—— Strelkin Mikhail Vladimirovich

Estamos muito satisfeitos com a nossa experiência de trabalho com a Beijing Qianxing Jietong. A qualidade do produto é excelente e a entrega é sempre pontual. A equipe de vendas é profissional, paciente e muito prestativa com todas as nossas perguntas. Agradecemos muito o seu apoio e esperamos uma parceria de longo prazo. Altamente recomendado!

—— Ahmad Navid

Qualidade: Ótima experiência com o meu fornecedor. O MikroTik RB3011 já estava usado, mas estava em muito bom estado e tudo funcionava perfeitamente.E todas as minhas preocupações foram resolvidas rapidamente.Fornecedor muito fiável, altamente recomendado.

—— Geran Colesio

Estou Chat Online Agora

Dell Pro Precision 9 T4 Review: 86 Cores Xeon e Duas GPUs RTX PRO 6000 para Modelos Grandes Demais para Uma Placa

November 17, 2026

O Dell Pro Precision 9 T4 é a torre single-socket carro-chefe da linha Pro Precision da Dell, e esta unidade de revisão está configurada para IA local em uma escala que a maioria das workstations não consegue atingir. Ele combina um Intel Xeon 698X de 86 núcleos com 256 GB de memória DDR5-6400 ECC, duas placas NVIDIA RTX PRO 6000 Blackwell Max-Q de 300 W com 96 GB de GDDR7 cada, dois SSDs Gen5 de 2 TB e um adaptador 25 GbE dual-port, utilizando uma fonte de alimentação de 2400 W. 


mais recente caso da empresa sobre Dell Pro Precision 9 T4 Review: 86 Cores Xeon e Duas GPUs RTX PRO 6000 para Modelos Grandes Demais para Uma Placa  0


Principais Conclusões


  • 1. Uma segunda GPU transforma um modelo que não cabe em uma placa em um utilizável. O MiniMax M2.7 com 129,3 GB gerou 83,7 tokens/s para um único usuário quando dividido entre as duas placas, 2,8x os 30,3 tokens/s alcançados com uma placa e o restante do modelo na memória do sistema.
  • 2. A segunda GPU escalou o serviço em 1,85–2,02x e o embedding em 1,92x. A saída máxima do llama.cpp aumentou de 582,5 para 1.176,1 tokens/s no Ministral 3 3B e de 424,8 para 787,9 tokens/s no gpt-oss 120B com um servidor por GPU, enquanto o embedding de um milhão de passagens da Wikipedia caiu de 890 para 464 segundos.
  • 3. Uma segunda GPU reduziu uma época de LoRA em 37%: uma época no Ministral 3 8B levou 31,5 minutos em uma GPU e 19,7 minutos em duas, terminando com perdas retidas de 1,169 e 1,167.A largura de banda da memória é onde o Xeon se destaca. O STREAM Triad atingiu 328 GB/s, 53% acima do Threadripper PRO 9995WX no Precision 7875, e o T4 terminou a resolução do driver OpenFOAM em 293 segundos contra 556, e uma execução y-cruncher de 10 bilhões de dígitos em 53,9 segundos contra 83,7.
  • 4. O Precision 7875 lidera em trabalho de CPU limitado por núcleos: seu Threadripper de 96 núcleos rodou 37% mais rápido no 7-Zip e 30% mais rápido no Blender Monster, e terminou a compilação LLVM em 43,7 segundos contra 58,4.


Onde o T4 se Encaixa


A Dell posiciona o T4 como sua workstation torre single-socket carro-chefe para organizações que necessitam de densidade de computação e expansibilidade máximas, com desenvolvimento de IA, simulação de engenharia e computação científica no topo de sua lista de cargas de trabalho. Ele fica acima do Pro Precision 9 T2, que usa a mesma plataforma de workstation Xeon 6 em um chassi menor com uma GPU. O T4 adiciona os processadores de oito canais no topo da linha, até 86 núcleos, e espaço para até quatro placas gráficas, dependendo do modelo.


As opções de processador começam no Xeon 634 de 12 núcleos e vão até o Xeon 696X de 64 núcleos, até o Xeon 698X nesta unidade, que possui 336 MB de cache, um clock base de 2,0 GHz, um máximo de 4,8 GHz e uma classificação de 350 W. A memória escala para 4 TB de DDR5 RDIMM em 16 slots, e esta unidade preenche oito deles com módulos de 32 GB a 6400 MT/s. Os gráficos começam com uma única RTX A400, com a contagem de placas ligada ao modelo: o configurador da Dell lista quatro placas RTX A1000, três placas RTX PRO 4000 Blackwell, duas placas RTX PRO 6000 Max-Q de 300 W, ou uma RTX PRO 6000 de 600 W.


A configuração base custa US$ 5.925. Esta montagem adiciona US$ 8.300 pelo Xeon 698X, US$ 15.000 por 256 GB de memória e US$ 30.820 pelo par de placas RTX PRO 6000 Max-Q, antes do armazenamento, rede e atualização ProSupport de 36 meses que a Dell aplica automaticamente neste nível.


Construção, Design e Especificações


O T4 é uma torre completa com 449,8 mm de altura, 203,7 mm de largura e 617,5 mm de profundidade, listado com um peso mínimo de 24,1 kg e máximo de 33,6 kg, dependendo da configuração. Esta unidade usa a fonte de 2400 W Platinum que o configurador da Dell seleciona para a configuração de RTX PRO 6000 dupla, com uma fonte de 1500 W como padrão em configurações mais leves.


A manutenibilidade é um ponto forte, começando com acesso sem ferramentas através de uma trava no painel lateral e uma fonte de alimentação de 2400 W que desliza para fora da parte traseira superior manualmente. Todo o resto, incluindo placas gráficas e SSDs, é removido com uma chave Phillips, e os pontos de toque azuis da Dell marcam as peças que se soltam manualmente. O laboratório achou a plataforma fácil de reparar em campo, o que importa a este preço.


A refrigeração é a melhor execução que vimos da Dell nesta classe de torres. O ar se move de frente para trás, e grandes carenagens moldadas o direcionam para baixo e sobre o processador e a memória, mantendo esse canal separado da área PCIe. Isso dá às duas placas de 300 W um fluxo de ar independente, para que não puxem ar aquecido pelo Xeon de 350 W. Dois ventiladores ficam entre a zona do processador e o compartimento da placa, e o conjunto de ventiladores carrega os mesmos pontos de toque azuis e se levanta para acesso à memória.


A expansão ocorre através de seis slots PCIe de altura total: dois Gen5 x16 que carregam as GPUs, um Gen5 x8, um Gen4 x8 e dois slots Gen4 com conectores x8 e fiação x4. O armazenamento cobre três slots M.2 Gen5 internos e um slot Gen4, duas baias SATA internas de 3,5 polegadas e um FlexBay frontal que comporta até quatro drives NVMe ou dois drives de 3,5 polegadas ao lado de uma unidade óptica slim opcional. Esta unidade inicializa a partir de um drive Gen5 interno de 2 TB e carrega um segundo drive Gen5 de 2 TB em outro slot M.2 interno.


O painel frontal possui um conector para fone de ouvido, duas portas USB-A de 10 Gbps, uma porta USB-C de 20 Gbps com PowerShare, uma porta USB-C de 10 Gbps e um slot para cartão SD opcional. A parte traseira adiciona portas RJ-45 de 10 GbE e 1 GbE, quatro portas USB-A de 10 Gbps, duas portas USB-C de 10 Gbps, uma porta USB-C de 20 Gbps, serial, duas portas PS/2 e saída de linha. Esta unidade adiciona o adaptador Intel E810-XXV dual-port 25 GbE SFP28, MediaTek Wi-Fi 7 MT7925 com Bluetooth 5.4, um leitor de cartão de mídia e a placa add-in dual USB-C da Dell.


Segurança e gerenciamento cobrem TPM 2.0, Dell SafeBIOS, detecção de intrusão no chassi, suporte a drives de auto-criptografia, limpeza segura da BIOS e Intel vPro Enterprise. A Dell lista o T4 com até 85% de plástico reciclado em componentes chave, 90% de alumínio reciclado nas alças e 11% de aço reciclado no chassi, e a configuração é qualificada ENERGY STAR.



Item Especificação
Modelo Dell Pro Precision 9 T4 (PW9T4260)
Processador (como testado)

Intel Xeon 698X, 86 núcleos / 172 threads, cache de 336 MB, 2,0 GHz base, até 4,8 GHz, 350 W

Opções de processador Xeon 634 (12 núcleos) a Xeon 698X (86 núcleos)
Memória 256 GB (8x 32 GB) DDR5-6400 RDIMM ECC; 16 slots, até 4 TB
Gráficos 2x NVIDIA RTX PRO 6000 Blackwell Max-Q, 96 GB GDDR7 cada, 300 W cada
Sistema operacional Windows 11 Pro for Workstations (testado em Ubuntu 26.04.1 LTS)
Armazenamento configurado 2x 2 TB M.2 2280 Gen5 x4 TLC SED (ambos em slots M.2 internos)
Slots de armazenamento interno 3x M.2 2230/2280 Gen5 NVMe; 1x M.2 2230/2280 Gen4 NVMe; 2x SATA de 3,5 polegadas
FlexBay Até 4 drives NVMe mais ODD slim opcional, ou 2x SATA de 3,5 polegadas
Slots PCIe 2x Gen5 x16; 1x Gen5 x8; 1x Gen4 x8; 2x Gen4 x8 (elétrico x4)
Rede

Intel E810-XXV dual-port 25 GbE SFP28 (add-in);

10 GbE e 1 GbE RJ-45 onboard; MediaTek Wi-Fi 7 MT7925, Bluetooth 5.4

Portas frontais

1x USB-C 20 Gbps com PowerShare; 1x USB-C 10 Gbps;

2x USB-A 10 Gbps; conector para fone de ouvido; slot para cartão SD opcional

Portas traseiras

1x USB-C 20 Gbps; 2x USB-C 10 Gbps;

4x USB-A 10 Gbps; serial; 2x PS/2; saída de linha

Fonte de alimentação 2400 W Platinum (opção de 1500 W)
Dimensões 449,8 x 203,7 x 617,5 mm
Peso 24,1 kg a 33,6 kg por configuração
Segurança e gerenciamento

TPM 2.0, Dell SafeBIOS, detecção de intrusão no chassi,

suporte a drives de auto-criptografia, limpeza segura da BIOS, Intel vPro Enterprise

Sustentabilidade

Até 85% de plástico reciclado em componentes chave, alças de alumínio 90% reciclado,

chassi de aço 11% reciclado; qualificado ENERGY STAR

Garantia ProSupport com serviço no local após diagnóstico remoto, 36 meses
Preço US$ 5.925 base; cerca de US$ 66.600 configurado 


Configuração e Metodologia de Teste

Todos os quatro sistemas rodaram Ubuntu 26.04.1 LTS no kernel 7.0.0-43 com driver NVIDIA 595.99.02, CUDA 13, build llama.cpp b11716 e Ollama 0.40.3, no perfil de energia de desempenho Linux. Os resultados vêm do sr-client para IA local e cargas de trabalho de cliente, sr-harness para compilação, compressão, criptografia, web serving e y-cruncher, e sr-suite r5.28 para GROMACS, OpenFOAM, ClickHouse, Valkey e largura de banda de memória; cada figura é a mediana de execuções repetidas. Todos os sistemas rodaram com o modo térmico da BIOS definido como Ultra Performance, com o T4 na BIOS 1.2.0.


Cada sistema de comparação é uma torre Dell com gráficos RTX PRO 6000 Blackwell. O Precision 7875 combina o Threadripper PRO 9995WX de 96 núcleos com as mesmas duas placas Max-Q e 512 GB de DDR5-5600, tornando-o o mais próximo. O Pro Precision 9 T2 roda o Xeon 658X de 24 núcleos com uma placa Max-Q, e o Pro Max Tower T2 roda o Core Ultra 9 285K de 24 núcleos com a RTX PRO 6000 de 600 W, mostrando o que o limite de energia mais alto adiciona por GPU.


Desempenho de IA Local


Todos os sistemas aqui carregam pelo menos uma RTX PRO 6000 Blackwell com 96 GB de GDDR7, então os resultados de GPU única medem a placa, seu limite de energia e a rapidez com que a plataforma a alimenta. As duas placas do T4 são o que o diferenciam, e os testes de duas GPUs rodam cada modelo de três maneiras, quando aplicável: dois servidores independentes, um por GPU, para throughput; um modelo dividido por camada entre as duas placas; e, para o MiniMax M2.7, uma placa com o restante do modelo na memória do sistema.


Em uma GPU, o T4 atinge o limite de 300 W. Ele gerou 166,9 tokens/s para um usuário no gpt-oss 120B e atingiu o pico de 424,8 em 64 requisições concorrentes, entre 1% e 9% do Precision 7875 com a mesma placa Max-Q em todos os quatro modelos e no mesmo nível do Pro Precision 9 T2. A placa de 600 W no Pro Max Tower T2 é 13% a 25% mais rápida no pico em todos os modelos, atingindo 520,7 tokens/s no gpt-oss 120B.


Executar um servidor por GPU aumentou a saída máxima do T4 em 1,85 a 2,02x em todos os quatro modelos: 582,5 a 1.176,1 tokens/s no Ministral 3 3B, 383,6 a 765,7 no modelo de 8B e 158,1 a 310,8 no Qwen3.8 27B. O gpt-oss 120B escalou 1,85x para 787,9 tokens/s no T4 e 1,98x para 905,8 no Precision 7875, atingindo um pico de 128 requisições concorrentes contra 64 para o T4.


Dividir o gpt-oss 120B por camada entre as duas placas é a maneira mais lenta de usar a segunda GPU quando o modelo já cabe em uma: ele serviu um usuário a 170,6 tokens/s, dentro de 3% de uma única placa, e atingiu o pico de 539,2, 27% acima de uma GPU, mas bem abaixo dos 787,9 que duas réplicas entregaram. O layout dividido ganha seu lugar para modelos que não cabem em uma placa, que é onde o MiniMax M2.7 entra.


O MiniMax M2.7 é um modelo mixture-of-experts de 230 bilhões de parâmetros, e esta quantização de 4 bits ocupa 129,3 GB, mais do que os 96 GB de uma RTX PRO 6000. Em uma placa com o restante na memória do sistema, o T4 gerou 30,3 tokens/s para um usuário e levou 16,2 segundos para retornar o primeiro token. Dividido entre as duas placas, a saída de usuário único aumentou para 83,7 tokens/s, 2,8x a taxa de uma placa; o tempo para o primeiro token caiu de 16,2 para 3,1 segundos e o throughput de pico aumentou de 35,5 para 127,3 tokens/s.


Os números de GPU única mostram o quanto a plataforma host importa quando um modelo se espalha para a memória do sistema. Os oito canais DDR5-6400 do T4 o colocam 34% à frente do Pro Precision 9 T2 de quatro canais a 22,6 tokens/s e 1,9x à frente do Pro Max Tower T2 de canal duplo a 15,8, mesmo que a placa de 600 W desse sistema seja mais rápida em todos os modelos que cabem. O Precision 7875 superou o T4 a 32,8 tokens/s com 35% menos largura de banda de memória, então a largura de banda sozinha não explica o resultado; relatamos a liderança do 7875 como medida sem isolar sua causa.


As cargas de modelo frias favorecem os drives Gen5: o T4 carregou gpt-oss:120b de seu SSD SK hynix Gen5 em 15,2 segundos, igualando o Pro Precision 9 T2 e bem à frente dos 25,8 e 28,2 segundos no Precision 7875 equipado com Gen4 e Pro Max Tower T2. As cargas quentes da cache de página invertem essa ordem, com o 7875 a 5,0 segundos contra 7,5 no T4, e carregar uma cópia em cada GPU simultaneamente levou 26,5 segundos no T4.


RAG, Fine-Tuning e IA Generativa


O teste RAG em escala esconde perguntas SQuAD entre um milhão de passagens da Wikipedia, as incorpora com nomic-embed-text, constrói um índice HNSW e responde com Phi-4-mini. Duas GPUs reduziram o tempo de embedding do T4 de 890 para 464 segundos, um aumento de 1,92x, contra 423 segundos para o Precision 7875; a placa de 600 W no Pro Max Tower T2 foi a GPU única mais rápida a 722 segundos.


A construção do índice e a busca de vetores rodam na CPU, e é aí que o T4 lidera. Ele construiu o índice HNSW em 27,3 segundos contra 34,8 no Precision 7875 e 118,6 no Pro Max Tower T2, e buscou a 98.503 consultas/s com ef 64, 1,51x o 7875 e 5,6x o sistema Core Ultra. Com ef 256, manteve 32.149 consultas/s com 97,6% de recall contra busca exata, com respostas retornando em uma mediana de 0,12 segundos.


O teste de LoRA de uma época ajusta o Ministral 3 8B em BF16 no Dolly 15k em 1.849 passos e pontua 200 exemplos retidos a cada 100 passos. Cada sistema começou com uma perda retida de 1,534 e terminou entre 1,167 e 1,172, então a diferença se resume ao tempo por época. Uma GPU T4 terminou em 31,5 minutos a 1.584 tokens/s, dentro de 3% do Pro Precision 9 T2 na mesma placa Max-Q; o Precision 7875 levou 27,2 minutos e a placa de 600 W no Pro Max Tower T2 levou 22,3 minutos. Adicionar a segunda GPU reduziu a época do T4 para 19,7 minutos a 2.528 tokens/s, um aumento de 1,60x que superou os 22,3 minutos da placa única de 600 W, enquanto o Precision 7875 completou sua época de duas GPUs em 18,1 minutos, um aumento de 1,50x.


Ambas as placas rodam em paralelo de dados com dois exemplos por GPU e gradientes acumulados para o mesmo lote global de oito, então a execução de duas GPUs vê os mesmos exemplos em cada passo e atinge a mesma perda. Com dois exemplos curtos por GPU em cada passagem, a segunda placa tem pouco trabalho para absorver e a troca de gradientes ocupa uma parte maior de cada passo. A época atingiu o pico de 19,5 GiB de memória de GPU em uma placa e 19,7 GiB por placa em duas, uma fração dos 96 GB disponíveis.


O T4 também passou em todas as execuções de agente de codificação em todos os níveis de modelo, incluindo todas as três execuções gpt-oss:20b com um contexto de 64K onde os outros três sistemas passaram em dois de três, e gerou 161,5 tokens/s no gpt-oss:120b. A geração de imagens roda em uma GPU, então seus 40,96 imagens/min no FLUX.2 klein em BF16 fica com os outros sistemas Max-Q e atrás da placa de 600 W a 54,25.


Resultados de CPU, Armazenamento, Térmicos e Serviço


Os resultados da CPU colocam os 86 núcleos Xeon do T4 contra os 96 núcleos Threadripper do Precision 7875, com os dois T2 de 24 núcleos como pontos de referência. O T4 lidera onde a largura de banda da memória decide o resultado, e o 7875 lidera onde a contagem de núcleos e os clocks o fazem.


O T4 marcou 619,8 GIPS no 7-Zip e 961,8 amostras/min no Blender Monster, 2,2x e 2,4x o Pro Precision 9 T2 de 24 núcleos, enquanto o Precision 7875 rodou 37% mais rápido no 7-Zip e 30% mais rápido no Blender, terminou a compilação LLVM em 43,7 segundos contra 58,4, e a compilação Linux allmodconfig em 264 segundos contra 312. A velocidade por núcleo é o ponto fraco do T4, com a menor pontuação de 7-Zip em um único thread neste grupo a 8,85 GIPS.


A codificação x265 do HandBrake é o outlier aqui, e a causa é o codificador mais do que o processador: os outros três sistemas ficaram entre 40,0 e 41,7 fps com 24 ou 96 núcleos, então o x265 neste preset não escala com a contagem de núcleos, e os 31,4 fps do T4 são consistentes com sua menor velocidade por núcleo nos threads que o x265 usa. Durante a codificação, o T4 teve uma média de cerca de 1 GHz em seus 172 threads a 51°C a 64°C, mostrando a maior parte do chip ociosa. O SVT-AV1 escalou melhor, a 159,4 fps no T4 contra 255,8 no 7875.


Oito canais de DDR5-6400 dão ao T4 328 GB/s no STREAM Triad, 53% acima do DDR5-5600 do Precision 7875 e 2,3x o Pro Precision 9 T2 de quatro canais. O trabalho limitado por largura de banda segue: o T4 resolveu o caso drivAer OpenFOAM de 3 milhões de células em 293 segundos contra 556 no 7875 e 826 no Pro Precision 9 T2, enquanto o Pro Max Tower T2 não terminou dentro do limite de 150 minutos da suíte; o T4 também rodou o caso de 22,6 milhões de células em 6.851 segundos.


O GROMACS benchPEP, o grande caso de dinâmica molecular all-core, rodou a 1,243 ns/dia no T4 contra 1,034 no 7875, e a resolução LU atingiu 1.660 GFLOPS contra 1.172. O y-cruncher computou 10 bilhões de dígitos de Pi em 53,9 segundos contra 83,7 e 25 bilhões em 155,6 segundos contra 259,6. A computação densa que permanece na cache favorece o Threadripper, que liderou o OpenBLAS DGEMM a 4.745 GFLOPS contra 3.664.


O ClickHouse rodou as 43 consultas ClickBench em 3,21 segundos (quente) e 6,45 segundos (frio) no T4, 0,33 segundos atrás do 7875 na execução quente e 0,64 segundos à frente na execução fria. O Valkey favorece núcleos rápidos em vez de muitos núcleos, e os 666.714 SET requests/s do T4 ficam atrás de todos os três sistemas de comparação, com o Core Ultra 9 285K liderando a 1,72 milhão — um padrão que corresponde aos resultados de um único thread do T4 e vale a pena considerar para serviços com latência limitada. Com todos os 172 threads carregados e o processador a uma média de 87°C, o T4 buscou 68,21 milhões de nós/s no Stockfish, 1,5x o Pro Precision 9 T2 de 48 threads e bem menos da metade dos 168,27 do 7875 em 192 threads.


O drive de boot Gen5 SK hynix de 2 TB do T4 entregou leituras sequenciais de 14.152 MB/s e escritas de 10.078 MB/s, aproximadamente o dobro dos drives Gen4 no Precision 7875 e Pro Max Tower T2, com desempenho aleatório atingindo o pico de 2,31 milhões de IOPS de leitura e 1,83 milhões de IOPS de escrita. A leitura sequencial de 20.914 MB/s do Pro Precision 9 T2 excede o que um link Gen5 x4 carrega, o que se encaixa no array em striping de drives Samsung PM9E1 desse sistema; aqui o drive de boot foi testado sozinho, sem o segundo drive de 2 TB.


Com a BIOS no modo Ultra Performance, o Xeon 698X atingiu o pico de 93°C no 7-Zip e 96°C no GROMACS, e os números de clock são médias de todos os 172 CPUs lógicos. Blender e Stockfish carregam todos os threads e mantiveram 2,5 GHz a 2,6 GHz, acima dos 2,0 GHz base. GROMACS e OpenBLAS carregam 64 e 86 núcleos físicos e deixam os threads restantes ociosos perto de 0,8 GHz, razão pela qual suas médias são de cerca de 1,3 GHz. O trabalho liderado pela GPU manteve o processador mais frio, com uma média de 61°C a 65°C durante o LLM serving, fine-tuning e RAG, já que esses testes dependem das placas.


Conclusão


O Dell Pro Precision 9 T4 é construído para trabalho de IA local, e a segunda RTX PRO 6000 é onde ele se destaca. Duas placas Max-Q aumentaram o throughput de pico de serviço em 1,85 a 2,02x em quatro modelos e o throughput de embedding em 1,92x, reduziram uma época de LoRA no Ministral 3 8B de 31,5 para 19,7 minutos e transformaram o MiniMax M2.7 — um modelo grande demais para uma placa — de 30,3 para 83,7 tokens/s para um único usuário. No gpt-oss 120B, um servidor por GPU atingiu 7.091 tokens/s totais a 64 requisições, enquanto dividir o modelo entre as duas placas retornou o primeiro token de um único usuário em 719ms contra 1.189ms.


mais recente caso da empresa sobre Dell Pro Precision 9 T4 Review: 86 Cores Xeon e Duas GPUs RTX PRO 6000 para Modelos Grandes Demais para Uma Placa  1


Oito canais de DDR5-6400 deram ao Xeon 698X uma vantagem de 53% na largura de banda de memória sobre o Threadripper PRO 9995WX. Essa largura de banda levou o T4 a resultados mais rápidos em OpenFOAM, GROMACS benchPEP, y-cruncher e busca HNSW do que o Precision 7875, e seu armazenamento Gen5 carregou modelos grandes mais rapidamente. O chassi também merece crédito, com o melhor layout de refrigeração que vimos da Dell nesta classe e acesso sem ferramentas à fonte de alimentação.


O 7875 permanece à frente em trabalho de renderização, compressão e compilação limitado por núcleos em 18% a 38%, e em 60% no SVT-AV1. A velocidade por núcleo do Xeon ficou atrás de todos os sistemas deste grupo, o que se mostrou no Valkey e outros serviços com poucos threads. O fine-tuning em uma única GPU também foi mais lento no T4, onde a época de LoRA levou 31,5 minutos contra 27,2 no 7875 e 22,3 na placa de 600 W no Pro Max Tower T2, com todos os sistemas terminando dentro de 0,005 da mesma perda retida.


Por cerca de US$ 66.600 configurado, o T4 atende a equipes que desejam servir, incorporar e ajustar modelos localmente — incluindo modelos que precisam de mais de 96 GB de memória de GPU — ao lado de simulação e análise limitada por memória na mesma máquina. Compradores cujo trabalho é principalmente renderização e compilação acharão a plataforma Threadripper mais rápida, e compradores que precisam de uma GPU podem obter a mesma placa no menor Pro Precision 9 T2.


Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Diretor de Estratégia Global
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Foco de Negócios:
Distribuição de Produtos de TI/Integração de Sistemas e Serviços/Soluções de Infraestrutura
Com mais de 20 anos de experiência em distribuição de TI, fazemos parceria com as principais marcas globais para fornecer produtos confiáveis e serviços profissionais.
"Usando a Tecnologia para Construir um Mundo Inteligente" Seu Provedor Confiável de Serviços de Produtos de TI!

Contacto
Beijing Qianxing Jietong Technology Co., Ltd.

Pessoa de Contato: Ms. Sandy Yang

Telefone: 13426366826

Envie sua pergunta diretamente para nós (0 / 3000)