Total Pageviews

Blog Archive

Procura neste Blog

ITO-NeTthings. Com tecnologia do Blogger.
pc

Servidor ASUS Anuncia um avanço de performance de IA com 26 recordes em MLPerf Inference v2.0

Servidor ASUS Anuncia um avanço de performance de IA com 26 recordes em MLPerf Inference v2.0
Share it:
Designs otimizados e capacidades avançadas combinam-se para elevar os servidores da ASUS a posições dominantes nas tabelas de performance de interferência de IA
Servidor ASUS Anuncia um avanço de performance de IA com 26 recordes em MLPerf Inference v2.0
  • Os servidores ASUS dominam na IA: Designs avançados permitem resultados de performance revolucionários, alcançando 26 recordes em seis tarefas de IA
  • ESC8000A-E11 atinge 12 recordes: Servidor dual-socket de 4U com design térmico otimizado com túneis de fluxo de ar independentes para o GPU e o CPU
  • ESC4000A-E11 atinge 14 recordes: Servidor single-socket de 2U que oferece uma vasta gama de aceleradores gráficos, além de suporte para NVIDIA NVLink
A ASUS, a empresa líder de TI em sistemas de servidores, motherboars de servidores e estações de trabalho, lançou hoje os seus resultados pela primeira vez desde que se juntou à MLCommons Association em Dezembro passado - estabelecendo instantaneamente novos recordes de performance em dezenas de tarefas de benchmarking.

Especificamente, na última ronda do MLPerf Inference 2.0, os servidores da ASUS estabeleceram 26 recordes no data center Closed division através de seis tarefas de benchmark de AI, superando todos os outros servidores com as mesmas configurações de GPU. Os resultados consistem em 12 recordes obtidos com um servidor ASUS ESC8000A-E11 configurado com oito GPUs Tensor Core NVIDIA® A100 de 80 GB; e 14 recordes com um servidor ASUS ESC4000A-E11 com quatro GPUs Tensor Core NVIDIA A30 de 24 GB.

Estes resultados inovadores demonstram claramente o domínio da performance dos servidores da ASUS na arena da IA - trazendo um valor significativo para as empresas que procuram implementar IA e garantindo uma performance óptima nos data centers.

A ASUS estabelece 26 registos na inferência da IA, e domina as tabelas de resultados em seis tarefas

O benchmark MLPerf Inference 2.0 cobre seis volumes de trabalho comuns de interferência de IA, incluindo classificação de imagens (ResNet50), deteção de objetos (SSD-ResNet34), segmentação de imagens médicas (3D-Unet), reconhecimento de voz (RNN-T), processamento de linguagem natural (BERT) e recomendação (DLRM).

O ESC8000A-E11 alcançou múltiplas posições de liderança para performance, incluindo:
  • Processou 298105 classificações de imagens por segundo na ResNet50
  • Completou o reconhecimento de objetos de 7462.06 imagens por segundo na SSD-ResNet34
  • Processou 24.3 imagens médicas por segundo em 3D-UNet
  • Completou 26005.7 perguntas e respostas por segundo no BERT
  • Completou 2363760 previsões de cliques por segundo em DLRM

Tabela de Resultados do ESC8000A-E11

Divisão 

Tarefa 

Modelo 

Resultados 

Precisão 

Cenário 

Unidades 

DataCenter Fechado

Classificação da
Imagem

ResNet50

210011

99,00

Servidor 

queries/s

298.105

Offline 

samples/s

Deteção de Objetos
(largo)

SSD-ResNet34

7.096,10

99,00

Servidor 

queries/s

7.462,06

Offline 

samples/s

Imagem Médica

3D-UNet

24,3

99,00

Offline

samples/s

24,3

99,90

Offline

samples/s

Conversação-para-texto

RNN-T

94.996,9

99,00

Servidor 

queries/s

102.738

Offline 

samples/s

Processamento de Linguagem Natural

BERT

23.489,5

99,00

Servidor 

queries/s

26.005,7

Offline 

samples/s

11.491,3

99,90

Servidor 

queries/s

13.168,2

Offline 

samples/s

Recomendações

DLRM

1.601.300

99,00

Servidor 

queries/s

2.363.760

Offline 

samples/s

1.601.300

99,90

Servidor 

queries/s

2.363.760

Offline 

samples/s


O ESC4000A-E11 alcançou múltiplas posições de liderança para performance, incluindo:
  • Processou 73814,5 classificações de imagens de por segundo na ResNet50
  • Completou o reconhecimento de objetos de 1957.18 imagens por segundo na SSD-ResNet34
  • Processou 6.83 imagens médicas por segundo em 3D-UNet
  • Completou 27299,2 conversões de reconhecimento de voz por segundo no RNNT
  • Completou 6896.01 perguntas e respostas por segundo no BERT
  • Completou 574371 previsões de cliques por segundo em DLRM
Tabela de Resultados do ESC4000A-E11

Divisão 

Tarefa 

Modelo 

Resultados 

Precisão 

Cenário 

Unidades 

DataCenter Fechado

Classificação da
Imagem

ResNet50

68192

99,00

Servidor 

queries/s

73.814,5

Offline 

samples/s

Deteção de Objetos
(largo)

SSD-ResNet34

1.886,75

99,00

Servidor 

queries/s

1.957,18

Offline 

samples/s

Imagem Médica

3D-UNet

6,83

99,00

Offline

samples/s

6,83

99,90

Offline

samples/s

Conversação-para-texto

RNN-T

17.391,4

99,00

Servidor 

queries/s

27.299,2

Offline 

samples/s

Processamento de Linguagem Natural

BERT

6.367,97

99,00

Servidor 

queries/s

6.896,01

Offline 

samples/s

2.917,66

99,90

Servidor 

queries/s

3.383,03

Offline 

samples/s

Recomendações

DLRM

560.158

99,00

Servidor 

queries/s

574.371

Offline 

samples/s

560.158

99,90

Servidor 

queries/s

574.371

Offline 

samples/s


Melhoria contínua da performance da IA com design otimizado do servidor

A dúzia de recordes MLPerf Inference 2.0 12 definidos pelo ESC8000A-E11 de 4U e certificado pela NVIDIA - configurado com oito GPUs NVIDIA A100 PCIe Tensor Core de 80 GB e dois CPUs AMD EPYC 7763 - demonstram a sua escalabilidade suprema para IA e Machine Learning. O seu design térmico simplificado, com túneis para fluxo de ar independentes para o CPU e GPU, fornece uma solução de arrefecimento de alta eficiência aos Data Centers arrefecidos a ar.

O ESC4000A-E11, certificado pela NVIDIA, dispõe da dimensão de 2U mais compacta do mercado - e configurado com quatro GPUs NVIDIA A30 PCIe Tensor Core de 24 GB e dois CPUs AMD EPYC 7763 - bateu um total de 14 recordes MPLerf Inference 2.0. Oferece uma vasta gama de aceleradores gráficos, e suporte para a interligação de alta velocidade do GPU NVIDIA NVLink, para libertar a performance máxima de IA.

Disponibilidade & Preços

Os Servidores da ASUS estão mundialmente disponíveis. Por favor contacta o teu representante local da ASUS para mais informações.
Share it:

pc

Post A Comment:

0 comments: