Nvidia fica em primeiro lugar no desempenho de inferência de IA


nvidia
Crédito: Freepik

A Nvidia oferece os melhores resultados em inferência de IA utilizando chips x86 ou CPUs Arm, conforme benchmarks divulgados pela companhia nesta quarta-feira, 22. Essa é a terceira vez consecutiva que a NVIDIA bate recordes em desempenho e eficiência energética em testes de inferência do MLPerf, grupo de benchmarking da indústria formado em 2018.

Pela primeira a Nvidia executou os testes de categoria de data center em sistema baseado em Arm, dando aos usuários mais opções de como implantar a inteligência artificial.

PUBLICIDADE

Os sistemas baseados na plataforma Nvidia AI superaram todos os sete testes de desempenho de inferência na última rodada. Os testes utilizaram sistemas da Nvidia e de nove dos parceiros de ecossistema. O que inclui Alibaba, Dell Technologies, Fujitsu, GIGABYTE, Hewlett Packard Enterprise, Inspur, Lenovo, Nettrix e Supermicro.

A inferência é o que acontece quando um computador executa um software de IA para reconhecer um objeto ou fazer uma previsão. O processo usa um modelo de deep learning para filtrar dados. Os benchmarks de inferência do MLPerf são baseados nas cargas de trabalho e cenários de IA mais populares da atualidade. Eles abrangem visão computacional, imagens médicas, processamento de linguagem natural, sistemas de recomendação e aprendizado.

Os benchmarks mostram que os servidores baseados em Arm que usam CPUs Ampere Altra oferecem desempenho quase igual a servidores baseados em x86 configurados de forma semelhante para trabalhos de inferência de IA.

Nos testes, a empresa empregou o pacote completo de softwares. O Kit de Ferramentas NVIDIA TAO personaliza modelos de IA pós-treinados para aplicações específicas usando o aprendizado por transferência. O NVIDIA TensorRT otimiza modelos de IA para que realizem melhor uso de memória e funcionem mais rápido.

A  empresa também incluiu o software para Servidor de Inferência NVIDIA Triton e o recurso de GPU Multi-Instância (MIG) nesses benchmarks. Com isso, a Nvidia obteve ganhos de até 20% em desempenho e 15% em eficiência de energia dos benchmarks de quatro meses atrás. (Com assessoria de imprensa)

Anterior Android TV perdeu mercado em set top boxes desde 2015
Próximos Nokia apresenta processador FP5 de roteamento de rede