Amazon Web Services (AWS) tiene Anunciado la disponibilidad general de instancias P4d de Amazon Elastic Compute Cloud (Amazon EC2) con capacidad EC2 UltraClusters.
El gigante de la nube ha promocionado la oferta como la próxima generación de instancias impulsadas por GPU para brindar el mejor rendimiento en capacitación en aprendizaje automático y computación de alto rendimiento (HPC) en la nube.
Las aplicaciones incluyen procesamiento del lenguaje natural, detección y clasificación de objetos, análisis sísmico e investigación genómica.
Estas instancias funcionan con los últimos procesadores Intel Cascade Lake y cuentan con ocho de las últimas GPU Nvidia A100 Tensor Core, cada una conectada por NVLink y con soporte para Nvidia GPUDirect.
AWS dijo que cuentan con 2,5 petaflops de rendimiento de precisión mixta y 320 GB de memoria GPU de alto ancho de banda en una instancia EC2.
Afirma que el mayor rendimiento de las instancias P4d acelerará el tiempo para entrenar modelos de aprendizaje automático en aproximadamente 2,5 veces y la memoria GPU adicional ayudará a los clientes a entrenar modelos más grandes y complejos.
“Al utilizar instancias P4d con Elastic Fabric Adapter (EFA) de AWS y Nvidia GPUDirect RDMA (acceso remoto directo a memoria), los clientes pueden crear instancias P4d con capacidad EC2 UltraClusters”, AWS dicho.
“Con EC2 UltraClusters, los clientes pueden escalar instancias P4d a más de 4000 GPU A100… mediante el uso de la infraestructura de red sin bloqueo a escala de petabit diseñada por AWS e integrada con Amazon FSx para el almacenamiento de alto rendimiento Lustre, que ofrece acceso bajo demanda a clase de supercomputación. rendimiento para acelerar la capacitación en aprendizaje automático y HPC”.
Las instancias P4d se crean en el sistema AWS Nitro.
AWS dijo que los clientes pueden ejecutar aplicaciones en contenedores en instancias P4d con AWS Deep Learning Containers con bibliotecas para Amazon Elastic Kubernetes Service (Amazon EKS) o Amazon Elastic Container Service (Amazon ECS). Los clientes pueden administrar completamente el uso de instancias P4d a través de Amazon SageMaker.
Las instancias P4 están disponibles en un tamaño, p4d.24xlarge, y los clientes pueden lanzarlas hoy en las regiones EE.UU. Este (Virginia del Norte) y EE.UU. Oeste (Oregón). Se requieren controladores Nvidia A100 y el controlador ENA más reciente.