nVidia A10 24Gb GDDR6

A100 acelera las cargas de trabajo grandes y pequeñas. Ya sea usando MIG para dividir una GPU A100 en instancias más pequeñas, o NVLink para conectar múltiples GPU para acelerar cargas de trabajo a gran escala, A100 puede manejar fácilmente necesidades de aceleración de diferentes tamaños, desde el trabajo más pequeño hasta la carga de trabajo de múltiples nodos más grande. La versatilidad de A100 significa que los administradores de TI pueden maximizar la utilidad de cada GPU en su centro de datos durante todo el día.

Con 40 gigabytes (GB) de memoria de alto ancho de banda (HBM2), A100 ofrece un ancho de banda sin procesar mejorado de 1,6 TB / seg, así como una mayor eficiencia de utilización de memoria dinámica de acceso aleatorio (DRAM) al 95 por ciento. A100 ofrece un ancho de banda de memoria 1,7 veces mayor que la generación anterior.

Una GPU A100 se puede dividir en hasta siete instancias de GPU, completamente aisladas a nivel de hardware con su propia memoria de alto ancho de banda, caché y núcleos de cómputo. MIG brinda a los desarrolladores acceso a una aceleración revolucionaria para todas sus aplicaciones, y los administradores de TI pueden ofrecer una aceleración de GPU del tamaño adecuado para cada trabajo, optimizando la utilización y expandiendo el acceso a cada usuario y aplicación.

Las redes de inteligencia artificial son grandes y tienen de millones a miles de millones de parámetros. No todos estos parámetros son necesarios para obtener predicciones precisas, y algunos se pueden convertir a ceros para hacer que los modelos sean “dispersos” sin comprometer la precisión. Los núcleos tensores en A100 pueden proporcionar hasta 2 veces más rendimiento para modelos dispersos. Si bien la característica de escasez beneficia más fácilmente la inferencia de IA, también puede mejorar el rendimiento del entrenamiento de modelos.

Principales Características…

* Memoria estándar: 40 GB.
* Ancho de banda de memoria: 1.6 Tb/ s.
* Arquitectura de GPU: Ampere
* Tipo de enfriador: enfriador pasivo.
* Tecnologia de memoria; HBM2.