TecNoticias, tu portal de información

La Conferencia de tecnología de GPU de NVIDIA ha vuelto a servir como plataforma de lanzamiento para la nueva DPU de la empresa. Apodado BlueField-3, se informa que el chip presenta un rendimiento excepcional para aplicaciones de inteligencia artificial, computación acelerada y más. ¿Qué mejoras se han realizado en la línea BlueField de NVIDIA? ¿Y cuál es la hoja de ruta de la compañía para que esta DPU avance?

Aspectos destacados del rendimiento de BlueField-3

NVIDIA BlueField-3 proporciona NVMe over Fabrics (NVMe-oF), almacenamiento GPUDirect. La compañía explica que esta función aprovecha los canales de fibra y Ethernet para facilitar la transmisión de datos entre recursos remotos, esencial para configuraciones de computación híbrida y en la nube con servidores externos. Los dispositivos NVMe tradicionales a menudo se quedan cortos debido a sus conexiones directas de bus PCIe.

La unidad de procesamiento de datos NVIDIA BlueField-3. Imagen utilizada por cortesía de NVIDIA

Las NVMEs basadas en tejidos son reconocidas por su baja latencia. Según NVIDIA, BlueField-3 es la primera DPU que admite PCIe 5.0, e incluso ofrece 32 carriles con bifurcación para hasta 16 puertos de bajada.
Esos retrasos en la conectividad pueden socavar el rendimiento general de la red, un aspecto destacado de BlueField-3. Sigue siendo la llamada "primera DPU de 400 Gbps de la industria" y lo logra a través de Ethernet o InfiniBand. Este último ha sido un elemento básico de la conmutación de supercomputadoras desde hace mucho tiempo, lo que subraya la viabilidad de la tecnología para cargas de trabajo exigentes.

BlueField-2 contra BlueField-3

En el pasado, el colaborador de All About Circuits, Nicholas St. John, señaló que mientras que las GPU y las CPU trabajan más en los centros de datos, las DPU funcionan de manera más inteligente.
NVIDIA está poniendo en juego este principio al diseñar sus DPU BlueField-2 para su propia supercomputadora de IA nativa de la nube, la NVIDIA DGX SuperPOD. No está claro si BlueField-3 se convierte en la pieza central de un sucesor (p. Ej., "SuperPOD 2"), aunque lo ideal es que NVIDIA utilice plataformas propias como bancos de pruebas.

NVIDIA ha enrutado sus DPU BlueField-2 a su DGX SuperPOD. Imagen utilizada por cortesía de NVIDIA

Dieciséis núcleos Arm A78 (64 bits) alimentan la DPU, lo que empequeñece la aceleración de la criptografía de BlueField-2 en cuatro veces. También ofrece el rendimiento colectivo de hasta 300 núcleos de CPU, que normalmente se encuentran en entornos de centros de datos tradicionales. Otras especificaciones técnicas notables incluyen las siguientes:
1, 2, 4 puertos Ethernet
8 MB de caché L2
16 MB de caché del sistema LLC
256 subprocesos del acelerador de ruta de datos
16 GB de memoria DDR5 integrada con controladores DRAM duales de 5600 MT / s
Arquitecturas de altura completa o media altura, cada una a media longitud (FHHL o HHHL)
Conectores M.2 y U.2
Puerto de administración fuera de banda de 1 GbE
Por el contrario, el BlueField-2 solo admitía un rendimiento máximo de 200 Gbps, hasta ocho núcleos Arm A72 y 8 o 16 carriles PCIe 4.0. El salto a DDR5 desde DDR4 también es fundamental. DDR5 admite velocidades de datos duplicadas con respecto a su predecesor. El controlador de memoria asociado con el código de corrección de errores se mueve a la unidad de RAM, liberando la CPU y permitiendo una verificación de errores de memoria más rápida para servidores remotos siempre activos.

BlueField escala la nube

El discurso de NVIDIA para BlueField-3 es simple: desbloquee mejores redes, almacenamiento y ciberseguridad definidos por software. La compañía ha reconocido un movimiento en toda la industria hacia entornos híbridos y de nube completa en medio del crecimiento de las aplicaciones de inteligencia artificial.
Los centros de datos locales no están desapareciendo por completo. Sin embargo, está claro que los profesionales están procesando enormes cantidades de datos a través de ondas de radio, y los chips existentes no lo están cortando.
La principal ventaja de la nube es la escalabilidad. Si bien las instalaciones físicas enfrentan restricciones de espacio, lo que requiere una inversión considerable y la adquisición de terrenos para su expansión, los proveedores externos tienen un exceso de capacidad para prestar. Estos servidores permiten a los empleados acceder a los datos desde cualquier lugar. Sin embargo, no todas las empresas están interesadas en almacenar datos confidenciales externamente, lo que hace que los chips BlueField sean útiles para transmitir datos a puntos finales como servidores, computadoras y dispositivos móviles.

Arquitectura diseñada pensando en la seguridad

El chipset ofrece distribución de firewall, IDS / IPS, raíz de confianza, microsegmentación y protecciones DDOS. Estos bloques de construcción son esenciales dentro de los entornos de confianza cero.
Los datos en reposo y en movimiento están cifrados. Se admiten claves AES-GCM de 128/256 bits, al igual que AES-XTS de 256/512 bits. También se encuentra disponible la inspección profunda de paquetes, que evita virus, correo no deseado, malware y software espía. El marco Morpheus de NVIDIA lleva la seguridad basada en inteligencia artificial un paso adelante, principalmente al derrotar las amenazas de seguridad en tiempo real.
BlueField-3 es el componente de hardware, pero el software es igualmente importante. DOCA SDK brinda a los equipos herramientas para monitorear miles de DPU de centros de datos, incluido el aprovisionamiento y la supervisión. Hay esperanzas de que se optimice la gestión de bibliotecas y API.

NVIDIA dice que su DOCA SDK lleva la infraestructura del centro de datos a una arquitectura de chip. Imagen utilizada por cortesía de NVIDIA

Cómo la DPU optimiza las CPU orientadas a la IA

Los ingenieros descargan el gigante de las tareas del software de inteligencia artificial en un hardware potente. Los chips como BlueField-3, basados ​​en la arquitectura DOCA de NVIDIA, eliminan la carga de la CPU para hacer que estos procesos sean aún más rápidos. Se aceleran la virtualización, las redes y el almacenamiento.
Para las aplicaciones de inteligencia artificial, las GPU tienen ventajas sobre las CPU para el procesamiento paralelo. Debido a que las GPU sobresalen en los ejercicios de entrenamiento de IA, han penetrado en el ámbito de la supercomputación. En consecuencia, BlueField-3 admite explícitamente la “supercomputación nativa de la nube” de múltiples inquilinos para cargas de trabajo extremas. Si bien las CPU son extremadamente importantes en conjunto, la solución de NVIDIA soporta gran parte de la carga, lo que permite que las CPU aborden operaciones para las que están más optimizadas.

BlueField obtiene (muchos) votos de confianza

Varios fabricantes de servidores y proveedores de la nube ya están aprovechando las DPU BlueField para cargas de trabajo especializadas, incluidos Dell, Lenovo, Baidu, Canonical, Red Hat y VMware, entre muchos otros.
Sin embargo, numerosas empresas han visto el potencial de la aceleración de DPU y desde entonces se han asociado con NVIDIA tras sus anuncios en la Conferencia de Tecnología de GPU. Los objetivos incluyen mejorar el rendimiento de las aplicaciones, la coherencia operativa en diversos entornos y mantener la seguridad sin comprometer el rendimiento.

Jugadores en el ecosistema BlueField DPU. Imagen (modificada) utilizada por cortesía de NVIDIA

La tecnología emergente de vehículos autónomos puede aprovechar el nuevo DRIVE Atlan SoC de NVIDIA. Estos sistemas autónomos se basan en una combinación de aprendizaje profundo, visión por computadora y procesamiento de inteligencia artificial para funcionar correctamente. El sistema en chip combina los núcleos de CPU de Arm y las propias tecnologías de GPU de NVIDIA, a saber, BlueField. Más allá de los vehículos, es posible que las aplicaciones de robótica se beneficien del desarrollo continuo de BlueField.
BlueField-3 es compatible con versiones anteriores de BlueField-2 y se espera que esté disponible para el primer trimestre de 2022.