NVIDIA acaba de presentar NVIDIA Project DIGITS, un superordenador personal de IA que proporciona a investigadores, científicos y estudiantes de todo el mundo acceso a la potencia de la plataforma NVIDIA Grace Blackwell.
Project DIGITS incorpora el nuevo superchip NVIDIA GB10 Grace Blackwell, que ofrece un petaflop de rendimiento de cálculo de IA para la creación de prototipos, la puesta a punto y la ejecución de grandes modelos de IA.
Con Project DIGITS, los usuarios pueden desarrollar y ejecutar inferencias sobre modelos en su propio sistema de escritorio y, a continuación, implantar los modelos sin problemas en infraestructuras aceleradas de nube o centros de datos.
“La IA se generalizará en todas las aplicaciones de todos los sectores. Con Project DIGITS, el superchip Grace Blackwell llega a millones de desarrolladores», afirma Jensen Huang, fundador y CEO de NVIDIA. «Poner un superordenador de IA en los escritorios de cada científico de datos, investigador de IA y estudiante les capacita para participar y forjar a la era de la IA”.
El superchip GB10 proporciona un petaflop de rendimiento de IA con eficiencia energética
El GB10 Superchip es un sistema en un chip (SoC) basado en la arquitectura NVIDIA Grace Blackwell que proporciona hasta 1 petaflop de rendimiento de IA con precisión FP4.
El GB10 incorpora una GPU NVIDIA Blackwell con núcleos CUDA de última generación y Tensor Cores de quinta generación, conectada a través de la interconexión Chip a Chip NVLink-C2C una CPU NVIDIA Grace de alto rendimiento, que incluye 20 núcleos de bajo consumo construidos con la arquitectura Arm, a través de la interconexión chip a chip NVLink-C2C a MediaTek, líder del mercado en el diseño sistemas en chip (SoC) basados en Arm, ha colaborado en el diseño del GB10, contribuyendo a su eficiencia energética, rendimiento y conectividad, los mejores de su categoría.
El GB10 Superchip permite que Project DIGITS ofrezca un rendimiento potente utilizando únicamente una toma de corriente eléctrica estándar. Cada Project DIGITS cuenta con 128 GB de memoria unificada y coherente,y hasta 4 TB de almacenamiento NVMe. Con este superordenador, los desarrolladores pueden ejecutar modelos de lenguaje de gran tamaño, de hasta 200.000 millones de parámetros, y potenciar así la innovación en IA. Además, utilizando la red NVIDIA ConnectX, dos superordenadores de IA del Proyecto DIGITS pueden conectarse para ejecutar modelos de hasta 405 mil millones de parámetros.
La supercomputación de IA Grace Blackwell está al alcance de la mano.
Con la arquitectura Grace Blackwell, las empresas y los investigadores pueden crear prototipos, perfeccionar y probar modelos en sistemas locales Project DIGITS que ejecutan el sistema operativo NVIDIA DGX OS basado en Linux, y luego implementarlos sin problemas en NVIDIA DGX Cloud, instancias aceleradas en la nube o infraestructura de centros de datos.
Esto permite a los desarrolladores crear prototipos de IA en Project DIGITS y luego escalarlos en la nube o en la infraestructura del centro de datos, utilizando la misma arquitectura Grace Blackwell y la plataforma de software NVIDIA AI Enterprise.
Los usuarios de Project DIGITS pueden acceder a una amplia biblioteca de software de IA de NVIDIA para experimentar y crear prototipos, que incluye kits de desarrollo de software, herramientas de orquestación, frameworks y modelos disponibles en el catálogo de NVIDIA NGC y en el portal para desarrolladores de NVIDIA. Los desarrolladores pueden ajustar los modelos con el marco NVIDIA NeMo, acelerar la ciencia de datos con las librerías NVIDIA RAPIDS y ejecutar marcos comunes como PyTorch, Python y los cuadernos Jupyter.
Para crear aplicaciones de inteligencia artificial (IA) agentic, los usuarios también pueden aprovechar los microservicios NVIDIA Blueprints y NVIDIA NIM, que están disponibles para investigación, desarrollo y pruebas a través del Programa para desarrolladores de NVIDIA. Cuando las aplicaciones de IA están listas para pasar de la experimentación a los entornos de producción, la licencia NVIDIA AI Enterprise proporciona seguridad de nivel empresarial, soporte y lanzamientos de productos del software NVIDIA AI.
