6 de enero de 2025 NVIDIA acaba de presentar modelos básicos que se ejecutarán localmente en las computadoras con NVIDIA RTX AI que potenciarán al ser humano digital, la creación de contenido, la productividad y el desarrollo.
Estos modelos, que se ofrecen como microservicios NVIDIA NIM, se procesan con las nuevas GPU GeForce RTX Serie 50, que ofrecen hasta 3.352 billones de operaciones por segundo de rendimiento de IA y 32 GB de VRAM. Basadas en la arquitectura Blackwell de NVIDIA, las GPU de la serie RTX 50 son las primeras GPU de consumo en añadir soporte para cálculo FP4, lo que multiplica por dos el rendimiento de la inferencia de IA y permite ejecutar modelos generativos de IA localmente en un espacio de memoria más reducido que el hardware de la generación anterior.
GeForce lleva mucho tiempo siendo una plataforma vital para los desarrolladores de IA. La primera red de aprendizaje profundo acelerada en la GPU, AlexNet, se entrenó en la GeForce GTX 580 en 2012, y el año pasado, más del 30% de los trabajos de investigación sobre IA publicados citaban el uso de GeForce RTX.
Ahora, con la IA generativa y los PC RTX AI, cualquiera puede ser desarrollador. Una nueva ola de herramientas de bajo código y sin código, como AnythingLLM, ComfyUI, Langflow y LM Studio, permite a los entusiastas utilizar modelos de IA en flujos de trabajo complejos a través de sencillas interfaces gráficas de usuario.
Los microservicios NIM conectados a estas interfaces gráficas facilitarán el acceso y la implantación de los últimos modelos de IA generativa. Los NVIDIA AI Blueprints, construidos sobre microservicios NIM, proporcionan flujos de trabajo de referencia fáciles de usar y preconfigurados para humanos digitales, creación de contenidos y mucho más.
Para satisfacer la creciente demanda de desarrolladores y entusiastas de la IA, todos los principales fabricantes de PC y ensambladores de sistemas están lanzando PC de IA RTX preparados para NIM con GPU GeForce RTX Serie 50.
«La IA avanza a la velocidad de la luz, desde la IA de percepción a la IA generativa y ahora la IA agentic», afirma Jensen Huang, fundador y CEO de NVIDIA. «Los microservicios NIM y los AI Blueprints proporcionan a los desarrolladores y entusiastas del PC los bloques de construcción para explorar la magia de la IA».
Hacer que la IA sea increNIMble
Los modelos básicos (redes neuronales entrenadas a partir de ingentes cantidades de datos en bruto) son los pilares de la IA generativa.
NVIDIA lanzará una serie de microservicios NIM para los PC RTX AI de los principales desarrolladores de modelos, como Black Forest Labs, Meta, Mistral y Stability AI. Los casos de uso abarcan grandes modelos de lenguaje (LLM), modelos de lenguaje de visión, generación de imágenes, habla, modelos de incrustación para la generación de recuperación aumentada (RAG), extracción de PDF y visión por computador.
Según Robin Rombach, Consejero delegado de Black Forest Labs, «Las GPU de la serie GeForce RTX 50 con cálculo FP4 desbloquearán una enorme variedad de modelos que pueden ejecutarse en el PC y que antes estaban limitados a los grandes centros de datos. «Convertir FLUX en un microservicio NVIDIA NIM aumenta la velocidad a la que la IA puede implantarse y ser experimentada por más usuarios, al tiempo que proporciona un rendimiento increíble.»
NVIDIA también acaba de presentar la familia de modelos abiertos Llama Nemotron, que proporciona alta precisión en una amplia gama de tareas de inteligencia artificial. El modelo Llama Nemotron Nano se ofrecerá como microservicio NIM para PC y estaciones de trabajo RTX AI, y destaca en tareas de IA agentic como el seguimiento de instrucciones, la llamada a funciones, el chat, la codificación y las matemáticas.
Los microservicios NIM incluyen los componentes clave para ejecutar la IA en los PC y están optimizados para su implantación en las GPU NVIDIA, ya sea en PC y estaciones de trabajo RTX o en la nube.
Los desarrolladores y entusiastas podrán descargar, configurar y ejecutar rápidamente estos microservicios NIM en PC Windows 11 con Windows Subsystem for Linux (WSL).
«La IA está impulsando la innovación en los PC con Windows 11 a un ritmo acelerado, y Windows Subsystem for Linux (WSL) ofrece un excelente entorno multiplataforma para el desarrollo de IA en Windows 11 junto con Windows Copilot Runtime», afirma Pavan Davuluri, vicepresidente corporativo de Windows en Microsoft. «Los microservicios NVIDIA NIM, optimizados para PC Windows, ofrecen a los desarrolladores y entusiastas modelos de IA listos para integrar en sus aplicaciones Windows, lo que acelera aún más el despliegue de las capacidades de IA para los usuarios de Windows.»
Los microservicios NIM, que se ejecutan en los PC RTX AI, serán compatibles con los principales marcos de desarrollo y agentes de IA, como AI Toolkit para VSCode, AnythingLLM, ComfyUI, CrewAI, Flowise AI, LangChain, Langflow y LM Studio. Los desarrolladores pueden conectar aplicaciones y flujos de trabajo creados en estos marcos a modelos de IA que ejecutan microservicios NIM a través de puntos finales estándar del sector, lo que les permite utilizar la última tecnología con una interfaz unificada en la nube, centros de datos, estaciones de trabajo y PC.
Los aficionados también podrán experimentar una serie de microservicios NIM utilizando una próxima versión de la demo tecnológica NVIDIA ChatRTX.
Poniendo cara a la inteligencia artificial
Para demostrar cómo entusiastas y desarrolladores pueden utilizar NIM para crear agentes y asistentes de IA, NVIDIA acaba de presentar Project R2X, un avatar de PC con visión artificial capaz de poner la información al alcance del usuario, ayudarle con aplicaciones de escritorio y videoconferencias, leer y resumir documentos y mucho más.
El avatar se renderiza utilizando NVIDIA RTX Neural Faces, un nuevo algoritmo de IA generativa que aumenta la rasterización tradicional con píxeles generados por completo. A continuación, la cara se anima mediante un nuevo modelo Audio2Face-3D basado en la difusión que mejora el movimiento de los labios y la lengua. R2X puede conectarse a servicios de IA en la nube como GPT4o de OpenAI y Grok de xAI, y a microservicios NIM y Blueprints de IA, como recuperadores de PDF o LLM alternativos, a través de marcos de desarrollo como CrewAI, Flowise AI y Langflow.
Regístrate para seguir las actualizaciones del proyecto R2X.
Los AI Blueprints llegan a tu PC
Los microservicios NIM también están disponibles para los usuarios de PC a través de AI Blueprints, flujos de trabajo de IA de referencia que pueden ejecutarse localmente en PC RTX. Con estos blueprints, los desarrolladores pueden crear podcasts a partir de documentos PDF, generar imágenes asombrosas guiadas por escenas 3D y mucho más.
El blueprint de PDF a podcast extrae texto, imágenes y tablas de un PDF para crear un guión de podcast que puede ser editado por los usuarios. También puede generar una grabación de audio completa a partir del guión utilizando voces disponibles en el blueprint o basadas en una muestra de voz del usuario. Además, los usuarios pueden mantener una conversación en tiempo real con el presentador del podcast de IA para obtener más información sobre temas concretos.
El proyecto utiliza microservicios NIM como Mistral-Nemo-12B-Instruct para el lenguaje, NVIDIA Riva para la conversión de texto en voz y el reconocimiento automático del habla, y la colección de microservicios NeMo Retriever para la extracción de PDF.
El AI Blueprint para IA generativa guiada por 3D proporciona a los artistas un control más preciso sobre la generación de imágenes. Aunque la IA puede generar imágenes asombrosas a partir de sencillas instrucciones de texto, controlar la composición de imágenes utilizando sólo palabras puede resultar complicado. Con este proyecto, los creadores pueden utilizar objetos 3D sencillos dispuestos en un renderizador 3D como Blender para guiar la generación de imágenes de IA. El artista puede crear activos 3D a mano o generarlos mediante IA, colocarlos en la escena y ajustar la cámara de la vista 3D. A continuación, un flujo de trabajo preempaquetado impulsado por el microservicio FLUX NIM utilizará la composición actual para generar imágenes de alta calidad que coincidan con la escena 3D.
Los microservicios NVIDIA NIM y AI Blueprints estarán disponibles a partir de febrero con soporte inicial de hardware para las GPU profesionales GeForce RTX 50 Series, GeForce RTX 4090 y 4080, y NVIDIA RTX 6000 y 5000. En el futuro se admitirán más GPU. Los PC RTX AI preparados para NIM estarán disponibles a través de Acer, ASUS, Dell, GIGABYTE, HP, Lenovo, MSI, Razer y Samsung, y de los fabricantes de sistemas locales Corsair, Falcon Northwest, LDLC, Maingear, Mifcon, Origin PC, PCS y Scan.
Si quieres saber más sobre cómo los microservicios NIM, los AI Blueprints y los PC RTX AI preparados para NIM están acelerando la IA generativa, únete a NVIDIA en CES.
