NVIDIA avanza hacia AI Gas en CES 2024

El contenido y las recomendaciones de productos de eWEEK son editorialmente independientes. Podemos ganar dinero cuando hace clic en los enlaces de nuestros socios. Él aprende más.

En su blog de CES 2024, NVIDIA describió sus anuncios como una “plataforma de lanzamiento para la IA generativa”, lo cual es apropiado, porque 2023 fue sin duda el año en que la IA generacional se generalizó.

Quería ver qué venía de NVIDIA. Podría decirse que ninguna empresa es más importante para el desarrollo de la inteligencia artificial que el gigante de los chips. Por muy importante que sea Intel en la era de las PC, NVIDIA desempeñará un papel similar en la inteligencia artificial.

En CES 2024, NVIDIA hizo varios anuncios que incluyeron informática y juegos de consumo, la industria automotriz y la robótica. Aunque están centrados en el consumidor, los profesionales de TI deben ser conscientes de ellos, ya que los mercados de consumo suelen ser predictores de lo que vendrá en tecnología empresarial.

NVIDIA: informática con IA para jugadores y creadores de contenido

El anuncio más importante fue el debut de las computadoras portátiles con tecnología de IA, con NVIDIA presentando las nuevas GPU de la serie GeForce RTX 40 SUPER, computadoras portátiles preparadas para IA y herramientas de IA generativa, todas enfocadas en jugadores y creadores.

Con una base instalada de 100 millones de GPU y 500 juegos y aplicaciones RTX, GeForce RTX es la plataforma más grande del mundo para jugadores, creadores e IA generada. Estas GPU son esenciales para Gen AI, incluidos los servicios populares de ChatGPT y Stable Diffusion.

En una conferencia de prensa previa al CES, Justin Walker, director senior de gestión de productos de NVIDIA, dijo que RTX es la plataforma de portátiles de más rápido crecimiento de NVIDIA. «Hemos crecido cinco veces en los últimos cuatro años y ahora hay más de 50 millones de computadoras portátiles RDX en todo el mundo», dijo Lee. «En CES, anunciamos una nueva ola de computadoras portátiles RTX, lanzadas por todos los principales fabricantes de equipos originales».

Esto incluye Acer, ASUStek, Dell, HP, Lenovo y Samsung, por nombrar algunos. Las computadoras portátiles RTX van desde pequeñas computadoras portátiles de 14 pulgadas hasta modelos más grandes de 18 pulgadas. «Todos ellos funcionan con Tensor Cores», añadió. «Cada uno de ellos estará preparado para la IA».

Además, la compañía anunció tres nuevas GPU de escritorio, todas basadas en la arquitectura Ada Lovelace. Estas GPU mejorarán el rendimiento de los jugadores, con más núcleos y mayor velocidad de memoria. «Es una GPU excelente para juegos con trazado de rayos 4K completo, con la más alta resolución y calidad de imagen», dijo. «Podría proporcionar una gran cantidad de potencia de IA para una IA generativa ultrarrápida».

Estas son las PC y portátiles con mayor capacidad de IA que puedes conseguir. «Tienes hasta 1.300 TOPS de potencia de procesamiento», añadió. «Hemos desarrollado un conjunto de trabajos durante la última década con CUDA y TensorRT para ayudar a los desarrolladores a aprovechar al máximo estos procesadores de IA».

Si bien todos estos son casos de uso para el consumidor, la capacidad de ejecutar modelos de lenguaje grandes en una computadora local mejorará la experiencia de videoconferencias, aplicaciones de metaverso y aplicaciones AR/VR, así como muchas cargas de trabajo verticalmente específicas.

Modelos de lenguaje grandes acelerados.

El lanzamiento de octubre de 2023 de la biblioteca TensorRT-LLM para Windows aceleró modelos de lenguajes grandes como Llama 2 y Mistral hasta cinco veces en PC RTX, dijo Jeff Fisher, vicepresidente senior de GeForce en NVIDIA.

La compañía ha mejorado su juego con el nuevo «Chat with RTX», que brinda acceso a LLM acelerado por RTX utilizando los datos propios de una organización, incluidos todo, desde documentos almacenados localmente hasta videos de YouTube. Chat with RTX utiliza Retrieval Augmented Generation (RAG), que mejora la precisión y confiabilidad de los modelos GenAI.

NVIDIA introdujo la aceleración TensorRT para Stable Diffusion XL y SDXL Turbo mediante la implementación de conversión de texto a imagen Automatic1111. NVIDIA dice que TensorRT proporciona hasta un 60% de aumento de rendimiento.

Transmisión en vivo en Twitch y simuladores de bots

Nvidia dijo que trabajará con Twitch para lanzar transmisiones en vivo multicodificadas, permitiendo a los streamers enviar hasta tres transmisiones simultáneas a Twitch con diferentes resoluciones y calidades para que cada espectador obtenga la experiencia óptima.

Más de 500 juegos y aplicaciones de Activision/Blizzard utilizan RTX, incluidos los galardonados Alan Wake 2, Horizon Forbidden West, Pax Dei y Diablo IV. La asociación de Activision se extiende a la nube con GEForce NOW.

NVIDIA Isaac, la aplicación de simulación robótica de la compañía, acelera la incorporación de robots al mundo real. El uso de robots colaborativos (robots de asistencia) en el lugar de trabajo está aumentando en sectores como la manufactura y el almacenamiento, y llegará a la salud y otras industrias. Ser capaz de entrenar primero en un entorno simulado puede ahorrar miles de horas de entrenamiento, ya que las simulaciones pueden cubrir una amplia gama de escenarios, incluso aquellos que son difíciles de replicar en el mundo real.

Mis principales conclusiones

Como era de esperar de NVIDIA, este conjunto de anuncios fue completo. Mientras que otras empresas de silicio se están alejando del dominio de NVIDIA en IA, cualquier empresa que quiera competir con NVIDIA tendrá que pensar más allá de la GPU.

La fortaleza de NVIDIA está en construir sistemas que incluyen una GPU, software y otro hardware de un amplio ecosistema. Para mí, lo más destacado de los anuncios de NVIDIA fueron las computadoras portátiles habilitadas para IA, ya que traen capacidades de IA generativa al escritorio para complementar lo que ya sucedió en la nube.