CES 2023: AMD Instinct MI300 Data Center APU en la mano

Junto con los anuncios de productos para clientes de AMD ampliamente esperados esta noche para CPU de escritorio, CPU móviles y GPU móviles, la directora ejecutiva de AMD, la Dra. Lisa Su, tenía una sorpresa bajo la manga para la gran multitud reunida en el discurso de apertura de CES: el clímax. generación de APU de centro de datos AMD actualmente en desarrollo. Con el silicio literalmente en la mano, el adelanto rápido presentó las especificaciones principales del segmento, junto con las intenciones de AMD de tomar la delantera en el mercado de HPC.

AMD lo presentó por primera vez durante su Día del Analista Financiero 2022 en junio de 2022, El MI300 es la primera oportunidad de AMD de construir un verdadero centro de datos/CPU de clase HPCCombina las mejores tecnologías de CPU y GPU de AMD. Tal como se estableció en ese momento, el MI300 sería un diseño personalizado, utilizando múltiples chips creados en el proceso de 5nm de TSMC y utilizando el apilamiento de troqueles 3D para colocarlos en un troquel base, todo lo cual a su vez se combinaría con HBM en el paquete de memoria. para aumentar el ancho de banda de la memoria AMD disponible.

AMD, por su parte, no es ajeno a la combinación de las capacidades de sus CPU y GPU (solo hay que mirar las CPU / APU de las computadoras portátiles), pero hasta ahora no lo han hecho a gran escala. El mejor HPC actual de su clase de AMD combina el AMD Instinct MI250X (producto solo de GPU) con las CPU EPYC de AMD, que es exactamente lo que se ha hecho para la supercomputadora Frontier y otros proyectos de HPC. El MI300, a su vez, es el siguiente paso en el proceso, ya que reúne los dos tipos de procesadores en un solo paquete, no solo conectándolos de la manera MCM, sino siguiendo la ruta completa del chiplet con troqueles TSV apilados para permitir conexiones de ancho de banda extremadamente alto. entre las diferentes partes.

El punto principal de la revelación de esta noche fue mostrar el silicio MI300, que ha alcanzado la producción inicial y ahora se encuentra en los laboratorios de reacondicionamiento de AMD. AMD había prometido previamente que el MI300 se lanzaría en 2023, y el regreso y el ensamblaje del silicio FABS es una fuerte señal de que AMD está en camino de establecer esa fecha de entrega.

Junto con la oportunidad de ver el tobogán gigante en persona (o al menos, a través de una transmisión de video), el breve adelanto del Dr. Su también algunos detalles nuevos y emocionantes sobre el hardware. Con 146 000 millones de transistores, el MI300 es el chip más grande y complejo que jamás haya fabricado AMD, y de forma sencilla. Si bien solo podemos compararlo con los diseños de chips actuales, se trata de muchos más transistores que la GPU Xeon Max (Ponte Vecchio) 100B de Intel o la GPU Transistor 80B GH100 de NVIDIA. Aunque para ser justos con ambos, AMD está metiendo tanto la GPU como la CPU en este segmento.

Se confirmó que el lado de la CPU del MI300 usa una CPU Zen 4 de 24 núcleos de AMD, lo que finalmente nos dio una idea básica de qué esperar en términos de capacidad de la CPU. Mientras tanto, el lado de la GPU todavía (todavía) usa una cantidad no revelada de CU para la arquitectura CDNA 3. Todo esto, a su vez, se combina con 128 GB de memoria HBM3.

Según AMD, el MI300 consta de 9 chips de 5 nm, además de 4 chips de 6 nm. Los chips de 5 nm son, sin duda, los conjuntos de chips lógicos de computación, es decir, CPU y GPU, aunque no hay un desglose preciso de lo que está disponible. Una suposición razonable en este punto sería 3 chips de CPU (8 núcleos Zen 4 cada uno) combinados con 6 chips de GPU posibles; Aunque todavía faltan algunos chiplets en el caché. Mientras tanto, tomando literalmente la frase de AMD «en la parte superior», el conjunto de chips de 6 nm sería una base para morir sobre la cual se trata todo esto. Según las ofertas de AMD, parece que hay 8 pilas de memoria HBM3 en funcionamiento, lo que significa aproximadamente 5 TB/s de ancho de banda de memoria, si no más.

En términos de expectativas de rendimiento, AMD no dice nada nuevo en este momento. Las afirmaciones anteriores eran de una mejora de más de 5 veces en el rendimiento de la IA por vatio en comparación con el MI250X, y una mejora general de > 8 veces en el rendimiento del entrenamiento de la IA, y esto sigue siendo lo que afirma AMD a partir de CES.

La principal ventaja del diseño de AMD, junto con la simplicidad operativa de colocar núcleos de CPU y núcleos de GPU en el mismo diseño, es que permitirá que ambos tipos de procesadores compartan un espacio de memoria unificado para alta velocidad y baja latencia. Esto hará que sea rápido y fácil pasar datos entre los núcleos de la CPU y la GPU, lo que permitirá que cada uno maneje mejor los aspectos informáticos que hace. Además, simplificaría en gran medida la programación de HPC a nivel de socket al otorgar a ambos tipos de procesadores acceso directo al mismo grupo de memoria, no solo un espacio de memoria virtual unificado con copias para ocultar las diferencias físicas, sino un espacio de memoria verdaderamente compartido y físicamente unificado.

Conjunto de chips AMD FAD 2022

Cuando se lance en la segunda mitad de 2023, se espera que el MI300 de AMD se enfrente a algunos productos de la competencia. Probablemente el más notable El chip superior Grace Hopper de NVIDIA, que combina la CPU NVIDIA Armv9 Grace y la GPU Hopper. NVIDIA no ha llegado al mismo nivel de integración que AMD, lo que hace que el MI300 sea un proyecto más ambicioso, aunque la decisión de NVIDIA de mantener un grupo de memoria segmentado no carece de mérito (al igual que la capacidad). Mientras tanto, el cronograma de AMD lo pondría por delante de su archirrival Intel[elcronogramalosharíaestarmuypordelantedelarchirrivalIntel[sschedulewouldhavethemcominginwellaheadofarchrivalIntel’sFalcon Shores XPUque no vencerá hasta 2024.

Espere escuchar más de AMD sobre el Instinct MI300 en los próximos meses, ya que la compañía estará ansiosa por mostrar su procesador más ambicioso hasta el momento.