Con la presencia de sus principales socios estratégicos, AMD presentó las recientes soluciones informáticas de alto rendimiento de la computación con IA el jueves 10 de octubre en el AMD Advancing AI 2024, realizado en el Moscone Center de San Francisco. Canal TI también estuvo presente en el evento.
Al fabricante de procesadores le acompañaron empresas como Meta, Microsoft, Oracle Infraestructure, Databricks, Essential AI, Fireworks AI, Luma AI y Reka AI, Lenovo, HP Inc., Dell y Supermicro, quienes indicaron los beneficios del trabajo que vienen realizado desde hace años y que en la era de la inteligencia artificial se sienten muy satisfechos con la tecnología de AMD.
En el evento, AMD presentó las CPU de servidor AMD EPYC de 5ª generación, los aceleradores AMD Instinct MI325X, las DPU AMD Pensando Salina, las NIC AMD Pensando Pollara 400 y los procesadores AMD Ryzen AI PRO Serie 300 para PCs empresariales de IA.
AMD y sus socios también mostraron cómo están implementando las soluciones de IA de AMD a escala, el crecimiento continuo del ecosistema del software de IA de código abierto AMD ROCm y una amplia cartera de nuevas soluciones basadas en los aceleradores AMD Instinct, las CPU EPYC y las CPU Ryzen PRO.
“El centro de datos y la IA representan importantes oportunidades de crecimiento para AMD, y estamos creando un fuerte impulso para nuestros procesadores EPYC y AMD Instinct en un conjunto cada vez mayor de los clientes”, dijo Lisa Su, presidenta y CEO de AMD. “Con nuestras nuevas CPU EPYC, GPU AMD Instinct y DPU Pensando, estamos ofreciendo computación líder para impulsar las cargas de trabajo más importantes y exigentes de nuestros clientes. De cara al futuro, vemos que el mercado de aceleradores de IA para centros de datos crecerá hasta los $500.000 millones de dólares para 2028. Estamos comprometidos con ofrecer innovación abierta a escala a través de nuestras soluciones ampliadas a nivel de silicio, software, red y clúster”.
Definiendo el centro de datos en la era de la IA
AMD anunció una amplia cartera de soluciones de centros de datos para cargas de trabajo mixtas, empresariales, en la nube y mixtas:
Los nuevos procesadores AMD EPYC Serie 9005 ofrecen un rendimiento récord para permitir soluciones informáticas optimizadas para diversas necesidades de centros de datos. Construida sobre la última arquitectura “Zen 5”, la línea ofrece hasta 192 núcleos y estará disponible en una amplia gama de plataformas de los principales fabricantes de equipos originales y ODM a partir de hoy.
AMD continúa ejecutando su cadencia anual de aceleradores de IA con el lanzamiento de AMD Instinct MI325X, que ofrece capacidades líderes en rendimiento y memoria para las cargas de trabajo de IA más exigentes. También compartió nuevos detalles sobre los aceleradores de la Serie AMD Instinct MI350 de próxima generación que se espera que se lancen en la segunda mitad de 2025, ampliando la capacidad de memoria líder de AMD Instinct y el rendimiento de la IA generativa. AMD ha logrado avances significativos en el desarrollo de los aceleradores AMD Instinct MI400 Series basados en la arquitectura AMD CDNA Next, que está previsto que estén disponibles en 2026.
AMD ha mejorado continuamente su plataforma de software abierto AMD ROCm, duplicando el rendimiento de entrenamiento e inferencia del acelerador AMD Instinct MI300X en una amplia gama de los modelos de IA más populares. En la actualidad, más de un millón de modelos se ejecutan sin problemas en AMD Instinct, el triple de los disponibles cuando se lanzó el MI300X, con soporte desde el día cero para los modelos más utilizados.
AMD también amplió su cartera de redes de alto rendimiento para abordar sus cambiantes requisitos del sistema para la infraestructura de IA, maximizando el rendimiento de la CPU y la GPU para ofrecer escalabilidad y eficiencia en todo el sistema. La DPU AMD Pensando Salina ofrece una red front-end de alto rendimiento para sistemas de IA, mientras que AMD Pensando Pollara 400, la primera NIC preparada para Ultra Ethernet Consortium, reduce la complejidad del ajuste del rendimiento y ayuda a mejorar el tiempo de producción.
Los socios aprovechan las soluciones de centros de datos
Los socios de AMD detallaron cómo aprovechan las soluciones de centros de datos de para impulsar las capacidades de IA generativa, ofrecer infraestructura en la nube utilizada por millones de personas a diario y potenciar centros de datos locales e híbridos para empresas líderes:
Desde su lanzamiento en diciembre de 2023, los aceleradores AMD Instinct MI300X han sido desplegados a escala por los principales socios de la nube, OEM y ODM, y están sirviendo a millones de usuarios a diario en modelos de IA populares, como ChatGPT de OpenAI, Meta Llama y más de un millón de modelos de código abierto en la plataforma Hugging Face.
Google destacó cómo los procesadores AMD EPYC impulsan una amplia gama de instancias para IA, alto rendimiento, propósito general y computación confidencial, incluida su AI Hypercomputer, una arquitectura de supercomputación diseñada para maximizar el retorno de la inversión de IA. Google también anunció que las máquinas virtuales basadas en la Serie EPYC 9005 estarán disponibles a principios de 2025.
Oracle Cloud Infrastructure compartió cómo aprovecha las CPU AMD EPYC, los aceleradores AMD Instinct y las DPU Pensando para ofrecer una infraestructura de redes y computación rápida y energéticamente eficiente para clientes como Uber, Red Bull Powertrains, PayPal y Fireworks AI. OCI ha anunciado la nueva plataforma de computación E6 impulsada por procesadores EPYC 9005.
Databricks destacó cómo sus modelos y flujos de trabajo se ejecutan sin problemas en AMD Instinct y ROCm, y reveló que sus pruebas muestran que la gran capacidad de memoria y las capacidades de cómputo de las GPU AMD Instinct MI300X ayudan a ofrecer un aumento de más del 50% en el rendimiento en los modelos propietarios de Llama y Databricks.
El CEO de Microsoft, Satya Nadella, destacó la larga colaboración y la innovación conjunta de Microsoft con AMD en toda su oferta de productos e infraestructura, con MI300X ofreciendo un sólido rendimiento en las cargas de trabajo de Microsoft Azure y GPT. Nadella y Lisa Su también discutieron la profunda asociación de las compañías en la hoja de ruta de AMD Instinct y cómo Microsoft planea aprovechar las futuras generaciones de aceleradores AMD Instinct, incluida la Serie MI350 y más allá, para ofrecer un rendimiento líder por dólar por vatio para aplicaciones de IA.
Meta detalló cómo las CPU AMD EPYC y los aceleradores AMD Instinct impulsan su infraestructura informática en implementaciones y servicios de IA, con MI300X sirviendo todo el tráfico en vivo en Llama 405B. Meta también se ha asociado con AMD para optimizar el rendimiento de la IA, desde el silicio, los sistemas y las redes hasta el software y las aplicaciones.
Los OEM líderes Dell, HPE, Lenovo y Supermicro están ampliando sus líneas basadas en procesadores AMD EPYC de alto rendimiento y eficiencia energética con nuevas plataformas diseñadas para modernizar los centros de datos para la era de la IA.
Expansión de un ecosistema abierto de IA
AMD continúa invirtiendo en el ecosistema de IA abierta y expandiendo su software de código abierto AMD ROCm con nuevas funciones, herramientas, optimizaciones y soporte para ayudar a los desarrolladores a extraer el máximo rendimiento de los aceleradores AMD Instinct y brindar soporte listo para usar para los modelos de IA líderes en la actualidad. Los líderes de Essential AI, Fireworks AI, Luma AI y Reka AI discutieron cómo están optimizando los modelos en el hardware y el software de AMD.
AMD también organizó un evento para desarrolladores al que se unieron líderes técnicos de todo el ecosistema de desarrolladores de IA, incluidos Microsoft, OpenAI, Meta, Cohere, xAI y más. Las presentaciones de luminarias organizadas por los inventores de lenguajes de programación, modelos y marcos de IA populares críticos para la transformación de la IA que se está llevando a cabo, como Triton, TensorFlow, vLLM y Paged Attention, FastChat y más, compartieron cómo están desbloqueando optimizaciones de rendimiento de IA a través de lenguajes de programación independientes del proveedor, acelerando modelos en aceleradores AMD Instinct, y destacaron la facilidad de uso de la portabilidad al software ROCm y cómo el ecosistema se está beneficiando de un enfoque de código abierto.
Habilitando la productividad empresarial con PC de IA
AMD lanzó los procesadores AMD Ryzen AI PRO Serie 300, que impulsan las primeras computadoras portátiles Microsoft Copilot+ habilitadas para la empresa . La línea de procesadores Ryzen AI PRO Serie 300 amplía el liderazgo de AMD en rendimiento y duración de la batería con la incorporación de funciones de seguridad y capacidad de gestión de nivel empresarial para usuarios empresariales.
Los procesadores de la Serie Ryzen AI PRO 300, que cuentan con las nuevas arquitecturas AMD “Zen 5” y AMD XDNA™ 2, son los procesadores comerciales más avanzados del mundo , que ofrecen el mejor rendimiento de su clase para una productividad inigualable y un rendimiento de IA de 55 NPU TOPS líder en la industria con el procesador Ryzen AI 9 HX PRO 375 para procesar tareas de IA localmente en portátiles Ryzen AI PRO.
Microsoft destacó cómo Windows 11 Copilot+ y la línea Ryzen AI PRO 300 están listos para las experiencias de IA de próxima generación, incluidas nuevas funciones de productividad y seguridad.
Los socios OEM, incluidos HP y Lenovo, están ampliando sus ofertas comerciales con nuevas PC equipadas con procesadores Ryzen AI PRO Serie 300, con más de 100 plataformas que se espera que lleguen al mercado hasta 2025.
