Meta y Microsoft compran un nuevo chip AI de AMD como alternativa a Nvidia

Meta, OpenAI y Microsoft dijeron en un evento para inversores de AMD el miércoles que utilizarán el último chip de IA de AMD, el Instinct MI300X. Es la señal más importante hasta el momento de que las empresas de tecnología están buscando alternativas a los costosos procesadores gráficos Nvidia que han sido necesarios para crear e implementar software de inteligencia artificial como ChatGPT de OpenAI.

Si los últimos chips de alta gama de AMD son lo suficientemente buenos para las empresas de tecnología y proveedores de nube que construyen y dan servicio a los modelos de IA cuando comiencen a distribuirse a principios del próximo año, eso podría reducir los costos de desarrollo del modelo de IA y ejercer presión competitiva sobre el creciente crecimiento de las ventas de chips de IA de Nvidia. . .

«Toda la atención está puesta en el gran hardware y las grandes GPU para la nube», dijo el miércoles la directora ejecutiva de AMD, Lisa Su.

AMD dice que el MI300X se basa en una nueva arquitectura, lo que a menudo resulta en importantes mejoras de rendimiento. La característica más singular es que tiene 192 GB de un tipo de memoria avanzada y de alto rendimiento conocida como HBM3, que transfiere datos más rápido y puede adaptarse a modelos de IA más grandes.

Su comparó directamente el MI300X y los sistemas construidos con él con la GPU AI insignia de Nvidia, la H100.

«Lo que hace este rendimiento es que se traduce directamente en una mejor experiencia de usuario», dijo Su. «Cuando le preguntas algo a un modelo, quieres que responda más rápido, especialmente cuando las respuestas se vuelven más complejas».

La principal pregunta que enfrenta AMD es si las empresas que han confiado en Nvidia invertirán tiempo y dinero para agregar otro proveedor de GPU. «La adopción de AMD requiere trabajo», afirmó Su.

AMD dijo el miércoles a inversores y socios que ha mejorado su paquete de software llamado ROCm para competir con el software CUDA estándar de la industria de Nvidia, abordando un inconveniente clave que ha sido una de las principales razones por las que los desarrolladores de IA prefieren actualmente Nvidia.

El precio también será importante. AMD no reveló el precio del MI300X el miércoles, pero el chip de Nvidia puede costar alrededor de $40,000 por un solo chip, y Su dijo a los periodistas que comprar y operar el chip de AMD tendría que costar menos que el chip de Nvidia para convencer a los clientes de que lo compren. .

AMD dijo el miércoles que ya ha inscrito a algunas empresas ávidas de GPU para utilizar el chip. Meta y Microsoft fueron los mayores compradores de GPU Nvidia H100 en 2023, según Un informe reciente de la empresa de investigación Omidia.

Meta dijo que utilizará las GPU MI300X para cargas de trabajo de inferencia de IA, como procesar etiquetas de IA, editar imágenes y ejecutar su asistente.

Kevin Scott, director de tecnología de Microsoft, dijo que la compañía proporcionará acceso a los chips MI300X a través de su servicio web Azure.

Oracle Cloud también utilizará chips.

OpenAI dijo que admitirá las GPU de AMD en uno de sus productos de software, llamado Triton, que no es un modelo de lenguaje tan grande como GPT pero se utiliza en la investigación de IA para acceder a las funciones del chip.

AMD aún no espera grandes ventas de chips y espera solo alrededor de $ 2 mil millones en ingresos totales de GPU para centros de datos en 2024. Nvidia informó más de $ 14 mil millones en ventas de centros de datos solo en el último trimestre, aunque este punto de referencia incluye conjuntos de chips distintos de las GPU. .

Sin embargo, AMD dice que el mercado total de GPU de IA podría aumentar a 400 mil millones de dólares en los próximos cuatro años, duplicando el pronóstico anterior de la compañía. Esto muestra cuán altas han sido las expectativas y cuán deseables se han vuelto los chips de IA de vanguardia, y por qué la compañía ahora está centrando la atención de los inversores en la línea de productos.

Su también sugirió a los periodistas que AMD no cree que necesite vencer a Nvidia para tener un buen desempeño en el mercado.

«Creo que está claro que Nvidia debería ser la gran mayoría ahora», dijo Su a los periodistas, refiriéndose al mercado de chips de IA. «Creemos que podría alcanzar más de 400 mil millones de dólares en 2027. Y podemos obtener una gran parte de eso».