- AWS anunció planes para crear una supercomputadora de inteligencia artificial, UltraCluster, impulsada por chips Trainium 2 en re:Invent.
- AWS podría reducir su dependencia de Nvidia desarrollando su propia infraestructura de inteligencia artificial.
- Apple dijo que utiliza chips Trainium 2 para Apple Intelligence.
Matt Garman, director ejecutivo de Amazon Web Services, hizo varios anuncios nuevos e importantes sobre AWS en la conferencia re:Invent el martes.
Su discurso de apertura de dos horas y media profundizó en las ofertas y actualizaciones actuales de software y hardware de AWS, con comentarios de clientes como Apple y JPMorgan. Entre la multitud de información destacan unidades de procesamiento gráfico (GPU), supercomputadoras y una aparición sorpresa de Apple.
AWS, el brazo de computación en la nube de Amazon, está desarrollando sus propios semiconductores para entrenar la IA. El martes, Garman anunció la creación de UltraServers, que contienen 64 de sus chips Trainium 2, para que las empresas puedan ampliar sus cargas de trabajo GenAI.
Además, también está construyendo una supercomputadora de IA, un UltraCluster compuesto por UltraServers, en asociación con la startup de IA Anthropic. Fijado Proyecto más lluvioso, será «el clúster de computación de IA más grande del mundo informado hasta la fecha disponible para que Anthropic construya e implemente sus modelos futuros» una vez completado, de acuerdo a una publicación de blog de Amazon. Amazon invirtió 8 mil millones de dólares en Anthropic.
Tales avances podrían empujar a AWS aún más a competir con otras empresas de tecnología en la actual carrera armamentista de IA, incluido el gigante de chips de IA Nvidia.
Aquí hay cuatro conclusiones del discurso de apertura completo de Garman el martes.
Los chips Trainium de AWS podrían competir con Nvidia.
Nvidia domina actualmente el mercado de chips de IA con sus codiciadas y costosas GPU, pero Garman apoyó el silicio local de AWS durante su discurso de apertura del martes. El objetivo de su empresa es reducir el coste de la IA, afirmó.
«Hoy en día, en realidad sólo hay una opción en el lado de la GPU, y esa es solo Nvidia. Creemos que los clientes apreciarían tener múltiples opciones», dijo Garman. dijo al Wall Street Journal.
La IA está creciendo rápidamente y la demanda de los chips que hacen posible esta tecnología está preparada para crecer junto con ella. Grandes empresas tecnológicas, como Google y Microsoft, también se están metiendo en la creación de chips para encontrar una alternativa a Nvidia.
Sin embargo, Garman le dijo al Journal que no espera que Trainium destrone a Nvidia «por mucho tiempo».
«Pero espero que Trainium pueda hacerse un buen nicho donde creo que será una gran opción para muchas cargas de trabajo, no para todas las cargas de trabajo», afirmó.
AWS también presentó Trainium3, su chip de próxima generación.
La nueva supercomputadora de AWS podría rivalizar con la xAI de Elon Musk.
Según The Journal, se espera que el grupo de chips conocido como Proyecto Rainier esté disponible en 2025. Una vez que esté listo, Anthropic planea usarlo para entrenar modelos de IA.
Con “cientos de miles” de chips Trainium, desafiaría al Colossus de Elon Musk, una supercomputadora equipada con 100.000 chips Nvidia Hopper.
Apple está considerando Trainium 2 para la formación de Apple Intelligence.
Garman dijo que Apple es uno de sus clientes que utiliza chips AWS, como Amazon Graviton e Inferentia, para servicios como Siri.
Benoit Dupin, director senior de inteligencia artificial y aprendizaje automático de Apple, subió al escenario en la conferencia de Las Vegas. Dijo que la compañía ha trabajado con AWS para “prácticamente todas las fases” de su ciclo de vida de inteligencia artificial y aprendizaje automático.
«Uno de los elementos únicos del negocio de Apple es la escala a la que operamos y la velocidad a la que innovamos», dijo Dupin.
Añadió: “AWS ha logrado mantener el ritmo y somos clientes desde hace más de una década. »
Ahora, Dupin dijo que Apple se encuentra en las primeras etapas de prueba de los chips Trainium 2 para ayudar potencialmente a entrenar Apple Intelligence.
La empresa presentó una nueva generación de modelos fundamentales, Amazon Nova.
Amazon ha anunciado algunos nuevos chicos en el bloque GenAI.
Los clientes de AWS podrán utilizar aplicaciones GenAI basadas en Amazon Nova “para comprender videos, gráficos y documentos, o generar videos y otro contenido multimedia”, dijo Amazon. dicho. Hay una variedad de modelos disponibles a diferentes precios, dice.
«Amazon Nova Micro, Amazon Nova Lite y Amazon Nova Pro son al menos un 75% más baratos que los modelos de mejor rendimiento en sus respectivas clases de inteligencia en Amazon Bedrock», dijo Amazon.