Si bien OpenAI es conocida por ChatGPT y su solución de AI para texto e imágenes la idea de meterse en el negocio del hardware tiene sentido: actualmente dependen demasiado de NVidia.
Es que la mayoría del procesamiento para AI se hace en GPUs de NVidia con sus GPU H100 usados en servidores a tal efecto. En este momento el mercado está completamente controlado por NVidia no sólo por la velocidad de sus GPU para esta tarea sino porque hasta el software está mejor optimizado para sus productos.
Pero todo esto puede cambiar rápidamente y aquí entra en la ecuación el mayor respaldo que tiene OpenAI, Microsoft. MSFT no sólo apoya como inversor sino que tiene un gran interés en mejorar y volver independiente de proveedores al producto, ya que lo utilizan en Bing y prácticamente para toda operación AI hacia el público.
OpenAI requiere unos 10.000 GPUs en este momento y el costo por cada query de cualquier persona ronda los 4 centavos de dólar, multiplicado por millones de queries obviamente es un dinero.
Crear los propios chips es algo totalmente factible y es el camino que están optando la mayoría de los fabricantes, desde Apple para sus teléfonos a Microsoft con el proyecto Athena justamente para AI.
Y es este SOC el que parece que han estado testeando en OpenAI, seguramente no sea el diseño final a utilizar, pero con la relación simbiótica entre Microsoft y OpenAI es esperable que sea la base que utilicen para su propio CPU/GPU/APU para potenciar su AI.
El objetivo es lograr que los Athena estén a la altura de los H100 de NVidia, para esto Microsoft se asoció a AMD para mejorar el chip, y si lo logran Microsoft podría mejorar su posición en el mercado de LLM no sólo desde el software sino desde el hardware, control total de la cadena.
La realidad actual es que competirle de igual a igual a alguien que lleva décadas de ventaja es extremadamente difícil, caro y lento, no imposible, pero lleva un tiempo y una inversión que sólo un gigante puede hacer por ende las pequeñas startups tienen que apelar a estas sociedades junto a gigantes para poder desarrollar este hardware tan específico.
