Intel sabe que hay un mercado gigante del cual no puede perder la oportunidad y Gaudi 3 sería su procesador para tratar de arrañar un poco del negocio de NVidia.
Durante los últimos meses NVidia creció y se revaluó de una forma increíble gracias a sus GPU orientados a servidores y AI, si blockchain y esas cosas quedaron en el olvido, ahora todo es AI y está claro que no puede haber un jugador único en el negocio, hay que competir y AMD viene atrasado, el único que queda es Intel.
Gaudi 3
La nueva versión de los GPU Gaudi verá la luz pública en el tercer trimestre de 2024, mientras tanto lo que tenemos es el anuncio oficial y especulaciones de cómo será su performance, porque nunca se puede creer en la palabra del vendedor, pero algunas cosas podemos interpretar de lo que comunican.
Hay que tener en cuenta que NVidia lanzó su renovación de GPUs hace muy poco con los Blackwell, aunque confundió un poco con sus números ya que hizo mucho hincapié en los resultados para FP4 cuando no es tan utilizado en el mercado.
En el caso de Intel promete un rendimiento de 1835 TFLOPS en FP8, con eso creen que ya se vuelven tentadores en el mercado y pueden competir, y es interesante ver que Intel le está dando un nuevo espacio y prioridad a los aceleradores de AI por sobre los de HPC y GPU solamente, todo apuntando a los futuros Falcon Shore.
El Gaudi 3 se encuentra en ese camino ofreciendo 8 motores de matrices, 64 tensor cores, memorias HBM2e a 3.7Gbps, dos bus de 4096 bits, para un ancho de banda de 3.7TB/sec, un total de 128GB de VRAM (dos zonas de 64GB), un interconectado Ethernet de 200Gb con 24 links con un máximo de 600GB/sec.
Se espera un TDP de 900W por chip que es producido en el proceso de TSMC de 5nm.
Como notarán el uso del proceso de 5nm y HBM2e suenan a “hey, pero eso es muy 2023”, pero hay que entender que no se pueden poner todas las cosas nuevas en un mismo producto, hoy por hoy la eficiencia del proceso de 3nm deja muchos CPUs fallidos y descartados (eleva el coste), y las memorias HBM3 son más caras, al parecer en Intel decidieron darle un respiro a las “features”.
Lo que es interesante de Gaudi 3 es su diseño, los bloques de procesamientos comparten una caché de 48MB de SRAM en el mismo chip, hacia afuera, a modo de chiplets, está la memoria VRAM, al estar todo montado en un mismo paquete las latencias son menores y se asemeja al diseño de Apple para sus procesadores M3, salvando las distancias, claro.
La performance en FP8 es 1835 TFLOPS así como también la de BF16, lo que significa que está en una buena posición para el mercado en lo referido a 16 bits, el chip cuenta, además, con un enlace PCIe Gen 5 x16, además de su enlace Ethernet que cada vez estira más allá de su diseño original ¿Alguno imaginaría Ethernet usado para esto hace 40 años?
Con 24 enlaces Ethernet de 200Gbps cada uno lleva el ancho de banda de entrada y salida hasta los 8.4TB/s acumulados entre I/O, Intel recomienda enlaces de ocho Gaudi 3 con esta conexión.
Un mercado muy competitivo
Intel no tiene más que seguir avanzando, si se detiene a pensar o mirar los costes perderá ya que NVidia le lleva ventaja. Pero quien no compite ya está muerto.
Las ventajas de Gaudi 3 sobre los H100 de NVidia no durará demasiado cuando Blackwell ingrese al mercado, pero podrá ofrecer una alternativa a algo que hoy en día está condicionado a un sólo proveedor, curiosamente sería Intel el que vendría a romper un monopolio, una ironía del destino.
El H100 es un acelerador que ya tiene dos años en el mercado, vencerlo con un 70% mayor de performance es obviamente algo esperable, la mejora de 230% de eficiencia energética es algo que se necesita con urgencia.
El acelerador llegará en la segunda mitad del 2024 en formato OAM o placa PCIe, en el segundo caso habrá modelo con TDP de 600W, más limitado, pero que podrá funcionar en cualquier slot PCIe normal.
Además del hardware Intel se ha preocupado en preparar todo el software compatible con su acelerador, algo que es imposible de evitar si se pretende que la industria los tome en serio, además, acelerará el desarrollo notablemente.
Via Anandtech
