MTIA: l'acceleratore di training e inferenza di nuova generazione di Meta per le applicazioni di AI

(Tecnologia) - Il lancio dell'ultima versione di MTIA segna un punto di svolta significativo mostrando miglioramenti sostanziali nelle prestazioni, un fattore chiave che contribuirà a potenziare i modelli di annunci di ranking e raccomandazione di Meta. Questo progresso non solo dimostra l'evoluzione tecnica dell'hardware specifico per AI, ma sottolinea anche l'impegno di Meta nell'investire risorse per lo sviluppo di un'infrastruttura AI all'avanguardia. In proprio, senza necessariamente ricorrere a servizi o infrastrutture tecnologiche terze anzi cercando di sviluppare una strategia dominante nell'evoluzione delle tecnologie AI. Meta ha pensato l'architettura di questo chip con l'intento di fornire il giusto equilibrio tra capacità di calcolo, larghezza di banda della memoria e capacità della memoria per servire i modelli di ranking e raccomandazione.

L'acceleratore si presenta con una griglia 8x8 di elementi di elaborazione (PEs). Questi PEs possono produrre prestazioni di calcolo denso significativamente aumentate (3,5 volte rispetto a MTIA v1) e prestazioni di calcolo sparso (migliorate di 7 volte). Per raggiungere queste prestazioni Meta ha triplicato la dimensione della memoria locale dei PE, raddoppiato la SRAM sul chip e aumentato la sua larghezza di banda di 3,5 volte, e raddoppiato la capacità della LPDDR5. La corsa alla leadership nel campo dell'intelligenza artificiale è appena iniziata .