Meta, una dintre primele companii care au adoptat arhitectura RISC-V pentru cipurile sale destinate inferenței AI, a făcut un pas important în dezvoltarea propriilor soluții hardware. Conform unui raport Reuters, compania a proiectat, cu ajutorul Broadcom, un accelerator dedicat pentru antrenarea modelelor de inteligență artificială. Acest cip ar putea reduce semnificativ dependența Meta de unitățile de procesare grafică (GPU) Nvidia de ultimă generație, precum H100/H200 și B100/B200, esențiale pentru antrenarea modelelor avansate de limbaj.
Un cip proprietar, proiectat cu TSMC și Broadcom
Meta și Broadcom au finalizat proiectarea cipului, iar TSMC a produs primele mostre funcționale. Conform raportului, unitatea a fost deja testată cu succes și este implementată la scară limitată pentru a evalua performanța înaintea unei posibile producții în masă.
Deși specificațiile exacte ale cipului nu sunt cunoscute, acceleratoarele de antrenare AI utilizează, de regulă, arhitectura matricei sistolice. Aceasta constă într-o rețea de elemente de procesare identice (PE – Processing Elements), dispuse în rânduri și coloane, fiecare manipulând operațiuni matematice complexe, în special pe matrici și vectori.
Cipul Meta este probabil echipat cu memorie HBM3 sau HBM3E, având în vedere cantitățile masive de date necesare antrenării modelelor AI. De asemenea, este optimizat pentru a echilibra dimensiunea matriței, consumul de energie și…
