Tehnologie. Digital. Inovație.
Ai

MTIA 400: Cipul personalizat al Meta care antrenează modele AI și servește reclame în același timp

Meta has unveiled its MTIA 400 accelerator, a custom chip designed to handle both AI model training and ad-serving inference, marking a shift from typical…

MTIA 400: Cipul personalizat al Meta care antrenează modele AI și servește reclame în același timp

Meta antrenează și servește AI pe același cip!

Meta a lansat cipul MTIA 400, un acceleratoare personalizat conceput să gestioneze atât antrenarea modelelor de AI, cât și inferența pentru servirea reclamei – o schimbare față de proiectele tipice orientate doar spre inferență. Cipul, introdus în cadrul efortului continuu al companiei de a reduce dependența de furnizorii externi, visează sarcini interne pe platformele sociale ale Meta.

Deși este mai rapid decât arhitectura Blackwell de la Nvidia în anumite sarcini specifice, Meta recunoaște că nu este încă un înlocuitor complet pentru GPU-urile AMD sau Nvidia în aplicații AI largamente utilizate.

MTIA 400 se bazează pe experiențele anterioare ale Meta în domeniul siliciumului personalizat, reflectând o strategie de optimizare a hardware-ului pentru combinația unică de cerințe AI pe care le are companiera. Spre deosebire de companii precum OpenAI, care au dezvoltat cipuri specializate pentru inferență – precum Jalapeño pentru generarea de jetoni – Meta a ales o abordare diferită: a combinat capacitățile de antrenare și inferență pe un singur die.

Acest design dublu scoparează să crească eficiența în centrele de date, unde modelele de clasificare a reclamei și cele de AI generativ rulează paralel. Meta afirmă că cipul oferă o performanță mai bună pe wat pentru sarcini interne, deși este ajustat în principal pentru stiva software proprietară.

MTIA 400 integrează motrici matriciale optimizate pentru antrenarea modelelor mari de recomandare, alături de unități specializate pentru inferență de latență scăzută. Astfel, Meta poate folosi același hardware atât pentru a refine modelele AI care prezic implicarea utilizatorilor, cât și pentru a le servi în timp real miliardelor de utilizatori.

Prin evitarea transferului de date între sisteme separate de antrenare și inferență, companie reduce latența și consumul de energie. Inginerii observă că arhitectura cipului permite o partitionare flexibilă a sarciniilor, facilitând mișcările dinamice între antrenare și inferență în funcție de cerință.

Poate cipul personalizat al Meta să confrunce liderii industriei?

Totuși, designul implică compromisuri: nu ajunge la performanța de punct-flotant de vârf a H100 de la Nvidia sau MI300X de la AMD în antrenamentul AI de scop general.

Deși oferă câștiguri de performanță în zone de nică, Meta nu poziționează MTIA 400 ca un concurent direct al Nvidia sau AMD pe piața deschisă. Cipul lipsește ecosistemul de software, suportul larg pentru cadre și compatibilitatea multi-furnizor care definesc GPU-urile furnizorilor establisi. În schimb, valoarea lui se află în integrarea verticală – adaptarea hardware-ului la modelele specifice de AI și infrastructura Meta. Analistii sugerează că, deși MTIA 400 nu va înlocui Nvidia în serviciile de AI din cloud în curând, ar putea influența modul în care alți iperscaleri abordează cipurile personalizate pentru sarcini mixte.

Meta planuiește să continue iterațiile pe linia MTIA, cu versiuni viitoare așteptate să reducă diferența în puterea de calcul brută.

Care este scopul principal al cipului MTIA 400?

MTIA 400 este conceput să gestioneze atât antrenarea modelelor de AI, cât și inferența, în special pentru sarcini interne ale Meta – precum clasificarea reclamei și sistemele de recomandare – prin combinarea acestor funcții pe un singur cip, ceea ce crește eficiența.

Cum se compară MTIA 400 cu arhitectura Blackwell de la Nvidia? Meta afirmă că cipul este mai rapid decât Blackwell în anumite sarcini interne, dar nu este încă un înlocuitor pentru GPU-urile Nvidia sau AMD în antrenamentul AI de scop general sau în implementări la scară largă.

Este MTIA 400 disponibil pentru utilizare în afara centrelor de date ale Meta? Nu, MTIA 400 este un cip destinat exclusiv utilizării interne și nu este vândut sau oferit clienților externi sau furnizorilor de servicii cloud.

More stories:

Content written by Elena Popescu for stiri-blockchain.ro editorial team, AI-assisted.

Share:

Leave a comment