Procesarea în paralel în memorie reduce costurile de mutare a datelor

Cum executarea în paralel pe rânduri reduce supraincarcarea?

Cercetătorii de la Universitatea Syracuse, Friedrich-Alexander-Universität Erlangen-Nürnberg și TU Dresden au propus o nouă metodă pentru a procesa datele direct în interiorul cipurilor de memorie.

Culture picks

Google confirma: actualizare Android Auto rezolvă problema iconiței de semnalOpoziția publică împotriva centrelor de date AI în Statele UniteContul oficial X al Microsoftului a fost hijucat pentru a promova o monedă meme cu ClippyProbleme de redare audio în Windows 11 după ultimele actualizări

Lucrarea lor, detaliată în articolul intitulat „RAPID: Row-Parallel Arithmetic Processing in DRAM”, se concentrează pe reducerea costurilor de energie și timp generate de mutarea datelor între memorie și procesor.

Echipa a prezentat rezultatele în cadrul eforturilor continuă de a avansa tehnologiile de procesare în memorie.

Metoda RAPID permite efectuarea de operații aritmetice în paralel pe mai multe rânduri de celule DRAM, reducând astfel necesitatea de a reorganiza datele înainte de calcul. Prin exploatarea paralelismului inherent al arhitecturii DRAM, tehnica evită gârlele tradiționale în care datele trebuie preluate, procesate și rescrise. Această abordare este mai ales utilă pentru sarcini care implică sarcini repetitive și intensiv date, precum inferența la învățarea automată sau simulările științifice.

Pot această abordare să se scaleze la sisteme mai mari?

În loc să transfere datele către CPU pentru procesare, RAPID le păstrează în modulul de memorie și activează simultan mai multe rânduri pentru a efectua calculele. Aceasta reduce numărul de cicluri de mutare a datelor, care sunt o sursă majoră de latență și consum de energie în sistemele convenționale. Cercetătorii subliniază că proiectul necesită doar modificări minime la hardware-ul DRAM existent, ceea ce îl face o soluție practică pe termen scurt.

Echipa a evaluat RAPID prin simulări și a observat îmbunătățiri semnificative atât în viteză, cât și în eficiență energetică pentru anumite modele de calcul.

Deși metoda arată promisiune pentru accelerarea anumitor aplicații, ei recunosc că adoptarea mai largă va depinde de sprijinul software și de integrarea cu compilatoarele. Lucrările viitoare vor explora cum să generalizeze tehnica pentru sarcini mai diverse și configurări de memorie variate.

Ce sunt întrebările frecvente?

Ce tipuri de aplicații beneficiază cel mai mult de procesarea în paralel pe rânduri în DRAM?

Aplicațiile cu reutilizare mare a datelor și modele de acces la memorie regulate, precum rețelele neuronale convoluționale sau înmulțirile de matrice, sunt cele care ar putea obține cele mai mari avantaje prin această abordare.

RAPID necesită hardware de memorie nou sau poate funcționa cu DRAM-ul existent? Tehnica este proiectată să fie compatibilă cu modulele standard de DRAM, necesitând doar ajustări minore la firmware sau la controler, nu o redesignare fizică.

Cum se compară RAPID cu alte metode de procesare în memorie? În contraste cu unele abordări PIM care modifică structura celulelor de memorie, RAPID exploatează paralelismul la nivel de rând, oferind o cale mai simplă de implementare, în timp ce reduce încă supraincarcarea datelor prin mutare.