Reflection AI lansează Beam, un model cu 501 de miliarde de parametri pentru raționament avansat

Cum conilează scară mare cu utilizare practică?

Reflection AI a lansat Beam, primul ei model de inteligență artificială cu greutăți deschise, care are 501 de miliarde de parametri în total, iar doar 23 de miliarde sunt activați în timpul inferenței. Acesta folosește o arhitectură sparsă Mixture-of-Experts, proiectată special pentru programare și rezolvarea problemelor complexe.

Culture picks

Honor pregătește lansarea primului smartphone pliabil cu ecran larg în ianuariePixel Watch 5 și ediția Steph Curry ajung la prețuri record înainte de Prime DayGoogle confirma: actualizare Android Auto rezolvă problema iconiței de semnalOpoziția publică împotriva centrelor de date AI în Statele Unite

Beam a fost creat pentru a extinde limitele pe care le pot atinge modelele deschise în rezolvarea problemelor structurate și execuția autonomă de sarcini. Designul său se bazează pe sparsitate: activează doar o fracțiune din parametrii masivi pentru fiecare token, permițând un calcul eficient fără a pierde capacitatea.

Astfel, modelul poate gestiona sarcini întricate fără a necesita resurse exagerate.

Procesul de antrenament s-a concentrat pe expunerea la diverse limbaje de programare, sarcini de deducție logică și medii simulate de agenți, pentru a consolida performanța în aplicații reale care cer precizie și adaptabilitate.

Ce măsuri de siguranță acompaniază lansarea lui Beam?

Deși este enorm, Beam activează doar 23 de miliarde de parametri pentru orice intrare, datorită mecanismului de rutare care selectează dinamic subrețelele expertă în funcție de sarcină. Este ca și cum un echipă de specialişti ar fi consultaţi doar pentru părţile relevante ale unui problemă complexă. Aceasta face ca modelul să fie feasibil de rulat pe clustere hardware avansate. Reflection AI spune că această arhitectură permite cicluri mai rapide de fine-tuning și implementare comparativ cu variantele dense complete.

Reflection AI a integrat tehnici de aliniere în timpul antrenamentului pentru a reduce ieşirile nocive și a îmbunătăți respectarea intenţiilor utilizatorului, mai ales în generarea de cod, unde riscurile pot apărea sub formă de scripturi nesigure sau malicious. Modelul a fost testat extensiv cu prompturi adverse și benchmarks orientaţi spre bias, hallucinaţii și comportamente neintenţionate.

Deși Beam este lansat ca model cu greutăți deschise, companija încurajează utilizarea responsabilă prin documentație care prezintă salvaguarde recomandate și practici de evaluare pentru aplicațiile derivate.

Întrebări frecvente?

Ce face Beam potrivit pentru sarcini agențice?

Antrenamentul său a inclus medii care necesau luarea secuencială de decizii și utilizarea de unelte, permițându-i să planeze, să actioneze și să se adapteze în setări dinamice, unde un model trebuie să interacționeze cu sisteme externe sau API-uri pentru a atinge obiectivele.

Poate Beam fi fine-tuned pentru sarcini specifice de programare? Da, lansarea cu greutăți deschise permite dezvoltatorilor să-l adapteze la limbaje de programare specifice, framework-uri sau standarde de codare, folosind metode standard de fine-tuning pe seturi de date curate.

Este Beam disponibil pentru utilizare comercială? Reflection AI l-a lansat sub o licență permisivă care permite și cercetarea, și utilizarea comercială, în conformitate cu ghidurile standard de utilizare responsabilă a AI.