Modelul de 29 MB?
Un model de inteligență artificială de doar 29 MB a fost rulat recent pe un Raspberry Pi 5, oferind performanță utilă fără a necesita un tablou de expansiune AI. Modelul, conceput pentru inferență pe dispozitiv, a demonstrat că poate fi folosit în sarcini cotidiene.
Culture picks
Steam Remote Play devine mai bun: codecul Pyrowave îmbunătățește streaming-ul de jocuri
Apple HomeView: Hub-ul de casă inteligentă al companiei
Apple prezintă HomePod Mini 2, HomeView Hub și Apple TV 4K înainte de evenimentul din New York
VisionQuest se lansează pe Disney+ în octombrie 2026 — ultimul capitol al trilogiei Wanda și VisionRaspberry Pi 5, lansat la începutul anului, aduce CPU și GPU îmbunătățite față de predecesorul său.
Ce poate face?
Echipa de dezvoltatori a creat un model care ocupă doar 29 MB și poate fi încărcat direct în memoria internă a Pi-ului. Utilizatorii pot rula modelul pe distribuții Linux standard, fără a instala cămăreți AI sau acceleratoare externe. Testul a inclus recunoaștere de imagini și procesare a limbajului natural, sarcini pe care Pi-ul le a gestionat fără probleme, la rate de cadre moderate.
Modelul a fost obținut prin tehnici de pruning și cuantizare, reducând numărul de parametri și transformând greutățile în întregi de 8 biți.
Limitele performanței?
Astfel, dimensiunea fișierului a scăzut de la sute de megabytes la doar 29 MB, permițându-i să se încadreze în RAM-ul limitat al Pi-ului și să elibereze memorie pentru alte procese.
În practică, modelul poate identifica obiecte în fotografii, transcrie vorbirea și genera completări text simple. Pentru pasionați, asta înseamnă proiecte mai sofisticate fără costuri suplimentare de hardware. GPU-ul integrat al Pi-ului se ocupă de inferență, menținând consumul de energie și căldura la un nivel scăzut.
Succesul acestui model sugerează că viitoarele implementări AI pe dispozitive edge pot pune accent pe eficiență. Prin comprimarea modelelor, dezvoltatorii pot oferi capacități AI pe platforme accesibile, extinzând accesibilitatea pentru makers și educatori.
Cum se actualizează?
Modelul rulează pe Raspberry Pi OS sau orice distribuție Linux compatibilă cu arhitectura ARM a Pi‑ului 5. Nu este nevoie de alimentare externă suplimentară; consumul de energie rămâne modest. Modelul poate fi actualizat prin descărcarea unei noi versiuni și reîncărcarea în stocarea Pi-ului.
Ce sistem de operare este necesar? Modelul rulează pe Raspberry Pi OS sau orice Linux compatibil cu ARM.
Cum poate un model de doar 29 MB rula pe un Raspberry Pi 5?
Este nevoie de alimentare externă? Nu, nu este necesar un adaptor suplimentar. Pot actualiza modelul?
Da, îl poți înlocui sau ajusta descărcând o versiune nouă și reîncărcând-o.
