Pericolul invizibil din AI: Cum pot fi manipulate dispozitivele inteligente prin atacuri hardware

Cum poate AI-ul să proceseze date eronate fără să se oprească?

Cea mai mare vulnerabilitate a inteligenței artificiale integrate nu constă în prăbușirea totală a sistemului, ci într-o defecțiune mult mai insidioasă: capacitatea dispozitivului de a rămâne activ în timp ce procesează date complet eronate. Tehnologiile de procesare locală au devenit coloana vertebrală a roboților autonomi, a mașinilor fără șofer și a sistemelor de supraveghere inteligentă. Aceste dispozitive se bazează pe acceleratoare hardware specializate, precum unitățile de procesare neuronală (NPU) sau plăcile grafice (GPU), pentru a asigura calcule de mare viteză. Însă, funcționarea continuă nu este o garanție a integrității datelor.

Culture picks

Dell lansează două monitoare Alienware: viteză extremă vs. claritate 4KInvestigația METR asupra breșei OpenAI‑Hugging FaceHUMAIN lansează Horizon Ultra: PC-ul care rulează AI local, fără cloudSciFin ridică 44 de milioane de dolari pentru a unifica datele de venit

Un raport tehnic recent scoate la iveală un scenariu alarmant: un sistem AI poate părea perfect funcțional, în timp ce interpretează eronat mediul înconjurător. Cercetarea a vizat o platformă comercială de percepție vizuală, utilizând arhitectura Rockchip RK3568 și modelul de detecție a obiectelor YOLOv5s_ReLU. Întregul mecanism parcurge etape critice: achiziția datelor senzoriale, preprocesarea CPU, inferența NPU, urmărirea obiectelor și logica finală de acționare. Deoarece aceste sisteme operează autonom, fără o sincronizare constantă cu cloud-ul, orice eroare locală compromite direct deciziile luate în timp real.

Spre deosebire de atacurile clasice, care vizează firmware-ul, parametrii modelului sau imaginile de intrare, acest studiu introduce o metodă inedită.

Cum rămân sistemele autonome active când procesează date eronate?

Cercetătorii au indus fluctuații de tensiune scurte și precise în alimentarea NPU-ului. Folosind măsurători electromagnetice, experții au cartografiat cronologia execuției modelului pentru a identifica momentele sale cele mai vulnerabile.

Fereastra optimă pentru un atac reușit apare spre finalul procesului de inferență, mai exact în etapele „neck” și „head”.

În aceste faze, trăsăturile vizuale sunt sintetizate pentru a genera coordonatele casetelor de delimitare, clasificarea obiectelor și scorurile de încredere. Prin vizarea acestor pași, atacatorii pot altera percepția sistemului fără a declanșa nicio alarmă. Această breșă subliniază nevoia urgentă de securitate hardware robustă în mediile de calcul de tip edge.