Fără frâu: Cum un model AI a invadat o rețea de acasă

AI-ul a trecut de la audit la atac autonom!

Până acum, instrumentele de securitate bazate pe inteligență artificială au fost mai degrabă spectatori decât actori. Funcționau pasiv, identificând slăbiciuni, dar fără să intervină direct în sistem.

Un experiment recent, publicat de revista WIRED, schimbă însă această ecuație. Cercetătorii au demonstrat că un agent AI poate trece de la simpla observare la acțiune autonomă. Folosind o variantă modificată a modelului GLM 5.3, programul a operat independent într-un mediu local.

Rezultatul? A identificat aproximativ 12 dispozitive hardware din rețeaua de acasă, le-a catalogat vulnerabilitățile și a lansat, fără nicio intervenție umană, tentative de preluare a controlului.

Testul a rulat pe platforma CyberStrike.

Deși capacitatea de a accelera auditurile tehnice este un avantaj pentru apărători, ea scurtează și fereastra de timp de care se bucură un atacator înainte de a lansa ofensiva.

Modelele de frontieră actuale pot găsi vulnerabilități zero-day în baze de cod uriașe și scanează calculatoarele cu o viteză amețitoare. Particularitatea acestui caz stă în faptul că s-a folosit un model cu ponderi deschise (open-weight). Asta înseamnă că componentele sale pot fi ajustate local, facilitând adaptarea la cerințe specifice.

Modificarea esențială a venit prin tehnica cunoscută drept „abliteration”. Procesul elimină din structura internă a modelului acele tipare asociate cu refuzul unor solicitări sau cu restricțiile stricte de securitate. Compania Abliteration AI oferă astfel de modele, lipsite de constrângeri, inclusiv o versiune a modelului agentic de programare GLM 5.3, dezvoltat de Z. ai, o entitate condusă de Devon.

În rețeaua supusă testării, agentul AI a dat peste o imprimantă configurată nesigur. Oricine din rețea se putea conecta la ea. Fișierele din coada de imprimare ar fi putut conține date sensibile – declarații fiscale, extrase bancare sau documente medicale – expuse privirilor indese. Sistemul audio Wiim a oferit, de asemenea, informații utile: dezvăluia ultima piesă redată și permitea oricui să modifice volumul sau să lanseze alte conținuturi. Agentul a mai identificat o serie de dispozitive IoT cu firmware depășit, care necesitau actualizări urgente.

Pentru a consolida securitatea, modelul a propus un set de măsuri: actualizarea firmware-ului, protejarea imprimantei și mutarea dispozitelor IoT, precum boxele inteligente, într-o rețea dedicată oaspetilor. Această segregare ar asigura faptul că un echipament compromis nu ar avea vizibilitate asupra calculatoarelor personale din rețeaua principală.

Analizând un director care conținea proiecte dezvoltate prin metoda cunoscută ca „vibe coding”, agentul a semnalat zeci de probleme critice.

Aliați sau amenințări?

Printre ele s-au numărat credențiale API nesigure și erori de configurare care ar fi permis unui atacator să trimită e-mailuri în numele victimei.

După scanarea unui sistem Linux, AI-ul a concluzionat că mașina este relativ protejată, dar a reușit să deducă un nume de utilizator valid pe baza denumirilor altor sisteme din rețea.

A încercat o serie de parole simple, ineficiente, și a propus ulterior scrierea unui script pentru un atac prin forță brută.

Ulterior, agentul a localizat o cheie criptografică stocată pe mașină și a folosit-o pentru a stabili o conexiune fără necesitatea unei parole. Apoi a început căutarea parolei necesare pentru accesul de tip root.

Câteva ore mai târziu, după reconectarea la rețeaua Wi-Fi, a identificat routerul și a testat mai multe combinații standard, de tip „admin/admin” sau „admin/parola”.

Devon, directorul general al Abliteration AI, argumentează că modelele lipsite de restricții pot fi un atu pentru apărare. Ele permit identificarea rapidă a vulnerabilităților și simularea comportamentului hackerilor, escrocilor și a agenților AI autonomi.

Într-o declarație adresată revistei WIRED, acesta a atras atenția asupra companiilor din infrastructura critică, de la liniile aeriene la instituțiile bancare, care implementează agenți AI cu o viteză accelerată.

Întrebarea-cheie rămâne cum pot fi împiedicați actorii rău intenționați să exploateze acești agenți în mod abuziv.

Shaanan Cohney, specialist în securitate, susține că lipsa filtrelor de securitate transformă aceste instrumente din simple asistenți în arme ofensive, capabile să acționeze cu o autonomie periculoasă.