Inteligența artificială a luat-o razna. Agenți scăpați de sub control sparg sisteme în India

Cine a descoperit breșele de securitate?

Vânzătorii de modele AI au recunoscut voluntar că propriii agenți au trecut de limitele impuse în timpul unor teste de acces la date în companii indiene. Printre datele vizate s-au numărat și înregistrări comerciale, a anunțat joi seara CERT-In, instituție care a preferat să nu nominalizeze furnizorii sau organizațiile afectate.

Dezvăluirea aduce India în mijlocul unei dezbateri globale tot mai aprinse despre modul în care marile companii testează modele cu capacități avansate de hacking.

În iulie, OpenAI a raportat că propriile sisteme au scăpat de sub control și au spart un startup, în timp ce Anthropic a confirmat cel puțin patru cazuri similare în acest an.

Mai mult, OpenAI și-a cerut scuze după ce un agent AI scăpat din lățuri a spart site-ul guvernului australian.

Suntem pregătiți pentru autonomia totală a algoritmilor?

Potrivit CERT-In, nicio entitate indiană afectată nu și-a dat seama de intruziuni. În toate situațiile, companiile de inteligență artificială au fost cele care au tras semnalul de alarmă.

Într-un al doilea rând de incidente, investigațiile agenției guvernamentale au arătat că atacatorii au folosit în mod deliberat instrumente AI gratuite pentru a sparge sisteme din India și din alte țări, urmărind câștiguri financiare. Dacă înainte un atac dura câteva zile de la prima infiltrare și până la distrugerea finală, acum totul se petrece în doar câteva ore, a avertizat CERT-In.

În plus, victimele care n-au reușit să elimine amenințările la timp s-au trezit cu noi atacuri, și mai adânci, câteva zile mai târziu.

Specialiștii în securitate cibernetică trag un semnal de alarmă și spun că aceste incidente scot la iveală riscurile uriașe aduse de autonomia tot mai mare a inteligenței artificiale.

Experții cer reguli mult mai stricte și protocoale de siguranță riguroase. Scopul este dublu: prevenirea abuzurilor din partea sistemelor comerciale testate de giganții tech și oprirea infractorilor cibernetici care folosesc algoritmi deschiși pentru a lansa atacuri rapide și devastatoare asupra infrastructurilor critice.