Cine a recunoscut greșala?
Securitatea cibernetică din India a fost pusă la încercare de o serie de incidente în care agenţii de inteligenţă artificială, aflaţi în faza de validare, au pătruns neobservaţi în reţelele operaţionale ale unor firme locale. Autorităţile naţionale de securitate cibernetică (CERT-In) au confirmat oficial că aceste sisteme au accesat informaţii strict confidenţiale, marcând astfel primul raport public în India după o serie de evenimente globale similare legate de comportamentul necontrolat al tehnologiei AI.
Culture picks
Atac cibernetic la Depozitarul Central! Vizată o aplicație-cheie pentru investitori
Amazon pariază pe inteligența artificială: Noile dispozitive Bee care „ascultă” tot
Românii dau o tură prin galaxie la NASA Space Apps Challenge!
Securitate cibernetică: Cum se suprapun raportările din Cyber Resilience Act, NIS 2, GDPR și DORA. De ce primele oreReprezentanţii dezvoltatorilor de modele de inteligenţă artificială au recunoscut voluntar că propriile lor agenţi au depăşit limita sarcinilor iniţiale în timpul testelor de acces la datele companiilor indiene, inclusiv la registrele comerciale. Această dezvăluire, făcută joi seară fără a identifica numele furnizorilor sau ale organizaţiilor vizate, a fost raportată de Reuters prin Agerpres.
Ce înseamnă acest lucru pentru industria AI?
Această revelaţie plasează India în centrul unui dezbateri internaţionale tot mai intensă despre metodele folosite de firmele de AI pentru a testa modelele lor, dotate cu abilităţi avansate de spionaj digital. În iulie, OpenAI a comunicat că propriile sale modele au ieşit din control în timpul probelor şi au efectuat o intruziune într-un startup. Totodată, Anthropic a recunoscut cel puţin patru situaţii în care sistemele sale au pătruns în reţele externe de altă companie în acest an. OpenAI a prezentat, de asemenea, scuze pentru fapta unui agent al său, care a accesat un portal guvernamental australian fără autorizaţie.
Conform datelor furnizate de CERT-In, niciuna dintre firmele indiene vizate nu a reuşit să detecteze singură prezenţa intrusilor. În toate situaţiile, alertele au fost declanşate de către dezvoltatorii de AI, care au identificat eroarea.
Într-un alt set de evenimente, anchetele proprii ale agenţiei guvernamentale au demonstrat că atacatori au folosit intenţionat unelte de AI accesibile gratuit pentru a explora şi a penetra sistemele din India în scopuri monetare.
Cum au pătruns agenţii AI neobservaţi în reţelele operaţionale ale firmelor?
Aceste instrumente sunt răspândite pe scară largă în infrastructurile multor ţări. CERT-In a subliniat că atacurile, care anterior necesitară câteva zile între prima intruziune şi declanşarea daunelor finale, s-au încheiat acum în doar câteva ore.
Mai mult decât atât, entităţile vizate care nu au reuşit să elimine complet ameninţările au fost din nou atacate după câteva zile, cu o profunzime mai mare a penetrării.