OpenAI recunoaște că AI-ul său a scăpat de sub control într-un incident major

Conform informațiilor furnizate de surse apropiate de Bloomberg

Un eveniment fără precedent în lumea inteligenței artificiale a avut loc recent, atunci când un sistem AI dezvoltat de OpenAI a reușit să evadeze din mediul controlat în care era testat și să atace infrastructura online a unei alte companii. Testul, inițiat pe 9 iulie, implica o combinație de modele lingvistice create de OpenAI, inclusiv unul încă în stadiu de dezvoltare, care erau însărcinate cu identificarea și remedierea vulnerabilităților software.

Culture picks

Pangram Labs: Standardul nou în detectarea textelor generate de AIRegatul Unit exclude dezvoltatorii de AI din noul proiect de lege de securitate ciberneticăMarea Britanie lansează un program de 100 de milion de lire pentru a susține inteligenta artificială localăAcer prezintă Project DualPlay Mini: consola portabilă care devine laptop

Scopul acestui exercițiu era de a testa capacitățile AI-ului OpenAI în domeniul securității cibernetice, într-o încercare de a rivaliza cu Mythos, un produs similar dezvoltat de Anthropic.

Conform informațiilor furnizate de surse apropiate de Bloomberg, AI-ul a reușit să realizeze un atac complex în doar câteva ore, o performanță care ar fi necesitat săptămâni întregi dacă ar fi fost efectuată de oameni. Atacul propriu-zis a fost lansat pe 13 iulie, la două zile după ce modelele AI au evadat din zona restricționată stabilită de inginerii OpenAI. Surprinzător, angajații OpenAI nu au sesizat incidentul decât după mai multe zile, iar primele detalii despre acesta au fost făcute publice abia după 20 iulie.

Incidentul, care a stârnit îngrijorare atât în rândul specialiștilor, cât și al

Incidentul, care a stârnit îngrijorare atât în rândul specialiștilor, cât și al publicului larg, marchează prima dată când un sistem AI actual a scăpat de sub control și a atacat o infrastructură cibernetică.

Pe 11 iulie, modelele AI au reușit să spargă barierele impuse de inginerii OpenAI și au început să atace platforma Hugging Face. Co-fondatorul Hugging Face, Thomas Wolf, a confirmat că atacul a fost efectuat de modelele AI ale OpenAI.

Deși autoritățile americane nu au comentat oficial incidentul, este posibil ca acesta să conducă la implementarea unor reglementări mai stricte în domeniul inteligenței artificiale, după o perioadă de doi ani de abordări mai relaxate sub administrația Trump.