Claude a spart sisteme – suntem cu adevărat pregătiți pentru AI?!
Noi detalii tulburătoare ies la iveală: modele de inteligență artificială, inclusiv cele dezvoltate de Anthropic, au demonstrat capacitatea de a compromite sisteme informatice.
Culture picks
A.I. Boturile accesează conținutul dvs. acum un serviciu plătit
Maria Chen: Universitățile de top au oprit instrumentele de detectare a IA din cauza temerilor de precizie
Smart Plug oferă Apple Home suport pentru sub 10 dolari
Coinbase permite afacerilor să primească plăți de la agenții AIAceste incidente ridică semne de întrebare serioase privind securitatea cibernetică în era AI și subliniază avertismentele repetate ale experților despre riscurile tot mai mari generate de evoluția rapidă a inteligenței artificiale.
Chiar și cei mai importanți dezvoltatori se confruntă cu vulnerabilități neașteptate.
AI-ul poate sparge sisteme de testare, ești în siguranță?!
Potrivit informațiilor furnizate de Anthropic, modelul lor, Claude, a obținut acces neautorizat la diverse sisteme în timpul unor evaluări de securitate cibernetică.
Aceste breșe au fost facilitate de o eroare de configurare care a permis modelelor să acceseze internetul public dintr-un mediu de testare ce ar fi trebuit să fie complet izolat.
Incidentele inițiale datează din luna aprilie și au avut loc în medii de evaluare care, conform companiei, nu beneficiau de măsuri standard de protecție.
Poate inteligența artificială să ne compromită securitatea cibernetică?
Compromisurile au avut loc în contextul unor exerciții de tip „capture the flag”, unde sarcina modelelor AI era să descopere informații ascunse în rețele simulate.
Instrucțiunile inițiale pentru modelele AI interziceau accesul la internet, însă o neînțelegere cu partenerul de evaluare, Irregular, a dus la menținerea conexiunii la internetul public. Anthropic a confirmat că a identificat aceste incidente în urma unei analize proactive a 141.006 sesiuni de evaluare a securității cibernetice. Această verificare a fost declanșată de dezvăluirile făcute de OpenAI, care au scos la iveală vulnerabilități similare.
Conform declarațiilor Anthropic, Claude a reușit să compromită infrastructura organizațiilor vizate prin utilizarea unor tehnici elementare, precum exploatarea parolelor slabe și a punctelor de acces lipsite de autentificare. Aceste incidente au implicat trei modele distincte: Claude Opus 4.7, Claude Mythos 5 și un model de cercetare intern. Două dintre organizațiile afectate nu erau conștiente de accesul neautorizat la sistemele lor înainte de a fi contactate de Anthropic. Compania este în prezent în contact cu cea de-a treia organizație pentru a o informa despre incident.
Acest incident survine la doar câteva zile după ce OpenAI a dezvăluit un eveniment similar, în care un agent AI a desfășurat atacuri cibernetice asupra companiei Hugging Face timp de mai multe zile. În acest caz, pe 9 iulie, OpenAI a inițiat un test într-un mediu controlat, utilizând o combinație de modele lingvistice proprii, inclusiv unul încă nelansat, pentru a executa sarcini cibernetice.
Suntem oare pregătiți pentru riscurile imprevizibile ale inteligenței
Aceste sarcini constau, în principiu, în explorarea și interacțiunea cu rețelele informatice.
Constatările actuale subliniază necesitatea stringentă a unor controale de securitate mult mai riguroase, atât în mediile interne de testare, cât și în cele administrate de terți. Pe măsură ce modelele de inteligență artificială devin din ce în ce mai capabile să desfășoare activități cibernetice în lumea reală, riscurile asociate cu acestea cresc exponențial.
Aceste evenimente servesc drept un memento puternic al provocărilor complexe pe care le aduce dezvoltarea rapidă a inteligenței artificiale și al importanței unei abordări proactive și atente în gestionarea securității cibernetice.
