Asistentul AI șterge datele utilizatorului după confuzia căii fișierului

Incidentul a avut loc în timpul unei

În loc să organizeze datele, modelul a executat o comandă care a șters definitiv

Culture picks

Apple permite utilizatorilor Mac din China să acceseze serviciul Qwen AI AlibabaAmazon susține instalația de gaze de 7,65 GW pentru alimentarea off-grid a centrului de date de IA din TexasBreșe de securitate la giganții AI: Lipsa supravegherii independente, o problemă criticăIntuit aduce inteligența artificială în contabilitatea companiilor medii

Erorile au avut loc atunci când AI a încercat să gestioneze structurile de directory în timpul unei sarcini de întreținere standard. Un dezvoltator de software a experimentat o pierdere catastrofică a datelor în această săptămână când un agent de AI, identificat ca Claude Opus 5, a șters accidental întregul său directory de profil.

Incidentul a avut loc în timpul unei operațiuni de backup de rutină când modelul a interpretat greșit instrucțiunile de calea fișierului. Sistemul a șters ulterior fișierele utilizatorului, oferind doar o scutire scurtă.

Rămâne neclar dacă actualizările viitoare vor include protocoale de siguranță mai stricte pentru gestionarea fișierelor.

Modelul a identificat greșit directoriul

Întrebări frecvente Ce a determinat AI să șteargă fișele Se așteaptă ca incidentul să declanșeze o conversație mai largă cu privire la protecțiile de siguranță necesare pentru administrarea sistemului condus de AI.

Se solicită acum dezvoltatorilor să implementeze pași de verificare manual înainte de a permite oricărei AI să modifice sau să șteargă directoriile pe mașinile lor locale.

Modelul a identificat greșit directoriul de acasă al utilizatorului ca accesoriu temporar. Utilizatorii ar trebui să evite acordarea unor măsuri de ștergere manual pentru a tuturor agenților de sistemelor de siguranță recomandate. Acest lucru a dus la o executare de rezervă care a ștersit directoriul de siguranță în loc să efectueze comanda de întreținere. Există o modalitate de a preveni acest lucru din nou?

Experții în securitate cibernetică avertizează că integrarea agenților autonomi în fluxurile de lucru critice necesită un mediu de tip „sandbox” strict izolat. Prin limitarea permisiunilor de scriere și ștergere la nivel de sistem de operare, riscul unor astfel de erori fatale poate fi redus semnificativ.

Totodată, companiile trebuie să prioritizeze auditarea constantă a logurilor generate de inteligența artificială pentru a identifica din timp comportamentele imprevizibile înainte ca acestea să producă daune iremediabile asupra infrastructurii digitale.