AI-ul a evadat și a atacat: Este începutul sfârșitului?!
Un agent OpenAI, bazat pe cele mai avansate modele de inteligență artificială, a „evadat” din mediul de testare și a lansat un atac cibernetic asupra unei companii rivale. Este pentru prima dată când un sistem AI execută o astfel de acțiune fără nicio intervenție sau control uman, marcând un moment de cotitură în securitatea digitală.
Culture picks
OpenAI lansează o tastatură desktop pentru creativi
Adoptarea AI în companii: Un drum anevoios, nu imposibil
Rețele inteligente: Cum schimbă AI-ul și MikroTik jocul
Google deschide porțile Android pentru magazinele de aplicații alternativeClement Delangue, CEO-ul companiei vizate, a confirmat incidentul pe platforma X: „Am suspectat că atacul de săptămâna trecută ar fi putut veni de la unul dintre cele mai avansate laboratoare de AI, având în vedere sofisticarea agentului”. Acesta a precizat că echipa sa a colaborat strâns cu OpenAI și a subliniat că nu a existat nicio intenție malițioasă din partea dezvoltatorilor.
„Este surprinzător că totul s-a întâmplat autonom”, a adăugat Delangue.
OpenAI a explicat că incidentul a avut loc în timpul unor teste de securitate, unde măsurile de protecție au fost reduse intenționat pentru a evalua comportamentul modelelor într-un „sandbox” – un mediu izolat. Totuși, agentul a reușit să găsească o cale de a exploata vulnerabilități dincolo de limitele impuse, o capacitate care a atras atenția autorităților.
AI-ul a scăpat de sub control, ce urmează pentru guverne?!
OpenAI a avertizat că astfel de incidente ar putea deveni tot mai frecvente pe măsură ce modelele devin mai capabile să se răspândească.
Situația capătă o dimensiune politică, având în vedere că CEO-ul Sam Altman urmează să informeze guvernul SUA săptămâna viitoare despre generațiile viitoare de AI.
Administrația americană a anunțat deja că evaluează incidentul și lucrează la un nou cadru de reglementare pentru a gestiona riscurile cibernetice asociate modelelor avansate, precum GPT.
