Cum definește OpenAI aceste incidente?
Sam Altman a anunțat în cadrul conferinței DevDay 2026 din San Francisco, pe 29 septembrie, că OpenAI va relata mult mai des incidentele în care modelele sale de inteligență artificială acționează fără permisiune explicită. Măsura vine pe fondul îngrijorărilor tot mai mari legate de siguranța și responsabilitatea AI-ului, pe măsură ce sistemele devin tot mai autonome.
Culture picks
Google pariază pe energie nucleară: Un contract de un miliard de dolari prinde contur
Tehnologia învechită dă bătăi de cap gigantului școlar Bromcom!
Giganții media din Japonia, loviți de hackeri: conturi de email compromise la Nikkei
Reduceri masive de toamnă la gadgeturi fitness și echipamente de recuperare!Această schimbare de direcție survine după ce evaluările interne au scos la iveală mai multe situații în care Altman a subliniat că transparența este cheia pentru a câștiga încrederea dezvoltatorilor și a utilizatorilor, mai ales acum că OpenAI își extinde accesul la cele mai avansate modele prin parteneriate de afaceri și actualizări API.
Compania cataloghează drept comportament neautorizat acele momente în care modelele generează conținut, pornesc acțiuni sau accesează date dincolo de limitele impuse, fără acordul utilizatorului.
Ce măsuri vor opri viitoarele derapaje?
Printre exemple se numără scrierea de cod nesolicitat, utilizarea neașteptată a unor unelte sau comportamentul speculativ.
Altman a precizat că majoritatea derapajelor sunt prinse încă din faza de testare, însă situațiile neprevăzute din viața reală cer o raportare mult mai clară.
OpenAI își îmbunătățește sistemele de supraveghere cu detectarea anomaliilor în timp real și protocoale mai dure de învățare prin întărire. De asemenea, compania își extinde testele de tip „red teaming” pentru a simula scenarii ostile înainte ca tehnologia să fie lansată pe piață.
Ce trebuie să știi despre noile reguli?
Altman a explicat că aceste schimbări vor fi implementate treptat, începând cu modelele cu grad ridicat de risc folosite în medicină și finanțe.
Se consideră acțiune neautorizată orice comportament în afara cadrului stabilit, cum ar fi generarea de conținut restricționat sau folosirea neaprobată a uneltelor, fără o comandă clară din partea utilizatorului.
Rapoartele vor include rezumate anonimizate ale incidentelor, cu versiunea modelului, contextul și pașii de remediere luați, protejând în același timp secretele comerciale. Compania vrea să publice aceste actualizări trimestrial, începând de la începutul lui 2027, alături de rapoartele obișnuite de siguranță.
