Regulatorii vor interveni?
controlul narativului? Companiile de inteligență artificială Anthropic și OpenAI au lăudat, conform rapoartelor, că doresc să impună restricții stricte asupra conținutului ce pot publica verificatorii externi. Scopul este să limiteze difuzarea datelor de performanță și a evaluărilor de siguranță care ar putea influența opinia publică și controalele de reglementare.
Culture picks
ChatGPT citează tot mai mult site-urile de știri, mai mult decât alte AI
Companiile de AI văzută să controleze recenziile externe
Alert IMF: $1,4 Trilion în tranzacții cu AI pot declanșa scos de piață
Unde vor apărea următoarea generație de Super Apps?Inițiativa a luat naștere după ce o serie de evaluări de profil înalt au evidențiat deficiențe în modelele ambelor firme.
Insiderii din industrie spun că companiile solicită ca auditările terțe să fie supuse unor acorduri de confidențialitate mai riguroase și ca orice constatare publicată să fie verificată de echipe interne înainte de a fi lansată. Acest pas vine în contextul criticilor privind transparența benchmark-urilor AI și a posibilității de părtinire în metodele de evaluare.
Prin consolidarea controlului, Anthropic și OpenAI speră să protejeze algoritmii proprietari și să împiedice concurenții să obțină informații despre datele de antrenament și protocoalele de siguranță.
Cererea apare în mijlocul cererilor tot mai mari din partea autorităților și a societății civile pentru mai multă deschidere în dezvoltarea AI. Criticii susțin că evaluările independente oferă verificări esențiale pentru acuratețea, echitatea și reziliența modelelor. În 2023, mai multe studii terțe au arătat că modelele lingvistice mari pot produce conținut dăunător sau pot prezenta biasuri statistice.
Noua poziție a firmelor ar putea întârzia publicarea acestor constatări, ridicând îngrijorări privind responsabilitatea.
Un portofoliu al unui portofoliu a subliniat că schimbările propuse vizează „asigurarea că informațiile sensibile despre arhitectura modelului și datele de antrenament nu se dezvăluie accidental.” Conducerea OpenAI a replicat această idee, citând necesitatea de a „menține un avantaj competitiv și de a proteja confidențialitatea utilizatorilor.” Companiile au sugerat, de asemenea, ca evaluatorii externi să se concentreze pe metrici de performanță la nivel înalt, mai degrabă decât pe procese interne detaliate.
Acest pas ar putea declanșa o reacție legislativă? În Uniunea Europeană, Legea AI impune deja anumite cerințe de transparență pentru sistemele cu risc ridicat.
Dacă restricțiile noi intră în conflict cu aceste reguli, firmele ar putea fi supuse amenzi sau forțate să se conformeze.
În Statele Unite, Comisia Federală pentru Comerț a semnalat o disponibilitate de a examina practicile AI care ar putea induce în eroare consumatorii.
Analistii din industrie avertizează că dorința de control mai strâns ar putea eroda încrederea cercetătorilor și a comunității AI în general.
Cine controlează ce publicăm despre performanța și siguranța modelelor AI?
„Transparența este un pilon al progresului științific,” a declarat Dr.
Elena Martinez, profesor de etică AI.
„Când companiile restricționează accesul la date de evaluare, se încalcă capacitatea de a identifica și corecta problemele sistemice.”
Pe termen lung, decizia ar putea influența modul în care modelele AI sunt verificate la nivel global. Dacă alte firme urmează exemplul, industria ar putea vedea o schimbare spre cadre de evaluare proprietare, limitând colaborarea.
În schimb, un backlash ar putea conduce la crearea unor organisme de supraveghere independente pentru a garanta că afirmațiile de performanță sunt verificate de terțe părți neutre.
Q: Ce restricții exacte propun Anthropic și OpenAI?
A: Doresc ca auditorii externi să semneze acorduri de confidențialitate mai stricte și ca orice constatare să fie revizuită de echipe interne înainte de publicare.
Q: Cum ar putea afecta consumatorii?
A: Consumatorii ar putea primi mai puține informații despre siguranța și fiabilitatea instrumentelor AI, ceea ce ar putea conduce la alegeri mai puțin informate.
Q: Regulamentele vor forța respectarea legilor de transparență?
A: Da, în special în regiunile cu reglementări stricte AI, firmele pot fi supuse sancțiunilor dacă nu respectă standardele de divulgare impuse.
