De ce a ales OpenAI o arhivă statică în locul navigării live?
OpenAI a anunțat vineri că cele mai avansate modele lingvistice pe care le dezvoltă nu vor mai prelua date live de pe internet în timpul procesului de antrenament. În schimb, sistemele se vor baza pe o arhivă statică, salvată în cache, cu conținut web.
Culture picks
Televizorul OLED LG C6, redus la 999 de dolari înainte de Black Friday
iPhone Duo: mult mai mult decât un telefon cu două ecrane
Român din Olanda lansează aplicația I Like Movies, care alege filmul în timp ce mâncarea se răcește
Regatul Unit investește 100 de milioane de lire în laborator de biosecuritate AI cu OpenAI, Anthropic și DeepMindAceastă schimbare se aplică tuturor modelelor de frontieră aflate în prezent în lucru și reflectă cea mai recentă evaluare a companiei privind riscurile de securitate și aliniere.
Decizia vine după o serie de analize interne care au arătat cum accesul la internet în timp real poate expune inteligența artificială la dezinformare, manipulare rău intenționată și vulnerabilități de infrastructură. Trecerea la un set de date înghețat îi oferă OpenAI un control mai strict asupra informațiilor primite de modele, reducând astfel riscul unor comportamente neprevăzute. Totodată, măsura se aliniază dezbaterilor din industrie referitoare la limitele etice ale datelor de antrenament și la nevoia unor instrumente solide de monitorizare.
Articolul de pe blogul OpenAI menționează trei motive principale: stadiul actual al cercetării privind alinierea modelelor, eficiența mecanismelor de monitorizare și securitatea arhitecturii de bază a internetului. Cercetătorii au avertizat că navigarea live poate lăsa modelele să preia din greșeală materiale dăunătoare sau protejate de drepturi de autor, care le influențează ulterior În schimb, un instantaneu static poate fi auditat, filtrat și actualizat după un program previzibil.
Va încetini această mutare progresul în inteligența artificială?
Reprezentanții companiei au subliniat că versiunea salvată conține în continuare miliarde de pagini, păstrând diversitatea de cunoștințe necesară pentru „Nu reducem baza de cunoștințe a modelului”, a declarat un purtător de cuvânt, „ci ne asigurăm pur și simplu că ceea ce învață este verificat și stabil”. Această abordare simplifică și respectarea noilor reglementări privind confidențialitatea datelor, deoarece datele personale pot fi eliminate din setul de cache înainte de începerea antrenamentului.
Criticii se tem că limitarea datelor live ar putea afecta capacitatea modelelor de a fi la curent cu informații în continuă schimbare, cum ar fi știrile de ultimă oră sau descoperirile științifice. OpenAI recunoaște că există un compromis: modelele ar putea rămâne în urmă cu cele mai recente evenimente, însă compania susține că siguranța cântărește mai mult decât rapiditatea.
Pentru a compensa acest decalaj, OpenAI intenționează să lanseze actualizări periodice care să includă arhive web mai recente, permițând modelelor să își reîmprospăteze cunoștințele fără a se expune riscurilor în timp real.
Comunitatea tehnologică urmărește cu atenție această evoluție.
Unii văd mutarea drept un pas responsabil spre sisteme mai ușor de controlat, în timp ce alții se tem că ar putea crea un precedent care va frâna inovația.
Ce înseamnă aceste schimbări pentru utilizatori?
Echilibrul fragil dintre agilitate și securitate va continua probabil să modeleze viitoarele etape de antrenament în întreaga industrie.
Ce înseamnă „copie salvată a web-ului” pentru utilizatori? Înseamnă că AI-ul va Vor deveni modelele OpenAI mai puțin precise?
Precizia ar putea scădea în cazul unor evenimente recente, însă performanța generală ar trebui să rămână ridicată, deoarece arhiva include în continuare un volum uriaș și divers de informații.
Cât de des va fi actualizat setul de date din cache? OpenAI nu a oferit o dată exactă, dar a confirmat că plănuiește actualizări periodice pentru a integra conținut nou fără a compromite măsurile de siguranță.
