OpenAI recrutează experți independenți pentru a monitoriza riscurile AI

Standarde internaționale și auto-îmbunătățire?

OpenAI intră într-o fază avansată de negocieri cu o serie de evaluatori independenți, într-un efort susținut de a lărgi comunitatea de firme specializate în siguranța inteligenței artificiale de frontieră. Anunțat printr-o postare pe blog marți, 22 septembrie, proiectul vizează creșterea numărului de entități capabile să ofere evaluări terțe părți eficiente și riguroase.

Compania a prezentat aceste propuneri în contextul elaborării unor priorități și principii clare, menite să ghideze laboratoarele de AI de frontieră în procesele de antrenare, testare și implementare a modelelor noi, asigurând astfel un nivel ridicat de securitate.

Reprezentanții OpenAI au subliniat angajamentul ferm de a sprijini activitatea evaluatorilor independenți și de a institui standarde internaționale comune și transparente. Aceste norme ar trebui consolidate atât prin legiflarea viitoare, cât și prin inițiative de guvernanță privată, pentru a garanta eficacitatea evaluărilor externe. Publicarea acestor documente strategice a avut loc cu doar o zi după ce compania a propus ca Statele Unite ale Americiei să preia conducerea unui efort internațional axat pe dezvoltarea unor standarde tehnice globale pentru AI-ul de frontieră, incluzând aspecte critice precum auto-îmbunătățirea recursivă (RSI).

Într-un articol publicat în data de 21 septembrie, OpenAI a avertizat că mecanismul de auto-îmbunătățire recursivă ar putea duce la o pierdere a controlului uman asupra dezvoltării tehnologiei, în cazul în care ritmul autonom al progresului AI depășește capacitatea omului de a înțelege și de a gestiona aceste transformări. Organizația a insistat asupra necesității de a lua decizii imediate privind modul în care se va proceda cu această tehnologie emergentă.

Contextul este încărcat și de alte evenimente recente; cu aproximativ o săptămână înainte, Dario Amodei, CEO și co-fondator al Anthropic, a publicat un eseu în care propunea un plan complex de siguranță a AI-ului. Acest plan prevedea integrarea evaluatorilor independenți direct în structurile principalelor companii de AI, o coordonare mai strânsă între firmele din țările democratice și, pe termen lung, încheierea unui acord internațional care să includă și China.

Pe plan național american, guvernatorul Californiei, Gavin Newsom, a emis vineri, 18 septembrie, o ordine executivă destinată adunării unor experți naționali. Scopul acestei măsuri este de a crea un ghid pentru stat, care să permită consolidarea și întărirea legislației existente privind siguranța și securitatea inteligenței artificiale.

Care este contextul politic și reacția industriei?

Biroul guvernatorului a explicat, printr-un comunicat de presă, că ordinea executivă urmărește accelerarea implementării unei supravegheri noi, realizate de terți, asupra riscurilor de securitate și siguranță specifice sistemelor de AI.

Totuși, pe scena politică federală, președintele Donald Trump a adoptat o poziție diferită. În data de sâmbătă, 19 septembrie, el a respins îngrijorările legate de siguranța AI-ului, la care liderii din industrie au apelat în ultima lună. Într-o postare pe platforma Truth Social, Trump a afirmat: „Nu vom împiedica sau sufoca în niciun fel creșterea acestei industrii incredibile. AI este următoarea Revoluție Industrială, sau Internetul, dar va fi chiar mai mare și mai impactantă, posibil echivalentă cu 25% din PIB-ul țării noastre”. Această declarație reflectă o viziune optimistă asupra potențialului economic al sectorului, contrastând cu prudența exprimată de experții tehnici.

Articolul provine din ediția din 22 septembrie 2026 a PYMNTS, care oferă acces nelimitat la conținutul său prin abonarea la newsletter-ul zilnic „PYMNTS Today”.

Cititorii sunt încurajați să adauge sursa în lista de preferințe pentru a vedea știrile, datele și interviurile în fluxul lor de informații. În plus, PYMNTS oferă o rubrică specială de acoperire a AI-ului, disponibilă prin newsletter-ul zilnic dedicat.

Printre subiectele recomandate recent se numără recrutarea de către OpenAI a unor supraveghetori externi pentru a monitoriza riscurile AI, transformarea cazului Nuvei într-un semnal de alertă pentru Comisia Federală de Comerț legat de chargeback-uri, testarea de către Meta a apelantelor umane pentru platforma Muse după ce comercianții au renunțat la AI, și numirea de către Crocs a unui singur agent AI responsabil cu vânzările și serviciile client.

Aceste teme evidențiază diversitatea provocărilor actuale din ecosistemul tehnologic.