Bilal Chughtai pleacă de la DeepMind și avertizează: ritmul dezvoltării AI depășește siguranța

Cultura DeepMind: viteza peste prudenta?

Bilal Chughtai, cercetător care s-a ocupat de siguranța inteligentei artificiale generale la Google DeepMind, a anunțat demisia sa în luna iulie. A explicat decizia pe X, spune că experiența internă i-a arătat pericole pe care nu le mai putea ignora.

El a fost parte din echipa de siguranță AGI de la DeepMind, unde a lucrat la proiecte de aliniere — scopul fiind să asigure că viitoarele sisteme de AI vor fi benefice. În timpul perioadei sale la companie, Chughtai a observat că modelele puternice se dezvoltau cu o viteză neașteptată, iar protocolele de siguranță nu puteau ține pasul.

În postarea sa pe X, a subliniat lipsa de supraveghere adecvată și riscul de abuz al tehnologiilor avansate de AI.

Chughtai a descris un mediu în care inovația și viteza erau pusé în fața evaluării atentă a riscurilor. Deși echipa producea cercetare de frontieră, discuțiile interne despre siguranța pe termen lung erau adesea lăsate în fundal.

De ce a plecat: o alegere morală!

A menționat cazuri concrete în care verificările de siguranță au fost sărită pentru a respecta termenele, ceea ce a întrebat angajamentul companiei față de o dezvoltare responsabilă a AI.

De asemenea, a spus că lucrul său la aliniere era adesea redirecționat spre aplicații imediată, lăsând puțin timp pentru o analiză de siguranță adâncă. Această mutare, în opinia lui, ar putea duce la implementarea de sisteme puternice fără protecții adecvate.

Demisia lui Chughtai nu a fost doar o decizie profesională — a fost o poziție morală.

„Nu pot să rămân într-un loc unde riscurile AGI sunt ignorate”, a scris pe X.

Ce înseamnă plecarea lui pentru comunitatea AI?

A clarificat că nu critiquează cercetarea AI în general, ci apelează pentru măsuri de siguranță mai stricte. A exprimat și îngrijorarea că modelul DeepMind ar putea deveni un exemplu pentru întreaga industrie, accelerezând lansarea de tehnologii ne-sigure. A rugat colegii și publicul să ceră mai multă transparență de la companii care dezvoltă AI.

„Avem nevoie de responsabilitate clară și de protocoale de siguranță solide”, a adăugat.

Plecarea unui cercetător senior de siguranță de la un laborator de lider precum DeepMind semnalează o îngrijorare crescătoare despre direcția în care se dezvoltă AGI. Dacă cultura internă de la DeepMind nu se schimbă, alți cercetători se pot confrunta cu dileme similare. Industria ar putea vedea o creștere a cererilor pentru audituri de siguranță independente și pentru cadre reglementare mai puternice. În același timp, Chughtai intende să continue lucrul său la aliniere în afara mediului corporatist, sperând să influențeze politica și înțelegerea publică privind riscurile AI. Plecarea lui ar putea inspira alți cercetători să lupte pentru siguranță, potentially schimbând modul în care sunt gestionate proiectele de AI în întreaga lume.

Întrebări frecvente?

Q: Ce probleme specifice de siguranță a ridicat Chughtai?

A: A subliniat lipsa de evaluări riguroase ale riscurilor, prioritatea dată vitezei față de siguranță și lăsarea cercetării de aliniere în fundal în favoarea obiectivelor de termen scurt.

Q: Va afecta demisia sa proiectele DeepMind? A: Deși impactul imediat nu este clar, poate provoca revizuiri interne și poate încuraja alți cercetători să întrebă practicile de siguranță.

Q: Care este următorul pas al lui Chughtai? A: Intende să continue cercetarea despre aliniere AGI independență și să facă lobby pentru reglementări mai stricte în sectorul AI.