Șeful Anthropic cere încetinirea dezvoltării AI și propune un plan în trei etape

De ce acordurile dintre democrații și autoritarii complică planul?

Într-o mișcare care a stârnit imediat reacții în industria tehnologică, Dario Amodei, liderul companiei Anthropic, a lansat un apel urgent către actorii din sectorul inteligenței artificiale, solicitându-le să modereze ritmul accelerat al creării unor modele din ce în ce mai sofisticate. Conform informațiilor transmise de CNBC și preluare de News. ro, executivul a subliniat importanța ca protocoalele de securitate să fie actualizate constant, astfel încât să corespundă cu viteză la noile abilități dobândite de tehnologie.

Sâmbătă, Amodei a detaliat o strategie structurată în trei faze, pe care o consideră capabilă să tempereze avansul tehnologic fără a compromite competitivitatea comercială a firmelor implicate sau statutul Statelor Unite în competiția internațională pentru supremație în domeniul AI.

El a clarificat conceptul prin a afirma că o „încetinire” nu echivalează cu o pauză în procesul de antrenare a algoritmilor sau cu stagnarea inovației, ci se referă la garantarea unui interval temporal adecvat, care să permită companiilor să își optimizeze și să își fortifice mecanismele de protecție ale modelelor lor.

Contextul acestei inițiative este marcat de recenta plecare a cercetătorului Jacob Coxon din rândurile Anthropic. La momentul demisiei sale, Coxon a formulat acuzații dure la adresa atât a Anthropic, cât și a OpenAI, susținând că aceste entități „se joacă cu viețile noastre”.

Mai mult, el a evidențiat faptul că o parte dintre specialiștii implicați în dezvoltarea AI împărtășesc convingerea că această tehnologie poate duce la dispariția speciei umane până la finalul actualului deceniu.

Amodei argumentează că aceste pericole latente trebuie tratate cu o seriozitate mult mai mare decât în anul 2023, perioadă în care modelele existente aveau o capacitate mult mai redusă de a interacționa eficient cu realitatea fizică.

Planul propus de conducerea Anthropic se desfășoară pe trei paliere distincte. Amodei cere AI-ului să se oprească: securitatea e în pericol! Primul nivel, deja pus în aplicare de către companie, prevede acordarea unor evaluatori externi independenți a unui grad de acces la sisteme comparabil cu cel al angajaților interni.

Scopul acestei măsuri este verificarea riguroasă a protocoalelor de siguranță și documentarea oricăror incidente apărute.

Faza a doua implică o colaborare strânsă între principalele companii specializate în AI din țările cu regimuri democratice, având ca obiectiv stabilirea unor criterii și standarde comune de funcționare.

Etapa a treia este cea mai complexă, necesitând negocierea unor acorduri formale între administrațiile guvernelor democratice și cele ale statelor cu regimuri autoritare, pentru a asigura o coordonare globală.

De ce liderul Anthropic cere încetinirea dezvoltării AI?

Reacția comunității tehnologice a fost rapidă și favorabilă. Sam Altman, directorul general al OpenAI, a susținut deschis această abordare, menționând că reducarea vitezei de dezvoltare a celor mai avansate capacități de inteligență artificială a devenit punctul central al dezbaterilor interne din firma sa.

Altman a validat, de asemenea, conceptul de evaluatori independenți cu drepturi de acces extinse și a confirmat că OpenAI va implementa o procedură analogă cu cea descrisă de Anthropic.

Suportul public a venit și din partea lui Elon Musk, care a exprimat aprobarea sa prin o declarație concisă, afirmând simplu că „Dario are dreptate”.

Pentru Amodei, beneficiul fundamental al acestei strategii rezidă în câștigarea a cel puțin unu sau doi ani de timp înainte ca modelele de inteligență artificială să atingă praguri critice de performanță. Acest interval suplimentar ar oferi cercetătorilor posibilitatea de a rafina procesul de aliniere a valorilor tehnologiei cu cele umane, diminuând astfel semnificativ probabilitatea ca evoluția AI să iasă de sub control.

Discuțiile se concentrează acum pe modul în care aceste etape pot fi implementate eficient, având în vedere presiunea competitivă din piață și necesitatea de a menține un echilibru delicat între inovație și prudență.

Detaliile tehnice ale primului pas sunt esențiale pentru încrederea publicului. Prin oferirea accesului direct evaluatorilor externi, se creează un mecanism de transparență care permite identificarea vulnerabilităților înainte ca acestea să devină critice. Această practică transformă evaluarea dintr-un exercițiu teoretic într-un proces practic, ancorat în funcționarea reală a sistemelor. Pe de altă parte, coordonarea dintre democrații pentru standarde comune încearcă să creeze un cadru regulativ coerent, evitând fragmentarea pieței și asigurând că toate actorii majori respectă aceleași principii de siguranță.

Acordurile între guvernele democratice și cele autoritare reprezintă provocarea diplomatică majoră a planului. Într-o lume polarizată, obținerea unui consens asupra modului în care AI este dezvoltată și monitorizată va necesita o diplomatie tehnică sofisticată. Succesul acestei etape depinde de capacitatea statelor de a depăși diferențele ideologice pentru a se concentra pe riscurile comune reprezentate de o tehnologie care evoluează rapid.

Impactul demisiei lui Jacob Coxon a rămas vizibil, servind ca catalizator pentru ca liderii industriei să reevalueze prioritățile lor. Mesajul său alarmant privind potențialul de extincție a omenirii a forțat o reconsiderare a termenelor limită impuse de competiția comercială. Amodei insistă asupra faptului că riscurile actuale sunt de natură diferită față de cele percepute acum trei ani, deoarece modelele actuale au o agentitate și o capacitate de acțiune în mediul real mult mai pronunțate.

Sprijinul lui Sam Altman și al lui Elon Musk conferă propunerii o greutate semnificativă, sugerând o convergență de opinii neobișnuită în industria AI. Adoptarea măsurilor similare de către OpenAI indică o tendință spre standardizare în ceea ce privește protocoalele de audit și siguranță. Această sinergie între competitori ar putea stabili noi norme industriale, transformând prudența dintr-un cost într-un avantaj strategic.