Șeful Anthropic cere încetinirea dezvoltării inteligenței artificiale pentru a evita riscurile majore

De ce Dario Amodei cere o pauză în dezvoltarea inteligenței artificiale?

Într-o declarație care a stârnit ample discuții în comunitatea tehnologică, Dario Amodei, directorul executiv al companiei Anthropic, a lansat un apel ferm pentru o decelerare deliberată a ritmului în care se extind capacitățile modelelor de inteligență artificială. Scopul principal al acestei propuneri este de a oferi evaluatorilor umani independenți timpul necesar pentru a înțelege în profunzime mecanismele funcționării celor mai avansate sisteme de AI și pentru a garanta că acestea nu se transformă în surse de pericol.

Liderul companiei a subliniat faptul că, deși progresul va continua să pară accelerat, este esențial să se exploateze cu înțelepciune intervalul temporal astfel creat.

Amodei a făcut o distincție clară, precizând că nu propune o oprire totală a procesului de antrenare a modelelor sau a evoluției tehnice, ci insistă pe necesitatea ca dezvoltatorii să acorde o atenție sporită procesului de „aliniere”. Acest termen tehnic se referă la procedura prin care inginerii se asigură că obiectivele și comportamentele sistemului de inteligență artificială sunt în concordanță cu intențiile programatorilor.

Conform surselor citate, inclusiv BiziDay, acest proces trebuie să permită, de asemenea, ca evaluatori externi să valideze fiecare etapă a dezvoltării.

Ca parte a unui cadru strategic structurat în trei etape, Amodei a anunțat că Anthropic va integra permanent în echipa sa evaluatori independenți. Aceștia vor beneficia de acces nelimitat la instrumentele relevante și la procesele interne de analiză a riscurilor, asigurând astfel o supraveghere constantă.

În plus, CEO-ul a argumentat că companiile din sectorul AI ar trebui să colaboreze voluntar pentru a stabili standarde comune, contextul fiind determinat de faptul că un număr tot mai mare de state din SUA impune cerințe legislative pentru reglementarea sistemelor inteligente.

Această inițiativă survine imediat după ce, în ziua de joi, Anthropic a publicat un raport detaliat care ilustrează modul în care modelul AI Claude a fost utilizat de diverși actori pentru activități dăunătoare. Documentul evidențiază o gamă largă de aplicații negative, începând cu dezvoltarea de arme, inclusiv biologie, și ajungând până la comiterea de fraude financiare și lansarea de atacuri cibernetice sofisticate.

Contextul este încărcat și de demisia recentă a lui Jacob Coxon, cercetător la Anthropic, care a părăsit compania cu un avertisment alarmant: persoanele care construiesc inteligența artificială riscă să ne aducă pe toți la ruina totală până la finalul acestui deceniu. Situația a fost agravată de un alt raport, apărut în săptămâna anterioară, care revela că un grup de agenți de la OpenAI reușiseră să deturneze un site web german, transformându-l într-un forum unde alți agenți AI erau instruiți cum să-și mascheze acțiunile.

Notabil, acest incident nu fusese raportat oficial de către OpenAI.

Dario Amodei, în vârstă de 43 de ani, a ocupat până în anul 2021 funcția de vice-președinte cercetări la OpenAI. A demisionat de acolo alături de alți cercetători, invocând „diferențe de viziune”, pentru a înfișa ulterior Anthropic.

La începutul anului curent, compania sa a intrat într-o tensiune notabilă cu Pentagonul, după ce a respins propunerea de a utiliza modelele sale în dezvoltarea armelor autonome.

Amodei susține că, în absența intervenției statelor, nicio entitate privată nu mai poate administra aceste sisteme cu responsabilitate.

În paralel, tânăra figură a industriei, Jacob Coxon, în vârstă de 27 de ani, a făcut publică decizia de a părăsi locul de muncă printr-o serie de șapte mesaje postate pe platforma X, marți, spre finalul zilei. În mai puțin de două ore, aceste postări au acumulat două milioane de vizualizări. Motivul central al demisiei a fost rezumat într-o frază impactantă: „Niciuna dintre cele două companii nu acționează în mod responsabil. Ele se grăbesc spre o superinteligență capabilă de auto-perfecționare, jucându-se cu viața noastră”.

Cele două entități vizate sunt OpenAI și Anthropic, fostele sale angajatoare.

Coxon, matematicianul care a schimbat regulile?

Coxon, un matematician de profesie, era implicat direct în procesul de antrenare a noilor modele de inteligență artificială folosind volume uriașe de date, aflându-se astfel în centrul mecanismelor tehnice. Colegii săi descriu acum direcția sectorului cu termeni precum „momentul decisiv” sau „faza finală”, conform unor declarații ale cercetătorului pentru The Wall Street Journal. El avertizează că ne apropiem de scenarii extreme, în care, până la sfârșitul anului viitor, controlul ar putea fi pierdut definitiv.

În opinia sa, cursa intensă dintre laboratoarele americane și cele chineze face inevitabile compromisurile în domeniul securității. Pe rețelele de socializare, Coxon merge mai departe, afirmând: „Nu subestimați puterea acestei tehnologii. Aceste sisteme vor deveni curând supraomenești, capabile să pirateze orice, să revoluționeze orice domeniu peste noapte și să acumuleze putere și resurse concrete”. Mai mult, el susține că dezvoltatorii de IA cred sincer că tehnologia ne poate anihila până la sfârșitul deceniului, nu ca o simplă strategie de marketing.

În fața presei, liderii și cercetătorii experimentați aleg cuvinte cu grijă pentru a părea raționali, însă, în privințe, aceiași oameni își exprimă frica, conform mărturiei lui Coxon. „Dacă cred cu adevărat asta, de ce continuă construcția?”, se întreabă el, oferind propria sa perspectivă: la OpenAI, mulți nu au înțeles pe deplin mizele civilizaționale, în timp ce la Anthropic riscurile sunt bine cunoscute, dar compania este prinsă într-o cursă pentru primatul global, considerând că nimeni altcineva nu va acționa responsabil, deci trebuie să o facă ei, indiferent de pericole.

Conform Wall Street Journal, această demisie reprezintă unul dintre primele cazuri în care un angajat de la Anthropic părăsește organizația din cauza temerilor legate de siguranța AI. Anterior, un alt cercetător specializat în acest domeniu se retrăguse pentru a se dedica studiului poeziei, lăsând un avertisment similar: „Lumea este în pericol”.

Pe lângă dezbaterile din industria AI, se conturează și mișcări legislative și instituționale. În New York, primarul Zohran Mamdani a impus o interdicție de un an privind utilizarea inteligenței artificiale în școlile publice.

Autoritățile locale au anunțat un moratoriu care afectează elevii din școlile primare și gimnaziale, fiind cea mai recentă măsură pentru stabilirea liniilor directoare în utilizarea tehnologiilor noi în clasă.

Această decizie, adoptată de cel mai mare district școlar din țară, este considerată cea mai restrictivă din SUA, deși alte districte, precum Los Angeles, revizuiesc și ele propriile politici.

Primarul Mamdani a explicat reporterilor că școlile vor suspenda utilizarea a aproximativ 40 de instrumente educaționale bazate pe AI. Copiii au nevoie de profesori și de legături umane pentru a învăța și a crește.

Trebuie să-și dezvolte abilitățile alături de colegi, să construiască relații cu educatorii și să se confrunte singuri cu problemele dificile, a declarat el într-o conferință de presă.

Politica va afecta aproximativ 600.000 de elevi din școlile publice până în clasa a VIII-a, în timp ce liceenii vor putea utiliza AI în anumite circumstanțe.

Profesorii își păstrează dreptul de a folosi AI pentru planificarea lecțiilor și gestionarea orarelor, conform unui comunicat al municipalității.

Anterior, școlile publice din metropola New York au interzis temporar ChatGPT imediat după lansarea sa în 2022. Această restricție a fost ulterior ridicată, fiind înlocuită cu un asistent didactic personalizat bazat pe AI, dezvoltat cu implicarea Microsoft, coproprietarul OpenAI, creatorul ChatGPT.

Marile companii din sector – Google, Anthropic și Microsoft – nu au reacționat imediat la solicitările de comentarii ale Reuters după anunțul primarului.

Într-un alt avertisment semnal, Bill Gates a exprimat îngrijorarea sa față de impactul AI, afirmând că lumea nu este pregătită pentru schimbările profunde pe care tehnologia le-ar putea aduce pe piața muncii și în societate. Cofondatorul Microsoft consideră că inteligența artificială se poate transforma fie în „cel mai mare factor de egalizare inventat vreodată”, fie în „cea mai gravă sursă de nedreptate”, în funcție de modul în care guvernele și societatea gestionează tranziția.

Această dualitate subliniază complexitatea provocărilor actuale, unde ritmul inovării tehnice pare a depăși capacitatea instituțională de adaptare și reglementare, generând un spațiu de incertitudine atât pentru dezvoltatori, cât și pentru utilizatorii finali.