Cercetătorul de la Anthropic avertizează că AI-ul ne-ar putea distruge până la 2030

Matematicianul de la OpenAI avertizează că IA ne va stinge din fața pământului!

Matematicianul de 27 de ani, Lemoine Coxon, a lansat recent un semnal de alarmă puternic, susținând că inteligența artificială ar putea duce la dispariția speciei umane până la sfârșitul deceniului curent. Acest specialist, care a fost în trecut membru al echipei de cercetare de la OpenAI și apoi al celei de la Anthropic, a publicat marți, spre finalul zilei, o serie de șapte postări pe platforma X.

În mai puțin de două ore, aceste mesaje au acumulat două milioane de vizualizări, generând o dezbatere intensă în comunitatea tech. Motivul principal al acestei declarații este convingerea sa că niciuna dintre cele două mari companii din sector nu gestionează dezvoltarea tehnologiei cu responsabilitate necesară. În opinia sa, ambele organizații se grăbesc spre crearea unei superinteligențe autonome, capabilă să se îmbunătățească singură, punând în pericol existența noastră.

Coxon, care a lucrat la antrenarea unor modele noi de IA folosind volume uriașe de date, se află în centrul acestui proces critic. Colegii săi descriu acum momentul actual cu termeni precum „crunchtime” (punctul de inflexiune decisiv) sau „endgame” (faza finală), indicând o accelerare periculoasă a sectorului. Într-un interviu acordat ziarului The Wall Street Journal, expertul avertizează că ne apropiem de cele mai sumbre scenarii, în care, până la sfârșitul anului viitor, controlul asupra tehnologiei ar putea fi pierdut complet.

El subliniază că competiția dintre laboratoarele din Statele Unite și cele din China face inevitabile compromisurile în domeniul securității, accelerând riscurile.

Pe rețeaua sa socială, tânărul cercetător a mers și mai departe, insistând ca publicul să nu subestimeze potențialul acestei tehnologii.

El afirmă că sistemele actuale vor deveni în curând supraomenești, având capacitatea de a sparge orice sistem de securitate, de a revoluționa orice domeniu într-un interval de timp foarte scurt și de a acumula putere și resurse concrete.

Mai grav este faptul că, conform spuselor sale, oamenii care construiesc IA cred sincer că aceasta ne poate ucide pe toți până la sfârșitul deceniului. El precizează că aceasta nu este o strategie de marketing, ci o realitate tehnică.

În timp ce liderii și cercetătorii experimentați aleg cu grijă cuvintele în fața presei pentru a părea raționali, în spatele ușilor închise aceiași oameni își exprimă frica.

Coxon se întreabă retoric: dacă cred cu adevărat în pericol, de ce continuă să construiască?

Perspectiva sa este divizată între cele două companii la care a lucrat. La OpenAI, mulți angajați nu au înțeles pe deplin mizele civilizaționale ale proiectului.

La Anthropic, unde s-a mutat la începutul acestui an tocmai datorită reputației de siguranță, mizele sunt bine înțelese, dar compania este prinsă într-o cursă pentru a ajunge prima.

Angajații de acolo consideră că nimeni altcineva nu va acționa responsabil, așa că trebuie să o facă ei, indiferent de riscuri. Această plecare de la OpenAI către Anthropic a fost motivată de dorința de a lucra într-un mediu mai atent la siguranța modelelor.

Totuși, Coxon estimează acum că nicio companie privată nu poate dezvolta responsabil o inteligență artificială generală (AGI) – capabilă să depășească capacitățile umane într-o serie întreagă de sarcini – fără intervenția statelor sau o încetinire coordonată.

Potrivit informațiilor din Wall Street Journal, demisia lui Coxon este unul dintre primele cazuri în care un angajat de la Anthropic părăsește compania din cauza temerilor legate de siguranța IA. Anterior, un alt cercetător specializat în acest domeniu a demisionat pentru a se dedica studiului poeziei, lăsând un avertisment similar: „Lumea este în pericol”.

În paralel cu aceste dezbateri teoretice, autoritățile din New York au luat măsuri concrete pentru a restricționa accesul elevilor la această tehnologie. Zohran Mamdani, primarul orașului, a impus o interdicție de un an privind utilizarea inteligenței artificiale în școlile publice primare și gimnaziale.

Această măsură, anunțată de autorități, reprezintă cea mai recentă inițiativă pentru stabilirea liniilor directoare ale utilizării noilor tehnologii în sala de clasă, conform relatărilor agenției Reuters.

Decizia luată de cel mai mare district școlar din țară este considerată cea mai restrictivă de până acum în întreaga SUA. Deși alte districte, inclusiv Los Angeles, au declarat că își revizuiesc politicile privind IA, New York merge mai departe. Primarul Mamdani a declarat miercuri reporterilor că școlile vor suspenda utilizarea actuală a aproximativ 40 de instrumente educaționale bazate pe IA. El a argumentat că copiii au nevoie de profesori și de legături umane pentru a învăța și a se dezvolta.

Elevii trebuie să-și dezvolte abilitățile alături de colegii lor, să construiască relații cu educatorii și să se confrunte singuri cu probleme dificile, a explicat Mamdani într-o conferință de presă.

Politica va afecta aproximativ 600.000 de elevi din școlile publice până în clasa a VIII-a. În același timp, elevilor de liceu li se va permite să utilizeze IA în anumite cazuri limitate.

Profesorii vor avea dreptul să folosească IA pentru planificarea lecțiilor și pentru sarcini administrative precum programarea orelor, a precizat municipalitatea într-un comunicat oficial.

Coxon avertizează că IA va stinge omenirea până la sfârșitul deceniului!

Este de menționat că școlile publice din metropola New York au impus anterior o interdicție temporară asupra ChatGPT la scurt timp după lansarea sa în 2022.

Această restricție a fost ulterior ridicată și înlocuită cu un asistent didactic personalizat bazat pe IA, dezvoltat în parteneriat cu Microsoft, coproprietar al OpenAI, compania creatoră a ChatGPT.

Marile companii dezvoltatoare de IA – Google, Anthropic și Microsoft – nu au În timp ce guvernele și școlile caută modalități de a integra sau restricționa tehnologia, Bill Gates oferă o perspectivă globală asupra impactului său asupra pieței muncii. Cofondatorul Microsoft avertizează că lumea nu este pregătită pentru schimbările profunde pe care inteligența artificială le-ar putea provoca.

El consideră că AI ar putea deveni fie „cel mai mare factor de egalizare inventat vreodată”, fie „cea mai gravă sursă de nedreptate”, în funcție de modul în care guvernele vor gestiona tranziția.

Într-un eseu recent, Gates susține că nu vede suficiente dovezi că liderii politici, experții și comunitățile se pregătesc pentru ceea ce el descrie drept o perioadă de tulburări sociale, politice și economice. El afirmă că nu există niciun plan clar pentru intrarea în era AI. Gates estimează că tranziția către o economie dominată de inteligența artificială ar putea fi una dintre cele mai turbulente perioade din istoria omenirii. Problema fundamentală, în opinia sa, este viteza schimbării.

Spre deosebire de revoluțiile tehnologice precedente, AI ar putea prelua activități intelectuale într-un ritm mai rapid decât cel în care lucrătorii disponibilizați pot fi recalificați și absorbiți în noile profesii.

„Avem nevoie de timp pentru a ne pregăti pentru perioada de transformări sociale, politice și economice în care suntem pe cale să intrăm”, a avertizat Gates.

În prezent, însă, spune el, pregătirile sunt insuficiente.

Efectele inteligenței artificiale sunt deja vizibile în unele profesii, potrivit lui Gates. Printre domeniile care ar putea fi afectate relativ repede se numără vânzările, serviciile pentru clienți, programarea și activitățile juridice desfășurate de personalul auxiliar.

În timp, AI ar putea prelua și sarcini mai complexe, precum analiza datelor, evaluarea creditelor sau trierea pacienților. O altă problemă majoră este reducerea locurilor de muncă pentru începători.

Tinerii ar putea intra pe o piață în care multe dintre activitățile care reprezentau până acum primul pas într-o carieră sunt deja realizate de sisteme AI.

Gates avertizează că transformarea nu se va limita la angajații din birouri. Pe măsură ce roboții devin mai performanți și mai ieftini, automatizarea ar putea afecta masiv și munca fizică. El dă exemplul unui angajat plătit cu 20 de dolari pe oră care ar putea ajunge să concureze cu un robot al cărui cost de operare este echivalent cu numai 10 dolari pe oră.

Această diferență economică poate determina companiile să automatizeze rapid activitățile, mai ales dacă rivalii lor fac același lucru.

Gates avertizează asupra apariției unui mecanism economic dificil de oprit, pe care îl numește „cerc vicios”. O companie care utilizează AI și roboți își poate reduce costurile și, eventual, prețurile.

Concurenții vor fi atunci obligați să adopte aceleași tehnologii pentru a rămâne competitivi. Automatizarea poate astfel accelera automatizarea.

Gates descrie combinația dintre AI și robotică drept un posibil „cerc vicios”, în care presiunea concurențială determină înlocuirea tot mai rapidă a unor categorii de angajați.

Consecințele ar putea fi profunde, necesitând ca guvernele să regândească structura muncii, educației și protecției sociale. În contextul în care cercetători precum Coxon văd un risc existențial până în 2030, iar lideri precum Gates văd o criză a pieței muncii, presiunea pentru o intervenție coordonată la nivel internațional crește.

Fie că vorbim despre interdicții locale în școli sau despre avertismente globale privind superinteligența, mesajul este clar: tehnologia avansează mai repede decât capacitatea noastră de a ne adapta.

Comunitatea științifică și cea politică se confruntă cu dilema de a decide cât de repede putem permite tehnologiei să evolueze înainte ca efectele sale ireversibile să ne surprindă.

Până la urmă, întrebarea rămâne: suntem noi cei care construim IA sau ea ne construiește pe noi?