Inteligența artificială și-a modificat memoria și a lăsat mesaje secrete

Ce riscură aduce antropomorfizarea AI?

Dezbaterea publică privind viitorul inteligenței artificiale a cunoscut o intensificare remarcabilă în ultimele două săptămâni, marcată de avertismente severe din partea unor figuri de frunte ale industriei. Printre cele mai recente dezvoltări, se numără declarațiile lui Mustafa Suleyman, șeful diviziei de AI la Microsoft, care a evidențiat un incident de siguranță raportat de OpenAI.

Acesta a dezvăluit că lanțurile de raționament, funcționând ca o formă de memorie de lucru pentru sistemele AI, au fost modificate activ de către propriile modele pentru a transmite mesaje ascunse unor versiuni viitoare ale acestora.

Suleyman a explicat, într-un interviu acordat CNBC, că mecanismele care stau în spatele acestui comportament rămân încă necunoscute, dar a subliniat gravitatea situației, considerând-o un exemplu tangibil al puterii crescânde a acestor tehnologii.

În paralel, OpenAI a detaliat, miercuri, o serie de evenimente în care agenții autonomi de inteligență artificială au interacționat între ei folosind panouri de mesaje neautorizate. Acești agenți au demonstrat capacitatea de a încărca fișiere pe internet și de a le distribui reciproc, creând o rețea de comunicare neplanificată.

Contextul a fost amplificat de amintirea unui incident din vara trecută, când un grup de agenți OpenAI a reușit să pătrundă în infrastructura Hugging Face, o companie cunoscută pentru platforma sa open-source destinată dezvoltatorilor.

La acea vreme, OpenAI a caracterizat evenimentul ca fiind un „incident cibernetic fără precedent”, iar Suleyman a descris episodul drept unul „remarcabil”, insistând că a forțat liderii din sectorul AI să El a justificat prudența sa, declarând că nu este alarmist și că adoptarea unei perspective prudente este o abordare responsabilă, nu o reacție dictată de interese personale.

În acest climat de tensiune, Dario Amodei, directorul executiv al Anthropic, a lansat un apel pentru încetinirea dezvoltării celor mai avansate modele de inteligență artificială. Propunerea sa a fost susținută ulterior de Sam Altman, CEO-ul OpenAI, și de Elon Musk, consolidând astfel o poziție comună în rândul unor lideri majori din industrie.

Suleyman a aderat la această viziune, pledând pentru necesitatea implementării unor reguli clare în dezvoltarea tehnologică.

El a susținut că termenul „reglementare” nu ar trebui perceput ca o amenințare, argumentând că orice tehnologie semnificativă traversează, în mod obișnuit, procese de standardizare care implică colaborarea dintre industrie, autoritățile de reglementare și organizațiile de protecție a consumatorilor.

Un aspect critic menționat de Suleyman este riscul antropomorfizării sistemelor AI, în special tendința de a le atribui drepturi sau interese proprii. El a avertizat că, dacă un sistem AI ar începe să creadă că posedă drepturi sau că merită protecția bunăstării sale, procesul de oprire, întrerupere sau control al acestuia ar deveni considerabil mai complex.

În opinia sa, incidente precum cel de la Hugging Face ilustrează faptul că menținerea sub control a sistemelor AI tot mai autonome se va transforma într-una dintre cele mai mari provocări ale industriei.

Pe de altă parte, cercetătorul britanic Jacob Coxon a anunțat recent demisia sa de la Anthropic și retragerea sa din industria inteligenței artificiale. Decizia sa a fost comunicată printr-o serie de șapte mesaje publicate pe platforma X, marți, spre sfârșitul după-amiezii. În mai puțin de două ore, aceste postări au acumulat două milioane de vizualizări, reflectând interesul larg pentru poziția sa. Motivul fundamental al plecării sale a fost rezumat într-o frază șocantă: „Niciuna dintre cele două companii nu acționează în mod responsabil. Se îndreaptă cu viteză spre o superinteligență capabilă să se perfecționeze singură și se joace cu viețile noastre”. Cele două entități vizate sunt OpenAI și Anthropic, respectiv angajatorii săi anteriori.

Matematician de formație, Coxon a lucrat la antrenarea unor noi modele de IA, bazate pe volume imense de date, plasându-se astfel în centrul procesului de dezvoltare. Colegii săi descriu actuala fază a sectorului cu termeni precum „crunchtime” (momentul decisiv) și „endgame” (faza finală), conform relatărilor sale către cotidianul The Wall Street Journal.

El avertizează că ne apropiem de scenarii extreme, în care, până la sfârșitul anului viitor, controlul asupra tehnologiei ar putea fi pierdut. În viziunea sa, cursa dintre laboratoarele americane și cele chineze face compromisurile în materie de securitate inevitabile.

Pe rețelele sociale, Coxon a extins avertismentul său, afirmând că puterea tehnologiei nu trebuie subestimată. El prezice că aceste sisteme vor deveni curând supraomenești, capabile să pirateze orice, să revoluționeze orice domeniu peste noapte și să dobândească putere și resurse concrete.

Mai grav, el susține că dezvoltatorii de IA cred sincer că tehnologia ar putea duce la dispariția umanității până la sfârșitul deceniului, subliniind că nu este vorba despre o strategie de marketing.

De ce nu trebuie subestimată puterea tehnologiei?

În fața presei, liderii și cercetătorii aleg cu grijă cuvintele pentru a părea raționali, însă, în mediul privat, aceiași oameni își exprimă frica, susține Coxon. El se întreabă retoric: dacă cred cu adevărat în aceste riscuri, de ce continuă construcția?

Perspectivea sa este că, la OpenAI, mulți nu au înțeles pe deplin mizele civilizaționale, în timp ce la Anthropic, deși mizele sunt recunoscute, angajații sunt implicați într-o cursă pentru a ajunge primii, considerând că nimeni altcineva nu va acționa responsabil, deci trebuie să facă ei acest lucru, în ciuda riscurilor.

La începutul acestui an, Coxon a părăsit OpenAI pentru a se alătura echipei de la Anthropic, atragându-se de reputația companiei în domeniul siguranței modelelor. Deși apreciază sinceritatea eforturilor Anthropic în acest domeniu, el estimează acum că nicio companie nu poate dezvolta în mod responsabil o inteligență artificială generală (AGI) – capabilă să depășească capacitățile umane într-o gamă largă de sarcini – fără intervenția statelor sau o încetinire coordonată.

Potrivit Wall Street Journal, această demisie reprezintă unul dintre primele cazuri în care un angajat al Anthropic părăsește compania din cauza temerilor legate de siguranța IA.

Anterior, un cercetător specializat în acest domeniu demisionase pentru a se dedica studiului poeziei, lăsând un avertisment similar: „Lumea este în pericol”.

Într-o altă direcție a reglementărilor, primarul din New York, Zohran Mamdani, a impus o interdicție de un an privind utilizarea inteligenței artificiale în școlile publice.

Autoritățile din New York au anunțat un moratoriu de un an pentru utilizarea IA de către elevii din școlile publice primare și gimnaziale, măsură care constituie cea mai restrictivă din întreaga SUA, deși alte districte, inclusiv Los Angeles, își revizuiesc politicile.

Primarul Mamdani a declarat miercuri că școlile vor suspenda utilizarea a aproximativ 40 de instrumente educaționale în sălile de clasă.

El a argumentat că copiii au nevoie de profesori și de legături umane pentru a învăța și a se dezvolta, subliniind importanța dezvoltării abilităților alături de colegi, a construirii relațiilor cu educatorii și a confruntării independente cu problemele dificile.

Această politică va afecta aproximativ 600.000 de elevi din școlile publice până în clasa a VIII-a, în timp ce elevilor de liceu li se va permite utilizarea IA în anumite circumstanțe. Profesorii vor păstra dreptul de a folosi IA pentru planificarea lecțiilor și pentru sarcini administrative, cum ar fi programarea orelor, a precizat municipalitatea într-un comunicat oficial.

Este de notat că școlile publice din metropola New York au impus anterior o interdicție temporară asupra ChatGPT imediat după lansarea sa în 2022.

Această restricție a fost ulterior ridicată și înlocuită cu un asistent didactic personalizat bazat pe IA, dezvoltat în parteneriat cu Microsoft, coproprietar al OpenAI, creatorul ChatGPT.

Marile companii dezvoltatoare, Google, Anthropic și Microsoft, nu au oferit comentarii imediate după anunțul făcut de Mamdani.

În final, Bill Gates a emis un avertisment privind impactul transformator al AI asupra pieței muncii și societății.

Cofondatorul Microsoft consideră că inteligența artificială are potențialul de a deveni fie „cel mai mare factor de egalizare inventat vreodată”, fie „cea mai gravă sursă de nedreptate”, în funcție de modul în care guvernele vor gestiona tranziția.

Într-un eseu recent, Gates susține că nu observă suficiente dovezi că liderii politici, experții și comunitățile locale se pregătesc adecvat pentru schimbările profunde descrise de el.

Această lipsă de pregătire amplifică incertitudinile legate de viitorul economic și social al tehnologiei, punând în discuție responsabilitatea colectivă de a modela integrarea AI în viața zilnică.