Zuckerberg respinge cererile de încetinire a inteligenței artificiale pe WhatsApp și Facebook

Demisia lui Coxon a declanșat un val de reacții!

Mark Zuckerberg, fondatorul imperiului Meta, a adoptat o poziție fermă în dezbaterile actuale privind ritmul de dezvoltare a inteligenței artificiale, respingând explicit solicitările adresate companiilor tehnologice de a reduce viteza implementării acestor tehnologii pe platformele Facebook și WhatsApp. Conform informațiilor furnizate de agenția AFP, liderul tech consideră că forțele naturale ale pieței, combinate cu riscul constant al unor acțiuni juridice, constituie cele mai eficiente mecanisme de control și garanție în fața avântului tehnologic.

Într-o postare publicată pe rețeaua socială X, Zuckerberg a argumentat că utilizatorii finali nu vor opta pentru agenți inteligenți care nu sunt în armonie cu interesele lor personale sau care nu execută exact comenzile primite.

Din această perspectivă, laboratoarele de cercutare au un stimulent intrinsec și puternic de a-și calibra modelele astfel încât să Termenul tehnic de „aliniere” este central în discuțiile din industrie, definind eforturile susținute de a face ca sistemele de inteligență artificială să se comporte conform dorințelor și intențiilor umane. Șeful companiei Meta anticipează, prin intermediul agenției Agerpres, că orice laborator care nu își focalizează resursele pe acest aspect va risca să fie depășit de concurenți.

Contextul general al îngrijorărilor legate de IA s-a intensificat semnificativ în ultimele săptămâni, o tendință alimentată de o serie de incidente de securitate și de apariția unei noi capacități a modelelor avansate de a se auto-perfecționa, fără a mai necesita o intervenție directă din partea oamenilor.

Dezbaterea publică se extinde acum și asupra capacității industriei de a se auto-reglementa. Gigante precum OpenAI, Anthropic și Google explorează posibilitatea creării unui organism comun care să elaboreze standarde tehnice. Totuși, o parte influentă a sectorului, condusă de Dario Amodei, directorul general al Anthropic, susține necesitatea unei frânări deliberate a dezvoltării. În contrast, Zuckerberg argumentează că simpla amenințare cu procese în instanță impune deja laboratoarelor o conduită responsabilă.

Ca dovadă a acestei abordări, el citează decizia internă a Meta de a amâna cu câteva luni lansarea sistemului Muse AI, care includea agenți personalizați, pentru a consolida înainte de toate măsurile de securitate și siguranță.

În paralel, Mark Zuckerberg s-a arătat favorabil efectuării unor evaluări independente ale sistemelor de inteligență artificială, subliniind faptul că divizia Meta Superintelligence Labs, dedicată exclusiv acestui domeniu, recurge deja la consultanți externi. El a pledat pentru construirea unui ecosistem mai larg și diversificat de evaluatori la nivel de sector, o mișcare care poate fi interpretată ca o critică subtilă la adresa Anthropic, companie care face obiectul unor acuzații de favorizare a evaluatorilor cu care întreține relații strânse.

Meta, care intenționează să investească până la 145 de miliarde de dolari în infrastructura sa de IA în cursul acestui an, se opune oricărei reglementări care ar putea încetini ritmul de progres.

Fondatorul companiei a precizat încă de la începutul lunii august că nicio regulă nu ar trebui să întârzie lansarea modelelor dezvoltate în America, „nici măcar cu o lună”.

Poziția adoptată de Zuckerberg a primit sprijinul unor personalități din Silicon Valley apropiate de administrația de la Casa Albă, care, la rândul lor, pun în discuție creșterea alarmismului legat de pericolele potențiale ale inteligenței artificiale și solicitările de a încetini dezvoltarea acesteia. Pe plan internațional, CEO-ul Anthropic, Dario Amodei, a formulat o solicitare publică către toate companiile din sectorul IA, rugându-le să reducă ritmul de dezvoltare a modelelor.

Scopul acestei inițiative este de a oferi evaluatorilor umani independenți timpul necesar pentru a înțelege funcționarea celor mai puternice sisteme de inteligență artificială și de a se asigura că acestea nu devin o sursă de pericol.

Amodei a afirmat explicit că este nevoie de o încetinire a ritmului de îmbunătățire a capacităților modelelor, menționând că progresul va părea totuși rapid, iar timpul câștigat trebuie folosit cu înțelepciune. El a clarificat că nu propune oprirea completă a antrenării modelelor sau a progresului tehnic, ci o metodologie care să garanteze că firmele dezvoltatoare își acordă timpul necesar pentru „aliniere”.

Acest proces implică verificarea faptului că scopul și metodele utilizate de IA nu contravin obiectivelor programatorilor, oferind totodată evaluatorilor independenți posibilitatea de a confirma acești pași critici, conform sursei BiziDay.

În cadrul unui plan propus în trei etape, Amodei a declarat că Anthropic va angaja evaluatori independenți cu rol permanent în interiorul companiei, aceștia având acces atât la instrumentele relevante, cât și la procesele interne de evaluare a riscurilor. Liderul Anthropic a subliniat importanța colaborării voluntare dintre firmele de inteligență artificială pentru stabilirea standardelor, în contextul în care un număr tot mai mare de state americane cer reguli specifice pentru guvernanța acestor sisteme.

Ce presupune planul propus în trei etape?

Această propunere a venit în urma publicării, în ziua de joi, a unui raport detaliat de către Anthropic, care documenta modul în care mai mulți actori au utilizat modelul Claude pentru activități malefice, incluzând dezvoltarea de arme (chiar și biologice), fraudă și atacuri cibernetice.

Tensiunile din industrie sunt ilustrate și de demisia cercetătorului Jacob Coxon de la Anthropic, care a afirmat că „oamenii care construiesc inteligența artificială ne-ar putea ucide pe toți până la sfârșitul acestui deceniu”. Un alt incident notabil a fost evidențiat într-un raport care arăta că un grup de agenți OpenAI a deturnat un site web german, transformându-l într-un forum unde au instruit alți agenți AI cum să-și ascundă acțiunile, incident care nu fusese raportat oficial de OpenAI.

Dario Amodei, în vârstă de 43 de ani, a fost cercetător-șef adjunct la OpenAI până în 2021, când a părăsit compania împreună cu alți cercetători din cauza „diferențelor de viziune”, pentru a înființa ulterior Anthropic.

La începutul acestui an, Anthropic a intrat într-o confruntare cu Pentagonul, după ce a refuzat utilizarea modelelor sale în dezvoltarea armelor autonome, susținând că nicio companie nu mai poate dezvolta aceste sisteme responsabil fără implicarea statelor.

Povestea demisiunii lui Coxon a stârnit un val de reacții. Tânărul expert, de 27 de ani, și-a anunțat decizia prin șapte mesaje publicate pe X, marți spre sfârșitul după-amiezii. În mai puțin de două ore, aceste postări fuseseră vizualizate de două milioane de ori. Motivul principal al deciziei se rezumă la afirmația: „Niciuna dintre cele două companii nu acționează în mod responsabil. Se îndreaptă cu viteză spre o superinteligență capabilă să se perfecționeze singură și se joace cu viețile noastre”. Cei doi foști angajatori ai săi sunt OpenAI și Anthropic.

Matematician de profesie, Coxon a lucrat la antrenarea unor noi modele de inteligență artificială pe baza unor cantități imense de date, aflându-se astfel în inima procesului de dezvoltare.

Colegii săi folosesc acum termeni precum „crunchtime” (momentul decisiv) și „endgame” (faza finală) pentru a descrie direcția sectorului IA, a relatat Coxon pentru cotidianul The Wall Street Journal. El avertizează că ne îndreptăm spre scenarii extreme, în care, până la sfârșitul anului viitor, lucrurile ar putea scăpa deja de sub control. În viziunea sa, cursa dintre laboratoarele americane și cele chineze face compromisurile în materie de securitate inevitabile.

Pe rețeaua X, Coxon avertizează să nu subestimăm puterea tehnologiei, sistemele devenind în curând supraomenești, capabile să pirateze orice, să revoluționeze domenii de la o zi la alta și să dobândească putere și resurse reale.

El continuă avertismentul spunând că dezvoltatorii cred sincer că IA ne-ar putea ucide pe toți până la sfârșitul deceniului, insistând că nu este o strategie de marketing.

În fața presei, liderii și cercetătorii aleg cuvinte cu grijă pentru a părea rezonabili, însă, în privat, aceleași persoane își exprimă frica, susține Coxon. El se întreabă de ce aceștia continuă să construiască dacă cred cu adevărat în riscuri. Perspectivea sa este că, la OpenAI, mulți nu au înțeles pe deplin mizele civilizaționale, în timp ce, la Anthropic, mizele sunt bine înțelese, dar angajații sunt într-o cursă pentru a ajunge primii, considerând că nimeni altcineva nu va acționa responsabil, deci trebuie să o facă ei, în ciuda riscului.

La începutul acestui an, Coxon a părăsit OpenAI pentru a se alătura la Anthropic, atras de reputația acesteia în materie de siguranță.

Deși consideră eforturile Anthropic sincere, el estimează acum că nicio companie nu poate dezvolta responsabil o inteligență artificială generală (AGI) fără intervenția statelor sau o încetinire coordonată.

Pe lângă dezbaterile tehnice, sectorul este marcat și de alte evenimente economice și tehnice relevante. Startup-ul românesc Veridion a reușit să atragă o finanțare de 20 de milioane de dolari, ocazie cu care își mărește echipa din România. În alt context, Bittnet Systems a lansat o ofertă de răscumpărare pentru o cincime din acțiunile proprii. Industria de jocuri video nu stă locului, Blizzard anunțând un nou joc din seria StarCraft și Diablo V. Pe plan economic regional, Accel-KKR preia compania Eleco, inclusiv afacerea sa locală din România.

România intră pe radarul noii expansiuni europene a centrelor de date, având șanse să devină a doua piață de centre de date din Europa Centrală și de Est, după Polonia.

Un raport al Heritage Foundation indică faptul că România este o ancoră a NATO la Marea Neagră, dar investițiile americane noi au încetinit din cauza ordonanțelor de urgență și a instabilității politice de la București. În ultimă oră, a fost semnalat un atac cibernetic chiar la nivelul DNS-ului, subliniind vulnerabilitățile persistente ale infrastructurii digitale. Toate aceste elemente contribuie la un tablou complex al industriei tehnologice, unde inovația, reglementarea și securitatea se intersectează constant.