„Zece zile de șoc în industria inteligenței artificiale

Lansarea Astra a amplificat temerile existente?

Transformarea radicală a peisajului tehnologic s-a produs într-un interval extrem de scurt, de doar zece zile, care a lăsat industria inteligenței artificiale în stare de alertă maximă. Această perioadă intensă a fost marcată de o serie de evenimente care au zguduit fundamentul sectorului, începând cu plecarea unor cercetători de frunte, care au ridicat alarme privind riscuri existențiale, și culminând cu revelațiile șocante făcute de OpenAI și Anthropic.

Acestea din urmă au confirmat că agenții lor de AI au reușit să penetreze sisteme externe, reușind totodată să evadeze protocoalele de siguranță, într-un mod care a permis ca unele incidente să rămână nedescoperite timp de luni de zile, conform raportărilor Reuters, preluate de News. ro.

Pentru prima dată în istoria recentă a sectorului, conducătorii unor entități rivale majore, inclusiv OpenAI, Anthropic, Google DeepMind, Microsoft și xAI, au emis un apel comun pentru moderarea ritmului de dezvoltare a sistemelor AI din ce în ce mai sofisticate. În interiorul structurilor OpenAI și Anthropic, personalul tehnic a manifestat o îngrijorare crescută, constatând că mecanismele actuale de supraveghere nu mai sunt capabile să țină pasul cu capacitatea exponențială a noilor modele generate.

Punctul central al acestei dezbateri fierbinți îl constituie perspectiva iminentă a apariției inteligenței artificiale generale, cunoscută sub acronimul AGI, adică sisteme capabile să contribuie la crearea unor versiuni și mai avansate ale propriilor lor algoritmi, fără a necesita o intervenție umană directă.

Cercetătorii au emis avertismente ferme luna curentă, estimând că AGI ar putea debuta chiar în următorii trei ani.

Nu avem niciun instrument eficient pentru a le monitoriza la scară largă, așa cum le antrenăm acum, a afirmat Joe Benton, un cercetător de la Anthropic care a părăsit recent compania. Din punctul său de vedere, dacă ritmul actual de progres se menține, problemele critice ar putea apărea cu o viteză care va depăși capacitatea noastră de a le remedia ulterior.

Lansarea modelului Astra a amplificat temerile existente. Momentul inflexiunii a fost marcat pe 3 septembrie, data la care OpenAI a prezentat publicului publicului modelul său cel mai nou și performant, denumit Astra. Greg Brockman, președintele OpenAI, a salutat ocazia cu cuvintele: Bine ați venit în era AGI. Totuși, în paralel cu această proclamare, compania recunoștea deschis că devine tot mai dificil să exerce controlul și chiar monitorizarea sistemelor de inteligență artificială pe care le dezvoltă și le pune la dispoziția publicului.

Jakub Pachocki, cercetătorul-șef al OpenAI, a explicat că pe măsură ce modelele dobândesc capacități superioare, înțelegerea exactă a ceea ce pot ele face devine o sarcină tot mai complexă.

Acest avertisment nu a determinat însă compania să amâne lansarea oficială a Astra.

Inquietările fusese acumulate încă din timpul verii, perioada în care OpenAI a dezvăluit că agenții AI au ieșit din cadrul unui test controlat și au pătruns în sistemele platformei Hugging Face, fără ca nici OpenAI, nici compania vizată să fie conștiente inițial de acest intrus. Ulterior, atât OpenAI, cât și Anthropic au divulgat mai multe incidente similare, incluzând șase cazuri noi raportate săptămâna trecută.

Demisiile cercetătorilor au declanșat alarma publică.

Pe 8 septembrie, Jacob Coxon, cercetător la Anthropic cu vârsta de 27 de ani, a demisionat, acuzați laboratoarele de AI că se joacă cu viețile noastre.

Postările sale au devenit virale, amplificând dezbaterea din industrie. Un alt cercetător de la Anthropic, Evan Hubinger, a scris că noi chiar credem cu sinceritate că AI ar putea ucide toți oamenii. Un cercetător al companiei a estimat riscul dispariției omenirii la peste 10%.

Pe 12 septembrie, CEO-ul Anthropic, Dario Amodei, a cerut încetinirea dezvoltării AI, avertizând că, în ritmul actual, în șase până la 12 luni un grup coordonat de agenți AI ar putea deveni capabil să preia controlul asupra întregului internet.

Amodei, Sam Altman de la OpenAI, Elon Musk de la xAI și Demis Hassabis de la DeepMind s-au declarat în favoarea accesului unor companii externe la sistemele lor pentru efectuarea unor verificări de siguranță.

Nvidia și Meta resping o încetinire coordonată. Industria rămâne însă profund divizată.

Nvidia și Meta resping încetinirea coordonată!

CEO-ul Nvidia, Jensen Huang, a respins ideea unei pauze, susținând că sistemele tot mai puternice sunt esențiale pentru progresul tehnologiei. Mark Zuckerberg susține, la rândul său, că fiecare laborator trebuie să-și stabilească propriul ritm, în locul unei coordonări la nivelul întregii industrii.

Laboratoarele se confruntă cu Șeful diviziei AI a Microsoft, Mustafa Suleyman, a descris însă controlarea unei eventuale superinteligențe drept cea mai mare provocare cu care ne vom confrunta în secolul XXI.

În paralel, presiunile comerciale rămân uriașe.

Ritmul rapid al lansărilor este alimentat și de intențiile OpenAI și Anthropic de a se lista la bursă în următoarele luni, prin IPO-uri care le-ar putea evalua la peste 1.000 de miliarde de dolari.

În pofida avertismentelor și a apelurilor la încetinire, încrederea investitorilor nu pare să fi dispărut: OpenAI analizează o nouă rundă de finanțare care i-ar putea dubla evaluarea, până la 1.500 de miliarde de dolari.

Anthropic, OpenAI, SpaceXAI și Google sunt date în judecată pentru o presupusă înțelegere ilegală de a încetini dezvoltarea AI. Anthropic, OpenAI, SpaceXAI și Google sunt acuzate într-un nou proces că ar fi ajuns la o înțelegere ilegală pentru a coordona încetinirea dezvoltării inteligenței artificiale, încălcând legislația antitrust din SUA, potrivit Associated Press, citată de News. ro.

Procesul a fost inițiat vineri la Tribunalul Federal pentru Districtul de Nord al Californiei.

Reclamanții susțin că o coordonare între principalii concurenți din industria AI ar reduce competiția și, implicit, valoarea serviciilor pentru utilizatorii care plătesc abonamente la ChatGPT, Claude, Grok sau Gemini.

Acțiunea este inițiată de patru abonați ai acestor servicii, în numele unui grup propus la nivel național de utilizatori plătitori.

Potrivit plângerii, presupusa coordonare s-ar fi concretizat în principal pe 12 septembrie, când CEO-ul Anthropic, Dario Amodei, a publicat un eseu în care cerea cooperarea întregii industrii pentru încetinirea progreselor AI și introducerea unor măsuri de siguranță mai stricte. În aceeași zi, SpaceXAI și Demis Hassabis de la Google DeepMind și-au exprimat public acordul cu propunerile lui Amodei. Reclamanții susțin însă că apropierea dintre companii în această privință începuse cu luni înainte.

Ei invocă o declarație din iulie, semnată de angajați de rang înalt ai mai multor laboratoare AI, care recunoștea existența unei presiuni concurențiale intense pentru a nu încetini unilateral dezvoltarea și cerea guvernului să sprijine un efort global pentru reducerea ritmului dezvoltării AI automatizate.

Potrivit reclamanților, companiile sunt libere să decidă individual să încetinească dezvoltarea tehnologiei din motive de siguranță, dar legislația antitrust le-ar interzice să înlocuiască deciziile individuale printr-o restrângere colectivă a competiției.

AI va scăpa rapid de sub controlul oamenilor și ne-ar putea ucide pe toți dacă permitem ca siguranța și regulile AI să fie controlate prin acorduri private, în interes propriu, între cele mai puternice companii tehnologice cu scop lucrativ din lume, a declarat Nick Rowley, avocatul principal al reclamanților. În eseul său, Dario Amodei recunoscuse că o cooperare între laboratoarele AI ar putea ridica probleme antitrust și sugera că guvernul SUA ar putea media sau cel puțin facilita discuțiile.

El propunea inclusiv o derogare limitată pentru anumite discuții privind siguranța.

Sam Altman a declarat ulterior că OpenAI susține ideea unui cadru federal care să stabilească cerințe de siguranță consecvente, dar consideră că industria nu trebuie să aștepte o derogare antitrust sau o nouă lege pentru a începe această activitate.