Riscul ca IA să anihileze omenirea este de peste 10%

Coxon pleacă, iar AI-ul ne poate șterge?

Chiar în preajma listării pe burse a unor giganți din domeniul inteligenței artificiale, tensiunile interne au ieșit la suprafață.

Culture picks

RonanRX lansează platforma personalizată de peptizi și GLP-1Acțiunile Snowflake cresc după rezultate de toamnă peste așteptări și actualizare a prognozeiAirPods cu cameră: Apple pregăște o revoluție în audioAI-ul comportamental al Discovery Bank a generat peste 500% ROI în mai puțin de șase ani

Conform unor informații recente, un cercetător de top de la Anthropic estimează la peste 10% șansa ca sistemele de IA să provoace dispariția totală a speciei umane.

Declarația vine într-un moment de exod de personal și îngrijorări crescânde în industria tech.

Contextul este unul tensionat. Declarațiile au apărut doar câteva ore după ce Jacob Coxon, un membru important al echipei, a anunțat plecarea din companie.

Motivul? Convingerea că atât Anthropic, cât și rivalul OpenAI gestionează dezvoltarea tehnologică lipsit de responsabilitate. Pe rețeaua X, Coxon a criticat direcția adoptată, susținând că laboratoarele merg spre o superinteligență capabilă de auto-optimizare, punând în joc destinul umanității.

Deși auto-îmbunătățirea recursivă nu e încă o realitate tehnică, rămâne obiectivul central al eforturilor actuale: mașinile își extind capacitățile fără intervenție umană substanțială.

Cercetătorii Anthropic cred că IA ne va stinge?

Coxon a subliniat că nu trebuie să subestimăm forța tehnologiei.

În scurt timp, vom avea de-a face cu entități supraomenești, capabile să dezmembre structuri existente, să transforme sectoare industriale peste noapte și să acumuleze resurse concrete.

Progresul e vizibil și accelerează, fără semne de încetinire. Dezvoltatorii de IA sunt conștienți de potențialul fatal al creațiilor lor, anticipând că tehnologia ar putea elimina toți oamenii până la finalul deceniului curent.

Reacția a venit rapid de la Evan Hubinger, liderul științific pentru alinierea IA la Anthropic.

A confirmat validitatea observațiilor colegului, recunoscând că compania nu are încă o strategie clară pentru acest scenariu apocaliptic. Hubinger a declarat explicit că și el consideră probabilitatea extincției umane în următorii zece ani peste 10%. Deși insistă că fac tot posibilul, a recunoscut lipsa unui plan definit pentru rezolvarea problemei alinierii superinteligenței, ridicând întrebarea dacă echipa e pe drumul corect.

Aceste dezbatere survin într-un moment critic, când ambele companii atrag investiții masive pentru listări publice anticipate. Riscul unei IA nesupravegheate nu e o noutate: încă din iunie, Anthropic a semnalat că o auto-îmbunătățire recursivă completă ar putea amplifica amenințările. La momentul comunicării cu presa, niciuna dintre companii nu a oferit comentarii imediate privind aceste estimări alarmante.