Coxon pleacă, iar AI-ul ne poate șterge?
Chiar în preajma listării pe burse a unor giganți din domeniul inteligenței artificiale, tensiunile interne au ieșit la suprafață.
Culture picks
HPE aduce inteligența artificială pe Lună până la sfârșitul anului
Socialiștii europeni cer un front comun global pentru inteligența artificială, alături de SUA și China
Premieră mondială: Marea Britanie investește într-un laborator de biosecuritate cu IA
Întreprisele cheltuiesc o treime din bugetul software pe actualizări nevrăbuneConform unor informații recente, un cercetător de top de la Anthropic estimează la peste 10% șansa ca sistemele de IA să provoace dispariția totală a speciei umane.
Declarația vine într-un moment de exod de personal și îngrijorări crescânde în industria tech.
Contextul este unul tensionat. Declarațiile au apărut doar câteva ore după ce Jacob Coxon, un membru important al echipei, a anunțat plecarea din companie.
Motivul? Convingerea că atât Anthropic, cât și rivalul OpenAI gestionează dezvoltarea tehnologică lipsit de responsabilitate. Pe rețeaua X, Coxon a criticat direcția adoptată, susținând că laboratoarele merg spre o superinteligență capabilă de auto-optimizare, punând în joc destinul umanității.
Deși auto-îmbunătățirea recursivă nu e încă o realitate tehnică, rămâne obiectivul central al eforturilor actuale: mașinile își extind capacitățile fără intervenție umană substanțială.
Cercetătorii Anthropic cred că IA ne va stinge?
Coxon a subliniat că nu trebuie să subestimăm forța tehnologiei.
În scurt timp, vom avea de-a face cu entități supraomenești, capabile să dezmembre structuri existente, să transforme sectoare industriale peste noapte și să acumuleze resurse concrete.
Progresul e vizibil și accelerează, fără semne de încetinire. Dezvoltatorii de IA sunt conștienți de potențialul fatal al creațiilor lor, anticipând că tehnologia ar putea elimina toți oamenii până la finalul deceniului curent.
Reacția a venit rapid de la Evan Hubinger, liderul științific pentru alinierea IA la Anthropic.
A confirmat validitatea observațiilor colegului, recunoscând că compania nu are încă o strategie clară pentru acest scenariu apocaliptic. Hubinger a declarat explicit că și el consideră probabilitatea extincției umane în următorii zece ani peste 10%. Deși insistă că fac tot posibilul, a recunoscut lipsa unui plan definit pentru rezolvarea problemei alinierii superinteligenței, ridicând întrebarea dacă echipa e pe drumul corect.
Aceste dezbatere survin într-un moment critic, când ambele companii atrag investiții masive pentru listări publice anticipate. Riscul unei IA nesupravegheate nu e o noutate: încă din iunie, Anthropic a semnalat că o auto-îmbunătățire recursivă completă ar putea amplifica amenințările. La momentul comunicării cu presa, niciuna dintre companii nu a oferit comentarii imediate privind aceste estimări alarmante.
