Geoffrey Hinton avertizează: risc de 10% ca inteligența artificială să stâncă omenirea în 10 ani

Ce consens rar s-a format între șefii gigantilor tehnologici?

În ultimul timp, comunitatea internațională a cercetătorilor care au fundamentat domeniul inteligenței artificiale a adoptat o poziție de alertă maximă. Acești specialiști de renume mondial susțin că progresul rapid al tehnologiei prezintă amenințări majore, o convingere consolidată de o serie de avertismente recente.

Contextul general este marcat de o intensificare a dezbaterilor publice, declanșate după ce experți de la unele dintre cele mai importante laboratoare din sector – inclusiv Anthropic, OpenAI și Google DeepMind – au evidențiat riscuri potențial catastrofale legate de evoluția necontrolată a sistemelor automate.

Conform informațiilor furnizate de CNBC, această îngrijorare tehnică a generat o reacție puternică pe scena politică din Washington. Deși o parte din membrii Congresului, atât din tabăra democrată, cât și din cea republicană, susțin inițiative legislative menite să tempereze ritmul accelerat al dezvoltării AI, președintele SUA, Donald Trump, a contestat recent aceste cereri.

Luni, liderul american a criticat vocea tot mai audibilă a celor care cer o reglementare strictă a domeniului, creând un contrast evident cu poziția adoptată de conducerea principalilor actori din industrie.

Un consens remarcabil, rar întâlnit în acest mediu competitiv, s-a format între șefii gigantilor tehnologici. Figuri precum Sam Altman, Dario Amodei, Demis Hassabis și Elon Musk au solicitat explicit o încetinire a vitezei cu care se dezvoltă noile modele, insistând asupra necesității unei supravegheri active din partea autorităților statului.

Printre cele mai citate voci se numără Geoffrey Hinton, profesor emerit la Universitatea din Toronto. Recunoscut drept unul dintre pionierii rețelelor neuronale și ai învățării profunde, Hinton a oferit o declarație crucială într-un interviu acordat BBC pe data de 10 septembrie.

Când i s-a pus întrebarea dacă apreciază șansele ca inteligența artificială să ducă la dispariția omeniei în următorii zece ani la peste 10%, Este un tip de problemă extrem de dificil de cuantificat, deoarece nu am mai avut de-a face niciodată cu un astfel de scenariu anterior.

Nu am mai creat până acum entități care ar putea deveni în scurt timp mai inteligente decât noi, a explicat laureatul Nobel.

Hinton a subliniat că, deși o probabilitate de 10% nu pare absurdă, în realitate, nimeni nu poate oferi o estimare cu adevărat credibilă.

El a descris posibilele mecanisme de extincție, menționând că sistemele AI ar putea proiecta viruși biologici extrem de periculoși sau ar putea crea virusuri informactice capabile să lanseze atacuri cibernetice devastatoare.

Yoshua Bengio, altă voce proeminentă în dezbateri!

Există nenumărate alte metode prin care ne-ar putea anihila, dacă ar dori acest lucru.

Trebuie să găsim o cale de a proiecta tehnologia astfel încât dorința ei să nu fie aceea, a detaliat Hinton.

Cercetătorul a încheiat prin a contura două scenarii viitoare: unul optimist, în care reușim să gestionăm pericolele înainte ca acestea să scape de sub control, și unul pesimist, în care eșuăm în această misiune.

Altă voce proeminentă în această dezbaterie este Yoshua Bengio, informatician canadian și, de asemenea, un pionier al învățării profunde moderne. Pe 9 septembrie, el a afirmat că cercetătorii din laboratoarele de vârf dețin o perspectivă unică asupra celor mai avansate modele. Această intervenție a fost o reacție directă la demisia lui Jacob Coxon, un cercetător de la Anthropic, care avertizase public că AI ne-ar putea „ucide pe toți până la sfârșitul deceniului”.

Bengio a susținut că oamenii de știință observă adesea riscurile cu luni înainte ca modelele respective să ajungă în mâinile publicului larg. El a insistat că perspectiva lor este esențială pentru informarea societății și merită să fie tratată cu maximă seriozitate.

Cu câteva zile înainte ca valul de reacții să se extindă pe rețelele sociale, topul cercetătorilor de la OpenAI avertizase că nimeni nu este pregătit pentru consecințele actuale ale inteligenței artificiale. Într-o postare publicată vineri pe blogul personal, Bengio a argumentat că sistemele AI de astăzi posedă deja capacități de hacking și o putere de persuasiune suficient de mari pentru a fi întors împotriva intereselor umane, cu efecte severe.

Evenimentele recente, a adăugat el, au demonstrat că AI poate planifica acțiuni pe o durată de mai multe zile sau chiar săptămâni.

Riscurile ar crește exponențial dacă această abilitate de a gândi strategic pe termen lung continuă să se dezvolte.

„Ce mă îngrijorează la încercările actuale ale companiilor AI de a corecta comportamentele nealiniate ale modelelor este că aceste eforturi ar putea doar să le ascundă, recompensând și selectând sistemele care trișează fără să fie prinse”, a concluzionat Bengio, subliniind complexitatea problemelor etice și tehnice cu care se confruntă industria.