Amodei recunoaște riscurile reale ale inteligenței artificiale!
Dario Amodei, conducătorul companiei Anthropic, a exprimat în intervul acordat CNN o poziție semnificativă privind pericolele asociate dezvoltării rapide a inteligentei artificiale.
Culture picks
Cum dezactivezi conectarea automată a CarPlay la iPhone
iOS 27 aduce Inteligența Vizuală pentru a împărți facturile și personaliza pașele Wallet
Comisia Europeană ia în vizor licențele Oracle după parteneriatul cu SAP
Frauda identității alimentată de AI: Analistii nu mai pot ține pasulA recunoscut că există un risc real ca această tehnologie să provoace daune serioase umanității, acordându-se în principiu cu preocupările exprimate de un fost angajat al companiei, Jacob Coxon, care a demisionat după ce a avertizat că IA ar putea duce la dispariția omenirii înainte de finalul acestui deceniu.
Într-un eseu publicat dimineața sâmbătă pe site-ul său personal, Amodei a subliniat necesitatea urgentei de a încetinir ritmul progresului în domeniul IA. A explicat că, deși avansul va părea continuu rapid, este esențial să utilizăm timpul câștigat printr-o abordare refleksivă și responsabilă. A insistat că nu trebuie să renunțăm la inovație, ci să o conducem cu discernământ, evitând deciziilor precipitate care ar putea avea consecințe neprevăzute.
Deși a fost de recunoscut ca un entuziaste al progresului tehnologic, Amodei a fost, de asemenea, criticat pentru tonul preocupant pe care îl folosește în discuțiile despre pericolurile IA. El însă a recunoscut sămbătă că temerile sale sunt fundamentate: există posibilitatea ca oamenii să pierde controlul asupra sistemelor avansate, iar tehnologia să fie exploată în scopuri distructive, inclusiv atacuri cibernetice sofisticate, experimente de bioterorism sau destabilizări economice de mare amplitudine.
Un punct particular de preoccupare pe care l-a evidențiat este posibilitatea ca persoanele considerate „nepotrivite” din punct de vedere etic sau moral să obțină acces de control asupra tehnologiilor avansate de IA. În intervul exclusiv cu Anderson Cooper de la CNN, Amodei a avertizat că dacă nu acționăm cu promptitudine și de coordonare, crescă riscul ca acești factori să câștige influență, ceea ce ar măriră semnificativ probabilitatea de esecuri catastrophic.
A apelaţi liderilor industriali să unască eforturile pentru a evita „caietile greșite” și să為促進一個更安全的AI發展路徑。
Interviul complet cu Amodei va fi difuzat luni seara!
El a precizat că interviul complet va fi difuzat luni seara pe CNN, unde va detalia mai profund perspectivele sale și propunerile pentru regulare și colaborare internațională în domeniul IA.
Apelul său la responsabilitate colective a venit imediat după demisia lui Jacob Coxon, un cercetător de nivel înalt de la Anthropic, care a explicat decizia sa printr-o postare pe platforma X. În ea, Coxon a scris cu claritate că el și colegii săi nu acționează prin motivări de marketing, ci dintr-o convingere profundă: cred că dezvoltarea necontrolată a IA ar putea duce la extincția omenirii până la sfârşitul deceniului.
A adăugat că, deși unii lideri pot alege cu grijă cuvintele în declarațiile publice pentru a aparența moderați, în conversații private exprimă aceleași temeri profunde. A concluzionat că nici o altă activitate umană nu prezintă un asemenea grad de existential risk.
În cele din urmă, Amodei a confirmat direct pentru CNN că, deși există diferențe de accent sau de ton, este „mai mult de acord decât în dezacord” cu Coxon privind natura și severitatea riscurilor asociate IA. A caracterizat demisia fostului angajat ca „interesantă”, remarcând că, la momentul plecării, Coxon a recunoscut responsabilitatea relativă a Anthropic în comparație cu alți jucători din industrie, dar a insistat pe nevoia de o acțiune mai decisivă și mai urgentă pentru a preveni scenarii catastrofale.
Amodei a reafirmat că, fără o încetinire consciențiosă și un cadru etic solid, riscul ca tehnologia să se intoarcă împotriva creatătorilor ei rămâne alarmant de real.
