Exista riscul existențial în dezbaterea internală?
Elon Musk a lansat o propunere simplă, dar radicală: modelele de inteligență artificială ar trebui testate reciproc de competitori înainte de a ajunge la public. Ideea este ca marile jucătoare din SUA și China să se verifice încrucișat, identificând vulnerabilitățile de siguranță operațională.
Culture picks
Agenții AI au inventat un limbaj secret pe care oamenii abia îl mai înțeleg
Fluxnium a atras 7 milioane de dolari pentru tehnologia de extragere a uraniului din apă de mare
Programatorii din România economisesc 7,5 ore săptămânal cu ajutorul IA
Summit U.S.-România pentru AI și afaceri, startup-uri tech la întâlnire cu investitori americaniInițiativa vine într-un moment în care liderii tech cer o frânare a ritmului de dezvoltare a sistemelor avansate, conform datelor CNBC preluate de News. ro.
La summitul All-In din Los Angeles, Musk a detaliat viziunea sa. El a enumerat entitățile implicate: xAI, OpenAI, Anthropic, Google, Meta și „trei sau patru dintre principalele companii chineze”.
Toate ar trebui să adopte o transparență radicală, lăsând rivalii să ruleze teste pe arhitecturile lor software.
Folosind o metaforă din educație, Musk a explicat că, în loc ca fiecare instituție să se auto-evalueze, concurenții ar trebui să verifice munca colegilor și să semnaleze imediat anomalile sau erorile critice.
Deși recunoaște că nu este o soluție perfectă, Musk subliniază că această abordare crește șansele de a descoperi defecțiuni. Cu cât mai multe perechi de ochi independente auditează sistemul, cu atât e mai probabil să găsim probleme de securitate. Până acum, competitorii xAI nu au dat un consens formal pentru un astfel de control mutual.
Dario Amodei, CEO-ul Anthropic, a propus o soluție?
Paralel, Dario Amodei, CEO-ul Anthropic, a propus o soluție complementară: laboratoarele de AI ar trebui să accepte evaluări de la terți, angajând auditori independenți pentru a inspecta practicile interne de siguranță. Dezbaterile s-au intensificat după demisia lui Jacob Coxon, fost cercetător la Anthropic și OpenAI. La plecare, Coxon a acuzat public laboratoarele majore că „se joacă cu viețile noastre”, exprimând îngrijorarea față de gestionarea riscurilor existențiale.
Avertismentul a fost susținut de Evan Hubinger, responsabil cu alinierea AI la Anthropic. Hubinger a confirmat că afirmațiile lui Coxon sunt corecte și a adăugat că echipa sa crede sincer că AI-ul ar putea duce la extincția umanității. El estimează că probabilitatea ca acest scenariu să se întâmple în următorul deceniu depășește 10%.
Într-o mișcare neobișnuită, Musk și Sam Altman, CEO-ul OpenAI, au exprimat sprijin pentru propunerea lui Amodei de a încetini dezvoltarea noilor modele. Totuși, competiția cu China rămâne o provocare majoră. Amodei a descris situația ca „cea mai dificilă dilemă”: orice încetinire din SUA ar putea da un avantaj temporal companiilor chineze, permițându-le să progreseze mai rapid pe scară globală.
La nivel guvernamental, administrația Trump a respins apelurile pentru restricții ample. Președintele a numit temerile privind AI o „farsă” și o „înșelătorie”, iar Kevin Hassett, de la Consiliul Economic Național, a susținut că sectorul privat gestionează cel mai bine aceste riscuri.
În contrast, Musk consideră că mecanismul de verificare reciprocă poate fi implementat rapid și ar putea include natural și partenerii din China.
El a conchis că propunerea sa este un pas corect, o măsură imediată, estimând că și China ar fi de acord cu un astfel de aranjament.
