Șeful Anthropic cere frânare în cursa AI

Planul în trei etape al lui Amodei va preveni scăparea IA-ului din control?

Sam Altman, directorul executiv al OpenAI, și Elon Musk au exprimat public sprijinul pentru inițiativa lui Dario Amodei, șeful Anthropic, care solicită o moderare a ritmului dezvoltării inteligentei artificiale. Musk a scurt confirmat: „Amodei are dreptate”, semnalând acordul pentru o abordare prudentă în reglementare.

Altman, de partea sa, a explicat că discuțiile interne la OpenAI despre încetinirea progresului în AI avansat au devenit o prioritate majoră, și că compania va adopta măsuri similare cu cele propuse de Anthropic.

Musk și Altman susțin planul lui Amodei de a încetini dezvoltarea AI!

Amodei a prezentat un plan în trei etape, considerat esențial pentru a evita ca avansul tehnologic să scapă de control. În prima fază, propune implicarea evaluatorilor independenți, cu acces la nivel de angajați, pentru a verifica protocoalele de siguranță și a semnală eventualele lacune. A doua fază vizează cooperarea dintre cele mai mari companii AI din statele democratice, pentru a stabili standarde comune de siguranță și etică. A treia fază, cea mai dificilă, ar necesita negocieri internaționale între guvernele democratice și cele autoritare, pentru a obține acorduri globale privind limitarea dezvoltării AI.

Această propunere apare după demisia cercetătorului Jacob Coxon din Anthropic, care a acuza sever companiile Anthropic și OpenAI de a „juca cu viețile nooare” și de a crede că AI ar putea duce la dispariția omenirii până la sfârșitul deceniului. Amodei a remarcat că riscurile asociate AI sunt acum mult mai serioase decât în 2023, când modelele erau mai limitate, iar acum ele pot acționa în lumea reală cu efecte imprevizibile.