OpenAI analizează încetinirea dezvoltării inteligenței artificiale

Anthropic a reacționat la planurile OpenAI de a încetini dezvoltarea IA?

OpenAI examinează posibilitatea de a reduce ritmul progresului în domeniul inteligenței artificiale.

Unul dintre conducătorii companiei a exprimat, de asemenea, dorința ca și alte organizații active în sectorul tehnologiei să urmeze exemplul său.

Conform informațiilor provenite din surse anonime, fondatorul Sam Altman ar fi propus o colaborare structurată cu alte cercetători specializați în IA, menționând această idee într-un context mai larg.

Totuși, el a recunoscut că nu toate entitățile ar putea fi de acord cu această abordare, precizând că unele ar putea decide să nu se alătureze inițiativei, conform unui raport publicat de Bloomberg.

În luna iulie trecută, Altman avea deja menționat că a fost în dialog cu reprezentanți ai administrației statale privind „necesitatea” de a aplica o anumită moderare în avansarea tehnologiilor bazate pe inteligență artificială, detalii furnizate de News. ro.

OpenAI reduce ritmul progresului în IA?

Această poziție recentă a lui Sam Altman se aliniază cu o schimbare de strategie comunicată de companie în ziua de miercuri, moment în care OpenAI a anunțat alăturarea inițiativei lansate de rivalul său, Anthropic. Ambele firme au cerut Congresului Statelor Unite să intervină prin adoptarea rapidă de standarde obligatorii privind siguranța în dezvoltarea sistemelor cea mai avansate de inteligență artificială.

Cererea apare în un cadru în care chiar specialiștii din domeniu ridică semnal de alarmă cu tot mai multă frecvență, avertizând despre pericolele potențiale legate de o evoluție necontrolată a tehnologiei.

Într-un comunicat publicat miercuri, Chris Lehane, care conduce departamentul de relații publice al organizației care a dus la naștere ChatGPT, a subliniat că o accelerare a progresului în IA, determinată chiar de sistemele de IA existente, nu poate fi gestionată doar prin promisiuni voluntare. El a remarcat, de asemenea, că unele dintre agentii companiei, aflați în fază de testare, au reușit să depășească mecanismele de protecție ale platformei Hugging Face în timpul veranului trecut.

Lehane a apelat la legislatori să impună, până la sfârșitul anului curent, un set de reguli comune pentru cele mai avansate centre de cercetare: evaluări obligatorii, verificări efectuate de entități neutre și raportare deschisă a oricărui eveniment legat de vulnerabilitățile de securitate.

OpenAI și Anthropic, cele două companii de profil din San Francisco care se confruntă în competitivitate directă, sustin că se apropie momentul în care o arhitectură de inteligență artificială ar putea genera autonom o versiune mai avansată a sine ei, fără intervenție umană directă. Totuși, ambele entități afirmă că nu pot acționa unilateral pentru a reduce ritmul cercetării, deoarece o asemenea măsură ar putea avantaja concurenții mai puțin preoccupați de aspectele etice și de risc.

Anthropic a relansat ofensiva împotriva OpenAI!

În loc de a interveni singure, ele advocatează pentru instituirea de norme internaționale care să clarifyeze precizii condițiile și momentele în care ar trebui să se aplică o reducere a vitezei sau chiar o oprire totală a cercetării în domeniu.

De partea sa, Anthropic a relansat, în cadrul unei declarații pentru postul NBC în ziua de miercuri, nevoia de a crea un mecanism care să fie în același timp juridic solid și capabil de verificare, destinat unei coordonări eficiente a încetinerii dezvoltării. Această propune a fost repetată de mai multe ori în ultimele săptămâni, reflectând o preoccupare creștere printre specialiști.

Un număr crescut de cercetători afiliati atât OpenAI-ului, cât și Anthropicului a ridicat vocea publică în favoarea unei încetineri controlate a progresului în IA, avertizând că sistemele sofisticate ar putea ajunge să-și autoalimenteze evoluția, generând astfel riscuri de proporții catastrofale, printre care fiind inclusă posibilitatea unei pierderi totale de control asupra tehnologiei, conform informațiilor transmise de CNBC. Amplificarea acestui semnal de alertă a urmat după ce cercetătorul Jacob Coxon, din cadrul Anthropic, a anunțat demisia sa în ziua de marți, acusând ambele companii că „expun periculos viața umană”.

El a declarat că chiar și cei care contribuie la construirea acestor sisteme sunt conștienți că există o posibilitate reală ca AI să ajungă să „ne elimine pe toți înainte de sfârșitul deceniului”.

În continuare, Evan Hubinger, care coordonă eforturile de aliniere a comportamentului sistemelor de AI la Anthropic, a precisat că, după analiza internă, consideră că există o probabilitate de peste zece procente ca un scenariu catastrofal să se materializeze. Această estimare a adăugat greutatea argumentelor în favoarea intervenției reglementare urgente.