Controlul armelor pentru inteligența artificială

Vor cere din nou o pauză în dezvoltarea inteligenței artificiale?

Tehnologia avansează până la punctul în care AI va face munca umană de mii de ori mai eficientă sau chiar o va înlocui, creând un nou set de riscuri, a declarat compania într-un post de blog lung, semnat de co-fondatorul Jack Clark şi Marina Favaro, directorul Institutului Antropic. AI ar putea începe să-și îmbunătățească și să-și construiască proprii succesori în următorii câțiva ani, reducând rolul oamenilor, au scris Clark și Favaro în postul intitulat „Când AI se construiește,” citat de Bloomberg.

CITEŞTE ŞI Fondatorul Bridgewater avertizează că piaţa AI prezintă semne ale unei bule „Această coliziune, în care inteligenţa recursivă care construieşte mai rapid şi mai rapid întâlneşte lumea oamenilor, relaţiile şi guvernarea, este o altă parte pe care nu o putem prezice despre acest viitor,” potrivit companiei.

Antropic a comparat propunerea de reglementare a dezvoltării inteligenţei artificiale cu reglementarea internaţională a armelor nucleare, subliniind faptul că orice mecanism care ar întrerupe dezvoltarea AI ar trebui, de asemenea, să garanteze că laboratoarele AI mai puţin stricte nu continuă să lucreze în secret pentru a avansa tehnologia. Compania intenţionează să organizeze conversaţii cu factorii Compania intenţionează să organizeze conversaţii cu factorii de decizie politică, cercetători şi alte companii de informaţii artificiale în lunile următoare pentru a discuta despre o structură de „coordonare şi deliberare” şi va publica rezultatele postate.

Nu este prima dată când companiile de cercetare de la graniţa AI cer o pauză în dezvoltarea tehnologiei. În 2023, Institutul Viitorului Vieții, o organizație non-profit axată pe atenuarea riscurilor tehnologice, a solicitat o pauză de cel puțin șase luni pentru a pune bariere în calea inteligenței artificiale, avertizând asupra efectelor potențial catastrofale.

Acordul a fost semnat de peste 1.000 de cercetători și directori de companii, inclusiv miliardarul american Elon Musk.

Cererea a fost primită cu critici, oponenţii argumentând că oprirea dezvoltării ar împiedica inutil inovarea şi că firmele americane care sunt de acord să frâneze ar oferi un avantaj altor ţări.

Va înlocui AI munca umană?

CITEŞTE ŞI ULTIMA OARĂ În aşteptarea noului prim-ministru, obligaţiunile României se întorc în dolari la cel mai scăzut nivel al fostului director executiv al Google, Eric Schmidt, a avertizat că această pauză va oferi un avantaj concurenţilor chinezi, care sunt implicaţi într-un război comercial tehnologic cu SUA.

Antropia însăşi a continuat să lanseze modele şi instrumente avansate ale AI, cum ar fi asistentul său popular Claude şi noul model Mythos, despre care se spune că poate detecta şi exploata defectele de securitate cibernetică cu o viteză remarcabilă. De asemenea, compania se pregăteşte pentru o ofertă publică iniţială. Antropic a primit o evaluare de 96 de miliarde de dolari la ultima rundă de finanțare, prima depășind OpenAI, principalul său rival.

Autorii postului au recunoscut că controlul armelor pentru inteligența artificială este mai dificil de realizat decât pentru alte tehnologii, dar au subliniat că lumea nu poate aștepta decenii pentru a crea un astfel de mecanism. O încetinire sau o întrerupere semnificativă [a dezvoltării IA] ar necesita mai multe laboratoare cu resurse bune la sau în apropierea frontierei în mai multe țări care ar fi de acord să se oprească în aceleași condiții.

De asemenea, ar fi necesar ca toată lumea să poată verifica dacă ceilalți efectiv s-au oprit (.) Nimic din toate acestea nu este neapărat imposibil în principiu - lumea a construit regimuri de verificare pentru alte tehnologii complexe (de exemplu, Tratatul Forţelor Nucleare cu interval intermediar de acţiune) - dar aceste regimuri au avut nevoie de decenii pentru a construi atât infrastructura, cât şi încrederea.

Noi nu avem atât de mult timp, potrivit acestora.