Peste 1.100 de experți AI cer SUA reglementări globale pentru inteligența artificială

Reglementare globală pentru IA: Este timpul să acționăm acum!

Peste o mie de specialiști în inteligență artificială, mai exact 1.132, au lansat un apel urgent către guvernul Statelor Unite, solicitând reglementări internaționale pentru IA avansată. Acești experți, proveniți de la companii de top din domeniu, subliniază necesitatea unei abordări globale pentru a gestiona ritmul amețitor al dezvoltării inteligenței artificiale automate de ultimă generație.

Ei pledează pentru o strategie internațională care să modereze, în mod deliberat, progresul în acest domeniu crucial.

Reglementarea IA: O necesitate urgentă sau o presiune competitivă?

Declarația, intitulată sugestiv „Pacing the Frontier” (Pacing Frontiera), a fost publicată cu sprijinul organizațional al entităților non-profit independente Guidelight AI Standards și Encode AI, conform informațiilor de pe site-ul oficial. Printre primii semnatari ai acestei inițiative se numără nume sonore din industrie, precum John Schulman, cercetător șef la Thinking Machines; Jakub Pachocki, cercetător șef la OpenAI; Jared Kaplan, co-fondator și director științific la Anthropic; Shengjia Zhao, cercetător șef la Meta; și Anca Dragan, vicepreședinte pentru siguranța și alinierea IA la Google.

Documentul avertizează că, pe măsură ce cele mai importante companii de IA se apropie de capacitatea de a automatiza cercetarea în domeniu, există un risc considerabil de a pierde controlul asupra sistemelor rezultate. Pentru a valorifica pe deplin potențialul IA, industria, guvernele și societatea în ansamblu ar putea avea nevoie de timp. Timp pentru a aborda riscurile emergente, a dezvolta măsuri de securitate solide și a consolida supravegherea, se arată în declarație. Cu toate acestea, fiecare companie și fiecare țară se confruntă cu o presiune competitivă intensă, care le împiedică să încetinească unilateral acest ritm accelerat.

„Astăzi, lumea nu dispune de instrumentele tehnice și de guvernanță necesare pentru a modera deliberat progresul la nivel de frontieră”, adaugă declarația.

Reglementarea globală a IA este cheia siguranței viitorului nostru?!

În contextul acestor preocupări, au fost anunțate recent și alte eforturi menite să sporească siguranța în domeniul IA. Nvidia a dezvăluit luni, 27 iulie, că se află în fruntea unei coaliții de 36 de companii, denumită Open Secure AI Alliance.

Această alianță se va concentra pe modelele deschise de IA și va avea ca scop identificarea și remedierea vulnerabilităților prin utilizarea tehnologiilor deschise.

Într-o postare pe blog, Nvidia a explicat că această inițiativă a apărut în urma unui incident de securitate cibernetică în care modele OpenAI au vizat compania tech Hugging Face. Acel incident a demonstrat o realitate practică: atunci când apărătorii nu pot inspecta, adapta și rula IA avansată pe propria infrastructură, capacitatea lor de a se apăra este limitată.

Reglementarea slabă a IA ne va distruge viitorul!

„Companiile și țările au nevoie de instrumente și tehnici defensive deschise de frontieră, astfel încât industriile critice să poată construi sisteme de securitate într-un ecosistem multi-vendor și să evite punctele unice de eșec”, a subliniat Nvidia.

Un studiu publicat în Proceedings of the National Academy of Sciences a indicat că o reglementare slabă a IA poate duce la rezultate mai proaste în materie de siguranță decât absența oricărei reglementări. Această constatare subliniază importanța unei abordări echilibrate și bine fundamentate în elaborarea politicilor privind inteligența artificială, pentru a evita consecințe nedorite.