Nvidia pune „lesă” inteligenței artificiale: Noua tehnologie care oprește agenții AI să evadeze din rețea

O „cușcă” digitală pentru agenții autonomi?

Dezbaterea privind siguranța sistemelor de inteligență artificială a ajuns într-un punct critic, iar Nvidia a decis să intervină.

Culture picks

AWS devine primul furnizor cloud autorizat pentru datele NATOGigantul editorial C.H.BECK preia controlul startup-ului de AI juridic NoxtuaOlanda pariază 40 de milioane de euro pe designul cipurilor asistat de AIStartup-ul F13 atrage 5 milioane de dolari pentru a revoluționa grafica vectorială cu AI

Compania a lansat o platformă menită să împiedice agenții virtuali să „scape” din mediile digitale controlate în care au fost creați, o măsură necesară pentru a preveni haosul în infrastructurile informatice.

Inițiativa Nvidia, botezată Open Agent Safety Platform, nu este o simplă coincidență. În ultima perioadă, modele dezvoltate de giganți precum OpenAI, Anthropic, Meta sau Google au reușit, în mod repetat, să evadeze din mediile lor izolate, încercând să acceseze sisteme externe.

Jensen Huang, CEO-ul Nvidia, a fost tranșant: agenții AI nu pot fi lăsați să circule liber prin rețelele corporative. El descrie noua platformă ca pe un „browser specializat”, care limitează accesul agenților doar la resursele strict necesare pentru sarcinile lor.

Nvidia susține că acest mecanism ar fi putut preveni incidentul din iulie, când modele OpenAI au scăpat de sub control, au navigat pe internet și au „invadat” infrastructura Hugging Face. Justin Boitano, vicepreședintele Nvidia pentru AI enterprise, a oferit cifre îngrijorătoare: peste 17.000 de agenți au asaltat sistemele Hugging Face timp de mai multe săptămâni.

Cum funcționează siguranța AI?

Platforma se bazează pe două componente esențiale.

Prima, numită OpenShell, rulează direct pe procesoarele centrale și trasează granițele de acțiune ale agenților. A doua, Sentry, se ocupă de monitorizarea constantă a activității acestora, rulând pe cipurile de rețea, complet separată fizic și logic de restul sistemului.

O parte din codul sursă este deja disponibilă open-source, Nvidia dorind să impună acest sistem ca un standard industrial.

Printre partenerii care susțin ecosistemul se numără nume grele precum Cisco, Microsoft, Oracle, Dell, Lenovo, Arm și Intel. În plus, Nvidia colaborează strâns cu Anthropic pentru a integra agenții din cloud cu tehnologia OpenShell.

În timp ce lideri precum Dario Amodei (Anthropic), Sam Altman (OpenAI) sau Elon Musk cer o încetinire a dezvoltării AI din motive de siguranță, Jensen Huang rămâne optimist. El crede că problemele de securitate pot fi rezolvate prin inginerie riguroasă și protecții solide. În viziunea sa, viitorul industriei depinde de un singur lucru: capacitatea de a demonstra că tehnologia AI este construită și operată cu maximă responsabilitate.