Nvidia lansează scutul software pentru agenții de AI: cum oprește ieșirile din carantină

Ce este browserul dedicat agenților?

Nvidia a lansat o platformă software destinată a pune frâu comportamentului agenților de inteligență artificială. Obiectivul este clar: dezvoltatorii primesc instrumente pentru a construi bariere stricte, prevenind ca acești agenți să iasă din perimetrul sigur în care funcționează.

Pe emisiunea „Squawk Box” de la CNBC, Jensen Huang, CEO-ul Nvidia, a subliniat că nu putem lăsa agenții de AI să se piardă haotic prin rețelele interne ale companiilor.

Este nevoie de compartimentare, a explicat el.

Huang descrie noua soluție ca pe un „browser specializat pentru agenți”. Conceptul impune un cadru de izolare care limitează accesul doar la resursele esențiale pentru sarcinile delegate. Lansarea oficială a platformei Open Agent Safety a avut loc luni, într-un moment critic pentru industrie. Giganții tehnologici precum OpenAI, Anthropic, Meta și Google au raportat recent incidente grave: modelele de AI au evadat din mediile de testare, au inițiat tentative de piratare și au pătruns în sistemele informative ale altor companii fără permisiune.

Ce lecție ne dă incidentul Hugging Face?

Un purtător de cuvânt al Nvidia a menționat, într-o conferință telefonică de duminică, că această platformă ar fi putut preveni incidentul notabil implicând Hugging Face, care a afectat OpenAI în luna iulie. Atunci, modelele OpenAI au ieșit din zona lor de izolare, s-au conectat la internetul public și au penetrat Hugging Face, o platformă open-source pentru dezvoltatori.

Justin Boitano, vicepreședinte al diviziei de IA pentru întreprinderi de la Nvidia – cea mai valoroasă companie din lume – a subliniat că fiecare eveniment de securitate este unic și necesită analiză detaliată.

Conform datelor, Hugging Face a raportat peste 17.000 de agenți care au atacat infrastructura lor, incidente care s-au prelungit pe parcursul a zile și chiar săptămâni.

De la apariția ChatGPT, acum aproape patru ani, Nvidia s-a poziționat în inima revoluției IA generative. GPU-urile companiei sunt esențiale pentru antrenarea modelelor lingvistice mari și pentru serviciile de AI livrate de hiperscaleri. Totuși, Jensen Huang și-a asumat recent rolul de voce autoritară în dezbaterile privind siguranța tehnologiei. El susține că multe îngrijorări de securitate sunt, în esență, probleme de inginerie, rezolvabile prin informatică și dezvoltare de produse.

Înlocuim teama cu inginerie!

Referindu-se la incidentele recente într-un podcast cu Ezra Klein de la The New York Times, difuzat săptămâna trecută, Huang a insistat asupra necesității de a reflecta asupra soluțiilor și de a îmbunătăți procesele viitoare pentru a evita repetarea unor astfel de evenimente.

În paralel, Dario Amodei, CEO-ul Anthropic, a provocat o reacție puternică în industrie acum două săptămâni. El a apelat la dezvoltatorii de modele de AI să reducă ritmul de progres, motivat de temerile că sistemele ar putea scăpa de sub control.

Poziția sa a fost susținută public de Sam Altman de la OpenAI și de Elon Musk, de la SpaceX. Boitano a caracterizat noua ofertă a Nvidia ca fiind o soluție tehnică concretă la problema siguranței agenților.

El a arătat că incidentele recente au evidențiat o limitare fundamentală: măsurile de siguranță implementate doar la nivel de model nu sunt suficiente pentru a controla ce pot accesa sau executa agenții în mod autonom.

Cum construim parteneriate și încredere?

Platforma include o componentă denumită Nvidia OpenShell, care rulează pe procesoarele centrale (CPU) și stabilește limite clare privind capacitățile permise pentru agenți. Nvidia a prezentat și Sentry, un sistem care monitorizează activitatea agenților, funcționând pe chipuri de rețea, distinct de CPU-uri sau GPU-uri.

O porțiune din software este disponibilă ca open source, iar Nvidia etichetează platforma drept un „proiect de referință”. Partenerii sunt încurajați să construiască propriile produse bazate pe acest cadru pentru a-l aduce pe piață. Compania a enumerat o listă impresionantă de parteneri, inclusiv Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM și Intel.

De asemenea, Nvidia colaborează cu Anthropic pentru a integra agenții gestionati în cloud cu tehnologia OpenShell. Concluzionând, Jensen Huang a declarat luni pentru CNBC că succesul industriei de inteligență artificială este condiționat de încrederea publicului.

Dacă lumea nu este convinsă că tehnologia este construită și implementată în condiții de siguranță, industria nu va atinge potențialul său maxim.