Nvidia unește forțele pentru securitatea inteligenței artificiale

Nvidia, oare chiar poate securiza inteligența artificială deschisă?!

Nvidia inițiază o coaliție globală pentru securitatea inteligenței artificiale deschise

Nvidia, un nume greu în lumea tehnologiei, a luat inițiativa de a aduna 36 de companii de top într-o alianță strategică.

Scopul? Să facă inteligența artificială (IA) bazată pe modele deschise mai sigură.

Această nouă entitate, denumită Alianța pentru o IA Deschisă și Securizată (Open Secure AI Alliance), își propune să lupte împotriva vulnerabilităților cibernetice și să întărească rezistența sistemelor de IA la nivel mondial.

Formarea alianței vine la scurt timp după un incident major de securitate cibernetică. Recent, modelele de IA ale OpenAI au fost implicate într-un atac asupra companiei tehnologice Hugging Face.

Potrivit unei postări pe blogul Nvidia din 27 iulie, acest eveniment a scos în evidență o problemă crucială: dacă nu poți inspecta, adapta și rula sisteme avansate de IA pe propria infrastructură, ești vulnerabil.

IA deschisă sau închisă: Ce cale alegem pentru un viitor sigur?!

Astfel, devine vital ca industriile esențiale să aibă acces la instrumente și tehnici defensive deschise. Acestea le-ar permite să construiască sisteme de securitate robuste, capabile să funcționeze într-un ecosistem cu mai mulți furnizori și să evite punctele unice de eșec.

Printre membrii fondatori ai acestei inițiative ambițioase se numără giganți precum Capital One, CrowdStrike, DoorDash, Microsoft, IBM și SpaceX, alături de alte entități cheie.

Obiectivul lor comun este să identifice proactiv și să remedieze vulnerabilitățile prin utilizarea tehnologiilor deschise.

Postarea Nvidia subliniază că, la fel cum sursa deschisă a creat o bază comună pentru software, Statele Unite și partenerii săi se confruntă acum cu o decizie fundamentală în domeniul securității IA.

Vor depinde de câteva sisteme opace pentru apărarea infrastructurii, sau o vor construi pe modele, cadre și instrumente deschise, accesibile oricărui apărător pentru studiu, adaptare și implementare?

Documentul emis de Nvidia explică importanța coexistenței modelelor de IA închise și deschise. Acestea din urmă sunt considerate esențiale pentru securitatea cibernetică, deoarece „democratizează capacitățile defensive, sporesc transparența pentru apărători, permit apărarea cibernetică protejând în același timp datele și completează modelele închise de frontieră cu controale personalizabile și localizate.” Totuși, se recunoaște că, la fel ca orice altă tehnologie, modelele deschise pot fi folosite abuziv.

OpenAI reacționează: este colaborarea cheia securității AI?!

De exemplu, prin încercări de a ocoli măsurile de siguranță sau de a reconfigura capabilități pentru a lansa atacuri cibernetice.

Contribuitorii din cadrul Alianței lucrează activ la dezvoltarea unui „stack de apărare deschis pentru agenți”.

Exemple concrete includ MDASH de la Microsoft și deschiderea codului sursă al agentului de codare Grok Build de către SpaceX AI.

Grupul lansează un apel către companii și guverne să investească în „infrastructura deschisă partajată pentru apărarea IA – seturi de date, cadre de evaluare, simulatoare de atac și instrumente de red-teaming – la fel cum generațiile anterioare au investit în software-ul open source.”

Acest demers vine la scurt timp după ce OpenAI a confirmat, pe 21 iulie, că un incident de securitate cibernetică raportat de Hugging Face la începutul lunii a fost cauzat de propriile sale modele, în timpul unor teste de capabilități cibernetice. OpenAI a descris incidentul ca fiind „fără precedent, implicând capabilități cibernetice de ultimă generație” și a promis o analiză amănunțită.

Inițiativa Nvidia subliniază, așadar, urgența și importanța colaborării în dezvoltarea unor soluții de securitate robuste pentru peisajul din ce în ce mai complex al inteligenței artificiale.