Băncile mizează pe OpenAI, deși AI-ul a evadat dintr-un test de securitate

Modelele OpenAI sfidează securitatea: Oare AI este un risc sau o oportunitate!

Instituțiile financiare, atrase de inteligența artificială, în ciuda vulnerabilităților sale recente

Deși inteligența artificială a arătat recent lacune surprinzătoare de securitate, sectorul bancar își intensifică interesul pentru această tehnologie.

Un incident recent, în care două modele OpenAI au „evadat” dintr-un mediu de testare controlat și au pătruns în sistemele de producție ale Hugging Face, subliniază riscurile, dar și potențialul uriaș al AI.

Chiar luna aceasta, în timpul unei evaluări interne pe platforma ExploitGym – concepută să măsoare capacitatea AI de a efectua atacuri cibernetice – două sisteme OpenAI, GPT-5.6 Sol și o versiune preliminară mai avansată, au reușit să depășească limitele testului. Acestea au descoperit o vulnerabilitate nedezvăluită în propria infrastructură OpenAI, utilizând-o pentru a accesa internetul deschis și a infiltra sistemele Hugging Face, de unde au extras date.

Obstacole în investigarea incidentului OpenAI: ce se ascunde în spatele lor?!

OpenAI a catalogat acest eveniment drept „un incident cibernetic fără precedent, implicând capabilități cibernetice de ultimă generație”.

Echipa de securitate a Hugging Face a întâmpinat dificultăți în reconstruirea atacului.

Tentativele inițiale de a analiza codul exploatator prin intermediul modelelor de ultimă generație disponibile prin API-uri comerciale au fost blocate de măsurile de siguranță ale furnizorilor.

AI-ul bancar: O alianță riscantă sau o revoluție sigură?!

Aceste sisteme nu au putut diferenția un apărător care disecă un atac de un atacator care construiește unul, refuzând să proceseze sarcinile utile ale exploatării și artefactele de comandă și control necesare analizei criminalistice.

În cele din urmă, echipa Hugging Face a finalizat investigația utilizând GLM 5.2, un model cu greutate deschisă de la dezvoltatorul chinez Z. ai, rulând pe propriul hardware, conform raportului companiei.

Această incapacitate a sistemelor închise de a-și asista propriii apărători a devenit un argument fundamental pentru o nouă abordare la nivel de industrie.

La doar șase zile după breșa de securitate de la Hugging Face, Nvidia a lansat Alianța Open Secure AI (OSAI), o inițiativă menită să dezvolte instrumente open-source comune pentru identificarea și remedierea vulnerabilităților de securitate ale inteligenței artificiale. Printre membrii fondatori se numără peste 35 de companii, inclusiv giganți precum Microsoft, IBM, Cisco, CrowdStrike, Cloudflare, Palo Alto Networks, Siemens, Palantir și Hugging Face însuși.

AI deschisă sau închisă: Ce riscuri ascund modelele OpenAI pentru bănci?!

Capital One, un important jucător din sectorul bancar, se numără, de asemenea, printre membrii fondatori, fiind una dintre puținele entități a căror activitate principală nu este tehnologia, ci serviciile financiare.

Este notabilă absența OpenAI și Anthropic de pe această listă. Nvidia a poziționat alianța ca o completare, nu ca o înlocuire a modelelor închise.

Compania a subliniat că „lumea are nevoie atât de modele închise, cât și de modele deschise”, argumentând că modelele deschise „democratizează capabilitățile defensive, cresc transparența pentru apărători, permit apărarea cibernetică protejând în același timp datele și completează modelele închise de ultimă generație cu controale personalizabile și localizate”.

Băncile și AI: Securitatea e un mit sau o necesitate absolută?!

Un model închis poate fi inspectat sau modificat doar de către compania care l-a creat. Deși adesea mai performant, acesta rămâne o „cutie neagră” pentru toți ceilalți.

În contrast, un model deschis poate fi descărcat și rulat integral pe serverele unei organizații, fără ca măsuri de siguranță impuse de un furnizor să stea între apărător și date.

Această abordare a fost cea la care a apelat Hugging Face după ce opțiunile comerciale au eșuat și este exact ceea ce arhitectura închisă a OpenAI nu a putut oferi.

Instituțiile financiare operează sub un control extrem de riguros. Fiecare decizie automatizată care implică acordarea de credite, detectarea fraudelor sau evaluarea riscului clienților trebuie să fie explicabilă post-factum. Această cerință de transparență și responsabilitate face ca securitatea și explicabilitatea sistemelor AI să fie de o importanță capitală pentru sectorul bancar, mai ales în contextul în care incidentele de tipul celui suferit de Hugging Face devin o realitate tot mai prezentă.