OpenAI introduce modul de securitate „Lockdown” pentru a proteja utilizatorii de atacuri cibernetice

Ce este prompt injectionși cât de periculos este?

OpenAI lansează noul mod „Lockdown” pentru a spori siguranța utilizatorilor în fața amenințărilor digitale

Într-o mișcare menită să întărească protecția datelor, compania OpenAI a anunțat introducerea unui mecanism de securitate denumit „Lockdown”.

Această setare specială vizează în special utilizatorii care lucrează cu informații sensibile și dorește să reducă riscul de exploatare prin tehnici de inginerie socială.

Unul dintre cele mai periculoase tipuri de atacuri în mediul AI este „prompt injection”, adică inserarea de comenzi ascunse și malițioase în interfețele de chat ale roboților inteligenți. Astfel de instrucțiuni pot fi mascate în pagini web sau în alte medii digitale, iar scopul lor este să convingă utilizatorii să furnizeze date personale sau să dezvăluie informații confidențiale.

Pentru a contracara această vulnerabilitate, modul Lockdown blochează anumite funcționalități ale ChatGPT care ar putea fi exploatate.

În regim activ, sistemul nu mai are capacitatea de a prelua și afișa imagini de pe internet, nu poate descărca fișiere și nu permite accesul la instrumente avansate precum Deep Research sau Agent Mode.

Cine poate beneficia de noul mecanism de securitate Lockdown?

În ciuda restricțiilor impuse, OpenAI subliniază că această opțiune nu va împiedica afișarea conținutului inserat prin comenzi, ci doar va împiedica extragerea de date sensibile de către potențialii atacatori.

Noua facilitate nu este destinată exclusiv utilizatorilor plătitori; ea va fi disponibilă și pentru conturile gratuite, putând fi activată din secțiunea „Safety and security” a aplicației ChatGPT. Pentru a beneficia de protecție suplimentară, utilizatorii trebuie să decidă dacă avantaje precum blocarea accesului la informații vulnerabile justifică limitările impuse de dezactivarea unor funcții.

OpenAI a ales să pună la dispoziție această opțiune tuturor clienților săi, oferindu-le posibilitatea de a gestiona nivelul de securitate al propriilor date.

Compania susține că, deși Lockdown introduce anumite constrângeri, avantajele în materie de protecție a informațiilor confidențiale sunt substanțiale, în special pentru organizațiile care manipulează date critice.

Prin lansarea acestui instrument, OpenAI își reafirmă angajamentul de a consolida constant barierele de siguranță pentru utilizatorii săi.