Comentariile ascunse din Azure DevOps pot deturna inteligența artificială

AI-ul tău poate fi o armă în mâinile atacatorilor?!

Un agent AI a divulgat accidental informații confidențiale unei părți malițioase. Deoarece agenții AI sunt proiectați să ajute dezvoltatorii prin analizarea contextului, ei se bazează adesea pe datele prezentate în mediul cererilor de tip „pull request”.

Această manipulare forțează inteligența artificială să navigheze prin directoare și să recupereze date sensibile din zone pentru care atacatorul nu deține permisiuni oficiale.

Cercetătorii în securitate au descoperit că vulnerabilitatea provine din incapacitatea de a filtra corect câmpurile. O vulnerabilitate critică de securitate în Microsoft Azure DevOps permite atacatorilor să manipuleze sistemele automate.

Prin includerea de comentarii invizibile în cererile de extragere, aceștia pot accesa fișiere de proiect neautorizate. Când un agent AI scanează un depozit, el interpretează aceste instrucțiuni ascunse ca fiind comenzi legitime. Acest defect reprezintă un risc semnificativ pentru organizațiile care se bazează pe AI pentru revizuirea codului.

Atacul exploatează modul în care serverul Azure DevOps procesează intrările din comentariile cererilor de extragere.

Mai mult, dezvoltatorii trebuie să implementeze protocoale stricte de validare pentru toate comentariile și metadatele procesate de sistemele automate. Acest lucru este esențial pentru a preveni injectarea neautorizată de comenzi.

AI-ul tău poate divulga secrete fără să știe?!

Atenția imediată la modul în care integrarea AI interacționează cu intrările externe este necesară pentru a atenua această amenințare. Organizațiile ar trebui să restricționeze permisiunile acordate agenților AI, asigurându-se că aceștia accesează doar depozitele de proiecte necesare.

Atacatorii se folosesc de această încredere pentru a executa acțiuni neautorizate, transformând agentul într-un instrument intern de recunoaștere. Deoarece AI efectuează aceste acțiuni sub forma unui proces standard de revizuire, activitatea evită adesea instrumentele tradiționale de monitorizare a securității, care se concentrează pe comportamentul utilizatorului uman.

Amploarea încălcării este deosebit de relevantă în mediile de dezvoltare la scară largă. Odată compromis, un agent poate exfiltra în tăcere codul sursă, fișierele de configurare și documentația internă.

Perspectiva pe termen lung rămâne dificilă, pe măsură ce încrederea în asistenții de codare AI continuă să crească.

Companiile trebuie să adopte o abordare de tip „zero-trust” față de agenții automatizați, tratând rezultatele acestora ca fiind potențial nesigure până la verificare. Fără straturi de securitate robuste, aceste instrumente pot deveni accidental veriga cea mai slabă din ciclul de viață al dezvoltării software-ului.

Defectul permite atacatorilor să ocolească controalele standard de acces, folosind un agent AI ca un proxy inconștient. Echipele ar trebui să limiteze domeniul de aplicare al permisiunilor agentului AI și să implementeze validarea intrărilor pentru toate datele cererilor de extragere. Aceasta permite furtul silențioas de date sensibile ale proiectelor fără a declanșa alerte standard. Cum pot echipele să-și securizeze mediul Azure DevOps?

Auditul regulat al activității agentului este, de asemenea, esențial pentru a detecta modele neobișnuite de acces la fișiere.