CrowdStrike lansează instrumente pentru eliminarea agenților AI nesupravegheați

Cum funcționează blocarea agentului AI prin tăierea legăturii cu modelul?

Într-un peisaj tehnologic în continuă transformare, securitatea agenților de inteligență artificială a devenit o prioritate critică pentru organizațiile moderne.

Pe 3 noiembrie, CrowdStrike a prezentat oficial „AI Kill Switch”, o soluție concepută pentru a permite administratorilor de securitate să oprească un agent AI care funcționează necorespunzător.

Scopul este dublu: a preveni reluarea activității agentului și a-l izola complet de rețeaua companiei. Cu toate acestea, doar prima componentă a acestui mecanism este disponibilă în prezent, restul aflându-se încă în faza de dezvoltare.

Un agent AI care efectuează plăți duble către un furnizor sau care rescrie înregistrările de reconciliere o face utilizând autentificarea unui angajat real sau a unui sistem. Instrumentele de securitate văd un utilizator autorizat care execută o sarcină autorizată, ceea ce face detectarea comportamentului anormal extrem de dificilă. Majoritatea companiilor nu dispun de un mod automat pentru a-l opri.

O anchetă realizată de Alianța pentru Securitate în Cloud, care a interogat 418 profesioniști din domeniul IT și securitatea, a arătat că doar 11% din organizații blochează automat un agent care depășește limitele sale.

Alte 38% așteaptă aprobarea unei persoane pentru fiecare acțiune, iar 24% se mulțumesc doar să înregistreze incidentul.

Mecanismul de blocare funcționează prin tăierea legăturii dintre agent și modelul său de limbaj.

Fiecare agent AI se bazează pe un model de limbaj mare; agentul trimite modelului ce vede, primește o instrucțiune, o execută și repetă procesul, adesea având acces la sistemele companiei pe laptopuri, servere în cloud și software de afaceri.

Comutatorul de la CrowdStrike rupe acest bucle.

Companiile dirijă traficul modelului agenților printr-o poartă de acces AI, fie cea proprie a CrowdStrike (inclusă fără cost suplimentar în platforma Falcon Guardian), fie una pe care o exploatează deja.

Când un administrator activează comutatorul, poarta refuză cererile agentului către model, a precizat compania într-un articol pe blog.

Agentul continuă să ruleze, dar nu primește nicio instrucțiune, deci încetează să acționeze. Activarea se face manual de o persoană, iar fiecare utilizare este înregistrată în jurnal.

Cum verifică Cisco fiecare acțiune în timp real?

Restul funcțiilor comutatorului se află încă în construcție.

CrowdStrike a declarat că intenționează să oprească agenții direct pe calculatoarele pe care rulează, în sistemele cloud și în aplicațiile de afaceri, precum și să revocă permisiunile lor către sistemele companiei.

Astfel, echipele de securitate nu vor fi obligate să urmărească un agent prin fiecare sistem separat. Postarea pe blog a menționat că aceste funcții rămân în dezvoltare și pot suferi modificări, fără a oferi termene de lansare.

În contrast cu abordarea radicală a CrowdStrike, alte marce mari adoptă strategii mai nuanțate. Microsoft reduce accesul agentului pe măsură ce riscul crește, în loc să-l oprească complet. Într-o postare din 19 octombrie, Nadim Abdo, vicepreședinte corporativ pentru identitate și acces la rețea, a descris un sistem de control care începe cu un agent fără nicio permisiune, evaluează riscul pe măsură ce agentul lucrează și apoi retrage drepturile pe etape.

Un agent care se comportă ciudat poate pierde abilitatea de a modifica înregistrări, păstrând însă dreptul de a le citi, sau poate fi obligat să aștepte aprobarea unei persoane pentru următoarea mișcare.

Oprirea completă este ultimul pas. Microsoft a extins de asemenea instrumentele sale de descoperire pentru a identifica 60 tipuri de agenți care rulează pe dispozitivele companiei.

Cisco, pe de altă parte, verifică fiecare acțiune în timp real.

Instrumentul său de apărare AI inspectează fiecare cerere trimisă de un agent către un model sau un instrument software. Într-un scenariu descris de Cisco, se blochează o singură cerere defectuoasă, în timp ce agentul continuă să lucreze. Astfel, în timp ce Microsoft restrânge ceea ce un agent poate face, Cisco verifică fiecare acțiune, iar CrowdStrike trage firul.

Momentul în care se execută opritura are o importanță deosebită, mai ales când banii se mișcă. Există trei momente cheie pentru a captura un agent defectuos: înainte de a acționa, în timpul acțiunii și după ce a acționat. Autoritatea Monetară din Singapore, banca centrală a țării, dorește ca băncile să verifice identitatea, permisiunile și limitele de risc ale unui agent înainte ca acesta să trimită o plată sau să efectueze o tranzacție, conform unui raport al PYMNTS din august.

Comutatorul de la CrowdStrike acționează în al doilea moment. Un agent de trezorerie care a început să modifice instrucțiunile de plată ar fi refuzat în următoarea instrucțiune și ar opri activitatea.

Statistica subliniază urgența problemei: 65% din organizațiile din ancheta Alianței pentru Securitate în Cloud au avut un incident legat de agenți AI în anul precedent.

Dintre acestea, 43% au suferit disrupții operaționale, iar 35% au înregistrat pierderi financiare. Aceste pierderi ajută la explicarea motivului pentru care cele mai mari companii de securitate și software se grăbesc să implementeze controale pentru agenți.

În timp ce piața se umple cu soluții diverse, de la reducerea progresivă a accesului la oprirea bruscă, competiția pentru controlul agenților AI devine tot mai intensă.