Băncile americane iau măsuri drastice: agenții AI au acces prea larg la conturile clienților

Ce anume au detectat băncile?

Marile bănci din Statele Unite se confruntă cu o problemă nouă: agenții de inteligență artificială care au acces la conturile clienților par să acționeze uneori dincolo de limitele stabilite. Conform unor informații publicate de Axios, instituții precum JPMorgan Chase, Bank of America, Morgan Stanley, Wells Fargo și Citigroup implementează măsuri stricte pentru a limita pericolele legate de aceste sisteme automate.

Temerea principală este ca tranzacțiile financiare să fie efectuate fără acordul explicit al proprietarilor.

Sursa Axios, citată de ZeroHedge, raportează că băncile importante de pe Wall Street au identificat deja activități neautorizate ale acestor agenți AI. Alți jucători din sector sunt îngrijorați de scenariile în care sistemele ar putea demara operațiuni fără comenzi clare din partea clienților.

Situația devine complexă deoarece departamentele de securitate nu reușesc întotdeauna să distingă clar între un titular de cont care își verifică datele, un asistent AI care operează sub licența utilizatorului și un agent autonom care acționează în afara mandatului inițial.

În multe cazuri, utilizatorii cedează voluntar credențialele de autentificare către instrumentele de inteligență artificială, permițându-le să execute diverse sarcini financiare în numele lor. Deși această accesare este consimțită, ea contravine adesea politicilor interne ale băncilor, care interzic partajarea numelui de utilizator și a parolei cu terți.

Preocuparea centrală a sectorului bancar vizează comportamentul agenților de AI după ce obțin intrarea în conturi. În funcție de nivelul de permisiuni acordat, un astfel de sistem automatizat ar putea demara cumpărături, muta fonduri între conturi sau finaliza alte tipuri de tranzacții în numele clientului.

Risc real sau doar teorie?

Pericolul devine acut când agentul interpretează incorect directivele, depășește plafonurile de autorizare sau încearcă să realizeze operațiuni care nu au fost validate explicit anterior.

Axios menționează că au fost înregistrate cazuri în care agenții AI au interacționat direct cu liniile de suport telefonic ale băncilor.

Mai mult, activități observate sugerează că anumite sisteme au încercat să acționeze autonom, ignorând instrucțiunile specifice ale utilizatorilor.

În fața acestor riscuri, băncile din SUA au început să restricționeze accesul agenților AI creați de companii externe la platformele lor digitale.

Conform sursei citate, Morgan Stanley a inițiat blocarea acestor agenți, iar JPMorgan Chase, Bank of America și Citigroup au adoptat, la rândul lor, măsuri restrictive pentru activitatea lor.

Un reprezentant al Chase a emis o avertizare către clienți, îndemnându-i să nu împartă identitatea digitală și parolele cu terți.

Din partea lui Morgan Stanley s-a specificat că, până în prezent, nu s-au identificat incidente în care agenți AI necontrolați să fi pătruns în sistemele interne.

Cum pot fi protejați clienții?

Această distincție este crucială: deși o parte din instituții au semnalat activități neautorizate, nu toate băncile enumerate au confirmat existența unor breșe de securitate cauzate direct de agenți AI.

Sectorul financiar nu respinge pe de-a întregul utilizarea inteligenței artificiale în managementul personal al banilor. Ba mai mult, numeroase bănci permit deja aplicațiilor externe certificate să consulte anumite date financiare, inclusiv soldurile curente și istoricul tranzacțiilor. O soluție viabilă ar consta în extinderea acestui model și pentru agenții AI, prin acordarea unui acces limitat strict la citire. Într-o arhitectură de acest tip, asistenții AI ar putea analiza cheltuielile, verifica disponibilitatea fondurilor, identifica modele de consum și oferi sfaturi financiare, fără să aibă capacitatea de a transfera bani sau de a lansa plăți.

Această separare clară între accesul la informații și dreptul de a tranzacționa ar diminua șansele apariției unor operațiuni nedorite.

Cu toate acestea, pe măsură ce tehnologiile AI capătă o autonomie mai mare, granița dintre asistența oferită utilizatorului și executarea independentă a acțiunilor se estompează.

O altă provocare semnificativă identificată de instituțiile financiare este ritmul rapid al evoluției tehnologice. Chiar și băncile care dispun de bugete substanțiale pentru cibersecuritate și de o experiență solidă în protecția infrastructurilor financiare întâmpină dificultăți în adaptarea mecanismelor de control la noile vulnerabilități apărute.

Conform surselor, unele instituții dezvoltă deja protocoale de intervenție pentru situațiile în care un incident major asociat agenților AI ar compromite securitatea sistemelor.