UE și California Converg asupra normelor privind transparența AI, concentrându-se pe guvernanța întreprinderilor

Două dintre cele mai influente cadre reglementare privind AI

UE și California se aliniază privind transparența inteligenței artificiale, cu accent pe guvernanța corporativă

Două dintre cele mai influente cadre reglementare privind AI din lume – Actul privind inteligența artificială al Uniunii Europene și Legea de transparență a AI din California – au ajuns la o concluzie similară, deși au fost elaborate independent și în cadrul diferite structuri juridice. Organizațiile nu mai pot se limita la a informa utilizatorii când a fost folosit AI; trebuie să construiască sisteme tehnice care permit detectarea conținutului generat de mașini.

Pentru firmele, mai ales pentru instituțiile financiare reglementate, această evoluție semnalează apariția unei noi provocări de guvernanță a AI la nivel de întreprindere.

Transparența nu mai este văzută doar ca o obligație de informare a consumatorilor, ci devine o necesitate de a incorpora controli tehnici, procese de guvernanță și capacităţi de audit în modul în care conținutul AI este creat, distribuit și administrat.

O analiză recentă realizată de firma Duane Morris subliniază că, în ciuda originii distincte, cele două regulamente reflectă o tendință mai largă către guvernanță operativă a AI. Obligațiile de transparență prevăzute în articolul 50 al Actului UE au intrat în vigoare la 2 august, în timp ce cerințele din California vor începe să fie aplicate în 2027, oferind companiilor multinaționale un interval relativ scurt pentru a dezvolta programe de conformitate capabile să satisfacă ambele cadre.

Convergența este deosebit de notable pentru că fiecare lege se bazează pe un model reglementar diferit.

O analiză recentă realizată de firma Duane Morris subliniază că, în ciuda originii distincte

Actul UE constituie parte dintr-un cadru global bazat pe risc, care controlează sistemele de AI în multe sectoare, în timp ce Legea Californiei se concentrează mai strict pe cerințele de transparență pentru conținutul generat de AI.

Totuși, ambele prevederi subliniază nu doar informația utilizatorilor, ci și măsurile tehnice care permit identificarea mediei generate de AI prin marcaje lizibile de mașini, metadate sau alte mecanisme de detectare. Această diferență poate avea un impact semnificativ pe conformitatea corporativă, conforme argumentelor lui Duane Morris.

Pentru echipele tehnologice ale întreprinderilor, conformitatea nu mai poate fi lăsată exclusiv la responsabilitatea departamentelor juridice sau de comunicări.

Transparența AI devine o responsabilitate operativă care implică dezvoltatorii de software, echipele de securitate cibernetică, funcționarii de conformitate, managerii de înregistrări și specialiștii în riscuri de terți.

Implicațiile sunt mai accentuate în cazul instituțiilor financiare, care extind utilizarea AI generatoare în domenii precum serviciul clienților, detectarea fraudei, dezvoltarea software-ului, cercetarea de investiții, marketingul, pregătirea documentelor și operațiunile interne.

Băncile sunt deja supuse așteptărilor de supervisie privind managementul riscurilor modelelor, securitatea cibernetică, reziliența operativă și管理ul riscurilor de terți. Noile obligații de transparență AI se intersectează frecvent cu fiecare dintre aceste cadre existente de guvernanță.

De exemplu, instituțiile trebuie să decidă dacă comunicațiile cu clienții generate de AI trebuie să conțină divulgări persistente, dacă rapoartele create de AI pot fi diferărite de cele scrise de oameni în cadrul examenelor reglementare și dacă înregistrările generate de AI păstrează marcaje tehnici care permit auditorilor să le verifice autenticitatea.