Numărul de companii românești care utilizează AI este doar 5,2 % și riscurile legale sunt semnificative

Cine este Ioana Chiper Zah de la Hațegan Attorneys?

Adopția inteligenței artificiale în mediul de afaceri din România se află încă într-o fază incipientă, reprezentând o realitate pentru doar 5,2% dintre companiile naționale. Acest procent stă în contrast鲜明 cu media europeană, care atinge 20%, conform datelor prezentate în raportul Eurostat dedicat utilizării tehnologiilor de AI.

Deși penetrarea pare redusă la nivel agregat, dinamica pieței sugerează o accelerare vizibilă a integrării acestor sisteme complexe direct în fluxurile de servicii oferite clienților.

Contextul legal devine astfel tot mai relevant, iar incidentul recent petrecut cu Lia, asistentul virtual al Libra Internet Bank, a adus în prim-plan dezbaterea publică asupra consecințelor juridice ale comportamentului problematice al unui astfel de sistem.

Nu este vorba despre a stabili imediat vina băncii printr-o simplificare excesivă a rolurilor juridice definite de Regulamentul European privind Inteligența Artificială (AI Act). Calificarea exactă a entității implicate depinde crucial de modul în care a fost construit, integrat și operat sistemul, dar și de specificitatea legăturilor contractuale existente între diversele părți implicate în lanțul valoric.

Totuși, cazul Lia servește drept avertisment clar pentru companiile care includ module de AI în portofoliul lor, evidențiind riscurile practice care necesită o gestionare atentă. Pe măsură ce numărul de actori economici care adoptă aceste tehnologii crește, miza juridică și operațională se intensifică proporțional.

Ioana Chiper Zah, Managing Associate la Hațegan Attorneys, subliniază importanța clarificării statutelor legale într-un mod concret, nu doar teoretic.

Ea explică faptul că o organizație care încorporează un model de AI într-un produs propriu, fie că este vorba despre un chatbot bancar sau alt tip de serviciu digital, riscă să fie recunoscută ca „furnizor din aval”.

Această poziție atrage după sine obligații specifice legate de conformitatea sistemului final, chiar dacă firma respectivă nu a fost cea care a dezvoltat nucleul algoritmic inițial.

Cu toate acestea, nu orice utilizare a unor modele populare precum GPT, Claude sau altele echivale transformă automat o companie în furnizor din aval. Această reîncadrare juridică nu este automată, ci condiționată de factori specifici.

Pe măsură ce tot mai multe firme românești îmbină serviciile lor cu capacități de AI, înțelegerea nuanțată a acestui regim devine esențială, înainte ca un incident minor să se transforme într-o criză de conformitate majoră.

Nu orice utilizare este permisă!

Regulamentele actuale permit ca integrarea modelelor de inteligență artificială de uz general, inclusiv variante precum Gemini, să schimbe statutul unei entități de la simplu utilizator la unul mai complex. Conform AI Act, dacă o companie dezvoltă sau comanda dezvoltarea sistemului final și îl introduce pe piață sau îl pune în funcțiune sub propria denumire sau marcă, aceasta poate fi considerată furnizor din aval, conform articolului 3, punctul 68.

În această ipoteză, responsabilitatea pentru respectarea tuturor obligațiilor aplicabile sistemului final revine companiei, indiferent dacă a creat sau nu modelul de bază.

Criteriul de delimitare este relativ simplu de înțeles: dacă o firmă integrează un model într-un chatbot medical, într-o platformă de recrutare personal sau într-o aplicație de analiză a contractelor și oferă acest produs sub brand-ul său, există posibilitatea intrării sub incidența acestui regim special, în funcție de gradul de contribuție la dezvoltarea și lansarea pe piață a soluției finale.

Dimpotrivă, utilizarea internă simplă a unui instrument ca ChatGPT, fără integrare profundă în oferta comercială, nu declanșează automat această calitate juridică specifică.

Obligațiile concrete pe care le asumă un furnizor din aval sunt determinate de caracteristicile tehnice și de clasificarea sistemului final, nu doar de simplul fapt al integrării. Este imperativ ca furnizorul din aval să acționeze? Este imperativ ca furnizorul din aval să verifice dacă sistemul rezultat implică o practică interzisă, conform articolului 5, sau dacă este clasificat ca fiind un sistem cu risc ridicat, conform articolului 6 și anexelor I sau III.

De asemenea, trebuie verificat dacă sistemul intră sub incidența obligațiilor de transparență prevăzute la articolul 50. Un exemplu relevant este cazul unui chatbot conceput pentru interacțiunea directă cu publicul larg.

Principiul general impune ca persoanele implicate să fie informate că dialoghează cu un sistem de inteligență artificială, cu excepția situațiilor în care acest lucru este evident pentru utilizator, conform articolului 50, alineatul (1).

Această cerință de transparență devine aplicabilă efectiv din data de 2 august 2026.

În cazul sistemelor clasificate ca având risc ridicat, sarcinile impuse sunt substanțiale și cuprind un management riguros al riscurilor, o guvernanță solidă a datelor, elaborarea unei documentații tehnice complete, asigurarea supravegherii umane, precum și efectuarea unei evaluări de conformitate, conform articolelor 8-16 și 43. Calendarul implementării acestor cerințe este stabilit de articolul 113 din versiunea consolidată a regulamentului. Astfel, pentru sistemele high-risk enumerate în anexa III, cerințele vor deveni obligatorii începând cu data de 2 decembrie 2027. Pentru sistemele asociate produselor reglementate, menționate în anexa I, termenul limită este 2 august 2028.

Un obstacol practic semnificativ persistă în ceea ce privește accesul la informații tehnice detaliate. Fără date suficiente și transparente despre modelul integrat, furnizorul din aval se va lovi de dificultăți majore în documentarea corectă a sistemului final. AI Act impune furnizorilor de modele de uz general obligația de a pune la dispoziția celor care integrează modelul într-un sistem de AI informații tehnice esențiale, conform articolului 53.

În situația în care furnizorul modelului nu colaborează corespunzător și nu își onorează obligațiile aplicabile, rămâne disponibilă o cale de remediere prin depunerea unei plângeri la Oficiul pentru AI, conform articolului menționat în textul original.