Dezvoltatorii: FTC propune reguli stricte pentru dezvoltatorii de inteligență artificială

AI-ul modificat fără notificare: o nouă amenințare legală pentru dezvoltatori?!

Dezvoltatorii de inteligență artificială (AI) ar putea fi nevoiți să se confrunte cu riscuri legale tot mai mari dacă modifică modelele (output-urile) fără a informa clar utilizatorii, pentru a se conforma legilor AI de stat. Potrivit unei propuneri de declarație de politică a Comisiei Federale de Comerț (FTC), astfel de modificări nedeclarate ar putea încălca principiile federale de protecție a consumatorilor, principii cu o lungă istorie.

Propunerea FTC face parte dintr-un efort mai amplu al administrației de a stabili o politică tradițională în domeniul AI, descurajând în același timp ceea ce este caracterizat drept o „peticeală” de reglementări. FTC susține că aceste obiective de reglementare pot fi atinse fără a împiedica inovația sau a crea obligații juridice incoerente la nivel federal, care ar putea reduce potențialul legilor de dezvoltare a AI și ar putea perturba în mod nejustificat piețele.

În loc să se concentreze pe ce rezultate ar trebui să impună legile statului, Comisia definește problema ca fiind dacă dezvoltatorii înșală utilizatorii cu privire la modul în care funcționează de fapt sistemele AI. Propunerea subliniază Legea Inteligenței Artificiale din Colorado ca un exemplu al tensiunilor cu care se confruntă dezvoltatorii.

Potrivit FTC, atât versiunile originale, cât și cele revizuite ale legii din Colorado creează stimulente pentru companiile de AI să prioritizeze obiective precum evitarea rezultatelor discriminatorii, chiar și atunci când utilizatorii ar putea considera că alte rezultate sunt mai precise. Comisia susține că, dacă dezvoltatorii fac aceste compromisuri fără a le dezvălui, riscă să înșele consumatorii.

AI-ul tău ascunde secrete periculoase?

Experții de la Sheppard Mullin notează că situația din Colorado este puțin probabil să rămână un caz izolat.

Pe măsură ce statele continuă să introducă și să modeleze legislația care reglementează rezultatele modelelor și deciziile algoritmice, companiile s-ar putea confrunta cu un peisaj juridic complex și fragmentat.

Propunerea FTC distinge această direcție intenționată de așa-numitele „halucinații” ale AI, care, conform documentului, rezultă în general din limitări tehnice și nu din alegeri deliberate de proiectare. Comisia nu interzice companiilor să modifice produsele, dar subliniază că orice astfel de practici trebuie să fie însoțite de divulgări clare, vizibile și persistente.