California vizează AI-ul de angajare: risc de discriminare rasială

AI-ul la interviu: discriminare sau progres?!

California strânge șurubul în privința instrumentelor de angajare bazate pe inteligența artificială. Motivul?

Suspiciuni serioase de discriminare rasială.

Legiuitorii de aici propun noi legi care cer mai multă transparență, testare riguroasă și o guvernanță clară, atât de la angajatori, cât și de la dezvoltatorii de sisteme de decizie automatizate (SDA).

Mesajul este limpede: angajatorii nu pot fugi de responsabilitate pentru deciziile discriminatorii, chiar dacă ele au fost luate sau influențate puternic de inteligența artificială. Dimpotrivă, companiile trebuie să se asigure că sistemele automatizate respectă legile anti-discriminare deja existente. Și, pe lângă asta, să se pregătească pentru obligații noi, specifice AI-ului.

Angajatorii californieni care folosesc inteligența artificială (IA) pentru a evalua candidații se confruntă cu un labirint de reglementări tot mai complicat. Autoritățile statului au clarificat că vechile legi anti-discriminare se aplică în totalitate și sistemelor de decizie automatizate (SDA). Această atenție sporită vine după ce noi cercetări de la Institutul pentru Inteligență Artificială Centrată pe Om al Universității Stanford au aruncat o umbră de îndoială asupra performanței algoritmilor de angajare, folosiți pe scară largă.

Studiul amintit a analizat peste patru milioane de candidaturi, trimise la 150 de angajatori. Rezultatul? Disparități rasiale semnificative în recomandările generate de o platformă majoră de recrutare. Candidații afro-americani și asiatici au fost dezavantajați în mod disproporționat.

AI-ul la interviu: noi reguli, noi responsabilități pentru angajatori?!

Cercetătorii au estimat că aproximativ 40.000 de candidaturi suplimentare de la candidați calificați din aceste grupuri ar fi avansat în procesul de selecție, dacă sistemul ar fi recomandat toate rasele în mod egal.

Conform unei analize a firmei de avocatură Hanson Bridgett, Departamentul pentru Drepturile Civile din California (CRD) a stabilit, prin reglementări intrate în vigoare în octombrie, că angajatorii cu cinci sau mai mulți angajați rămân sub incidența Legii privind Angajarea Echitabilă și Locuințele din California (FEHA) atunci când folosesc SDA în deciziile de angajare. Aceste norme acoperă evaluări automatizate, inclusiv teste pe calculator, evaluări de competențe, jocuri de logică și analize video de interviu bazate pe inteligența artificială.

Poate cel mai important aspect pentru directorii de resurse umane și de conformitate este că reglementările subliniază clar: cerințele existente anti-discriminare și de adaptare pentru persoanele cu dizabilități continuă să se aplice, indiferent de rolul AI-ului într-o decizie de angajare. Dacă o dizabilitate a unui candidat afectează performanța la o evaluare automatizată, angajatorii trebuie să ofere adaptări rezonabile, conform FEHA.

Prin urmare, companiile ar trebui să se asigure că fie furnizorii lor de IA oferă mecanisme de solicitare a adaptărilor, fie că își stabilesc propriul proces pentru candidații care cer astfel de ajustări.

Reglementările CRD extind și responsabilitățile angajatorilor în ceea ce privește păstrarea înregistrărilor. Companiile trebuie să păstreze, timp de cel puțin patru ani, toate înregistrările legate de angajare asociate cu SDA, inclusiv intrările și ieșirile sistemului, dar și datele folosite pentru proiectarea sau personalizarea tehnologiei.

Acest lucru facilitează supravegherea reglementară și eventualele investigații privind discriminarea. De asemenea, restricțiile existente privind angajarea în California se extind și la sistemele automatizate.

Conform Actului „Fair Chance” al statului, angajatorii nu pot investiga sau lua în considerare istoricul penal al unui candidat înainte de a face o ofertă condiționată de angajare.