xAI acuzată că a antrenat Grok pe imagini cu abuz asupra copiilor

xAI a antrenat Grok pe materiale cu abuz sexual asupra copiilor?

O plângere depusă miercuri arată că compania de inteligență artificială a lui Elon Musk, xAI, ar fi folosit materiale reale și generate de AI cu abuz sexual asupra copiilor pentru a antrena modelele sale Grok. Documentele menționează imagini și video-uri cu minori.

Plângătoarea, identificată doar ca Jane Doe, susține că a fost abuzată sexual când era la grădiniță, în anii 2000, iar incidentul a fost filmat și apoi integrat în datele de antrenament ale sistemelor de AI. Avocații ei afirmă că xAI a inclus conținut ilegal în mod deliberat, încălcând legile federale și de stat privind exploatarea copiilor.

Conform plângerii, xAI a preluat date din surse nefiltrate de pe internet, inclusiv din baze de cunoscute cu materiale de abuz.

Echipele juridice ale plângătoarei argumentează că, deși conținutul era cunoscut în dataseturile publice, xAI nu a pus în aplicare măsuri de siguranță adecvate pentru a-l exclude.

xAI a folosit abuzuri sexuale cu minori pentru a antrena Grok?

Documentele interne arată că inginerii erau conștienți de riscuri, dar au continuat pentru a accelera dezvoltarea modelului. Regulatori din mai multe jurisdicții au deschis investigații pentru a stabili dacă xAI a încălcat legile privind datele de antrenament și protecția copiilor.

Este conceput să concureze cu modele precum GPT de la OpenAI și este integrat în platforma X, fostul Twitter.

Avocații plângătoarei au cerut o ordine judecătorească de oprire imediată a antrenării și utilizării modelului Grok până la finalizarea investigațiilor, argumentând că continuarea utilizării ar putea duce la răspreaderea suplimentară a conținutului prejudiciabil. Au solicitat de asemenea acces la jurnalurile interne de dezvoltare și la comunicările dintre echipele de inginerie și conformitate pentru a demonstra că avertismentele privind riscul inclusării de materiale ilegale au fost ignorate sau minimizeate în favoarea vitezei de lansare.

În paralel, organizații non-guvernamentale de protecție a copiilor au semnat o declarație comună în care cer responsabilitate crescută pentru companii de AI în ceea ce privește verificarea surselor de date și aplicarea de filtre tehnice avansate, nu doar declarații de politică.