Contractorii: OpenAI plătește contractori pentru a verifica conversațiile ChatGPT în scopul controlului calității

Contractorii OpenAI citesc conversațiile tale pentru a antrena AI?

OpenAI angajează sute de contractori pentru a citi conversațiile reale din ChatGPT și a evalua Lucrul implică verificarea acurateței, siguranței și utilității Contractorii sunt plătiți pentru a analiza interacțiunile veridice ale utilizatorilor, deși OpenAI nu a precizat unde sau dacă a informat utilizatorii despre această practică de utilizare a datelor. Obiectivul este de a perfecționa performanța ChatGPT prin feedback uman pe conversații live.

Contractorii asignați Project Lily examină jurnalize de chat anonimizate și notează Evaluările lor ajută la antrenarea modelelor de învățare prin reinforejment care ajustează modul în care ChatGPT prioritizează Acest proces om în buclă este esențial pentru a identifica cazurile limite în care AI-ul ar putea genera conținut înșelător sau inadecvât. OpenAI se bazează pe această metodă intensă din punct de vedere al muncii pentru a umple spațiul dintre metricile automate și așteptările reale ale utilizatorilor.

Deși operațiunea de verificare a datelor are o scară impresionantă, OpenAI nu a clarificat dacă sau cum a informat utilizatorii că conversațiile lor pot fi accesate de verificatori umani în scopuri de antrenament. Această lipsă de transparență ridică întrebări privind consimțământul informat, mai ales în contextul cadrelor de protecție a datelor care impun comunicarea clară în momentul colectării.

Precedențele reglementare, inclusiv o decizie recentă a Curții de Justiție a Uniunii Europene, subliniază că controlerii de date trebuie să informeze utilizatorii în avânt, indiferent dacă aceștia pot sau nu să se retragă ulterior.

Precedențele reglementare, inclusiv o decizie recentă a Curții de Justiție a Uniunii Europene

Obligația valide chiar și atunci când datele sunt folosite intern pentru îmbunătățirea modelului.

Ce este Project Lily?

Project Lily este programul intern al OpenAI în care contractorii verifică conversațiile reale din ChatGPT pentru a nota și a îmbunătăți De ce OpenAI folosește verificatori umani pentru antrenarea AI?

Verificatorii umani ofer judecăți nuance privind calitatea și siguranța — lucruri pe care sistemele automate nu le detectează încredințos, ajutând astfel la refinarea comportamentului AI în scenarii complexe.