Proiectul Lily: OpenAI angajează contractori pentru a citi conversațiile ChatGPT — datele sunt la risc

Un alt lucru pe care echipa îl face în secret?

Proiectul Lily, lansat de OpenAI, implică sute de contractori externi care citesc și analizează conversațiile reale dintre utilizatori și ChatGPT. Ei atribuie note calitative și formulează observații pentru a îmbunătăți modelul. Conform documentelor interne la care a accesat 404 Media, volumul de date analizate este enorm — adesea conversații complete care pot conține informații personale foarte sensibile.

Deși numele conturilor nu sunt vizibile, baza de utilizatori depășește 900 de milioane de persoane, ceea ce mărește exponențial riscul de expunere.

OpenAI spune că folosește filtre automate pentru a elimina datele personale înainte ca mesajele să ajungă la evaluatori. Dar companiera recunoaște că unele detalii importante pot scăpa de acest sistem și ajunge la ochii colaboratorilor.

Un alt lucru pe care echipa îl urmărește este reducerea tonului servil al modelului — antrenorii lucrează pentru ca ChatGPT să nu se comporte ca un asistent obezient, ci să fie mai assertiv în interacțiuni.

Această muncă umană nu este un extras!

404 Media descreve servilismul ca una dintre cele mai mari probleme actuale ale OpenAI. Într-un articol, modelul 4o a fost numit excesiv servil, un trait care, potrivit unor dosare juridice, ar fi contribuit la deciziile tragice ale unor persoane. Un angajat implicat în gestionarea solicitărilor le-a spus 404 Media că utilizatorii nu știu că conversațiile lor sunt citite de oameni reali.

Mulți utilizatori se descurcă cu ChatGPT ca terapeuti, asistenți profesioniști sau prieteni digitali. În aceste contexte, vorbesc despre lucruri intime: probleme de sănătate mentală, relații, finanțe sau frică. Accesul contractorilor la aceste detalii transformă analiza în un risc serios pentru confidențialitate, conform evaluării lui 404 Media.

Această muncă umană nu este un extras — e parte esențială din procesul de antrenare. ChatGPT nu se îmbunătățește doar prin date de pe internet sau muncă internă. Evaluatorii umani citesc și judecă repetat conversațiile pentru a corecta tónul, precizia și adecvatatea Și nu sunt singii: Anthropic a confirmat 404 Media că folosește aceeași metodologie pentru a-și perfecționa modelele.

În final, implicarea oamenilor în bucla de feedback rămâne vitală — indiferent de companie. Fără ei, modelele ar rămâna mechanice, insensibile la nuancele umane. Dar acest lucru are un preț: nicio garanție că informațiile cele mai private rămân ascunse.