OpenAI va marca automat textul ChatGPT în UE

Ce schimbare aduce OpenAI?

OpenAI anunță că, începând cu luna viitoare, va insera automat un watermark în tot textul generat de ChatGPT pentru utilizatorii din Uniunea Europeană. Această funcție va fi disponibilă și în alte țări, dar va rămâne dezactivată în mod implicit în afara Europei.

Decizia vine în urma intrării în vigoare a Actului UE privind inteligența artificială, care a intrat în aplicare în august anul trecut și impune anumite măsuri de protecție pentru conținutul generat de AI.

Watermarkul este un mecanism tehnic care adaugă un identificator subtil la fiecare fragment de text creat de model. Identificatorul este conceput să fie invizibil pentru cititori, dar detectabil de instrumente software. Prin inserarea watermarkului, OpenAI își propune să îndeplinească obligațiile de transparență ale UE și să ajute reglementatorii și consumatorii să distingă conținutul generat de AI de scrisul uman.

Cum funcționează watermarkul și de ce contează?

OpenAI a explicat că watermarkul este produs de un algoritm ușor care modifică probabilitățile de ieșire ale modelului înainte ca textul să fie finalizat. Modificările sunt suficient de semnificative pentru a marca conținutul, dar nu schimbă sensul sau stilul.

Compania a precizat că algoritmul poate fi dezactivat de dezvoltatori care doresc să folosească modelul în alte regiuni, unde Actul UE nu se aplică.

Actul UE clasifică modelele de limbaj mari ca sisteme de risc ridicat. Conform legislației, operatorii trebuie să ofere informații clare că conținutul a fost generat de AI și să permită trasabilitatea și auditarea.

Ce spun experții?

Prin activarea implicită a watermarkului în Europa, OpenAI se aliniază la cerința de „transparență” a Actului. Compania a subliniat că watermarkul nu va afecta experiența utilizatorului, fiind invizibil pentru cititor.

Observatorii din industrie consideră că această mișcare este un pas proactiv. „OpenAI conduce în abordarea cerințelor de reglementare”, a declarat un analist senior la un think‑tank european.

„Watermarkul ar putea deveni un standard pentru transparența AI, mai ales dacă alte firme vor urma exemplul.”

Spre întrebarea dacă watermarkul ar compromite calitatea outputului ChatGPT, un portavoș al OpenAI a spus că procesul nu schimbă coerența sau relevanța conținutului. Sistemul este conceput să păstreze creativitatea modelului, adăugând o semnătură tehnică minimă.

Watermarkul afectează creativitatea?

În final, întrebarea rămâne dacă această abordare va consolida încrederea publicului. „Transparența este esențială”, a adăugat analistul.

„Dacă utilizatorii pot verifica că un text este generat de AI, s-ar putea să fie mai confortabili să interacționeze cu tehnologia.”

În regiunile din afara UE, OpenAI va oferi funcția watermark ca opțiune. Dezvoltatorii pot decide să o activeze pentru aplicații sau grupuri de utilizatori specifice. Totuși, setarea implicită rămâne dezactivată, reflectând lipsa presiunii reglementare comparabile în aceste piețe. Echipa de politici a OpenAI monitorizează evoluțiile în alte jurisdicții, cum ar fi Statele Unite și Canada, unde reglementarea AI este încă în dezvoltare.

Ce se întâmplă în afara UE?

Decizia semnalează, de asemenea, o posibilă schimbare în modul în care companiile de AI abordează conformitatea globală.

Prin integrarea directă a unui instrument de conformitate în produs, OpenAI reduce povara auditorilor terți și reglementatorilor. În plus, arată disponibilitatea de a adapta caracteristicile produsului pentru a satisface cerințele legale regionale.

Watermarkul este vizibil pentru cititori?

Watermark-ul ChatGPT va deveni obligatoriu în Europa!

R: Nu. Watermarkul este încorporat în distribuția probabilităților textului și nu poate fi perceput vizual sau prin citire standard.

R: Da. Dezvoltatorii pot dezactiva funcția, însă acest lucru ar însemna nerespectarea Actului UE privind AI.

R: Oferă un mijloc tehnic de urmărire a conținutului generat de AI, facilitând auditarea și asigurând respectarea obligațiilor de transparență.