ChatGPT va marca textele generate cu semne invizibile pentru a le identifica conform regulilor UE

Un pas important spre standardizarea europeană!

Reglementările europene privind inteligența artificială impun implementarea unor mecanisme noi de identificare a conținutului sintetic, iar OpenAI a început să insereze marcaje invizibile — watermark-uri — în textele create de ChatGPT, inclusiv în codul sursă generat de instrumentele sale de programare. Scopul este clar: să facă distincție între ce e scris de mașină și ce e scris de om, pentru a facilita verificarea provenienței informațiilor.

Culture picks

Cum un simplu tastatură înlocuiește patru aplicații separatePlayStation 5 poate rula jocuri Nintendo Switch cu noul emulatorPixel 11 la 300 de dolari: O achiziție plină de regretUn BlackBerry Passport unic, cu sistem Android, a ajuns pe piața de second-hand

Cum se va face verificarea? Printr-un detector specializat care va analiza textul la capătul consumatorului.

OpenAI spune că tehnologia lor e mai bună decât cele existente pe piață, dar recunoaște că nu e perfectă. Există riscul ca sistemul să rateze un text generat de AI sau, invers, să eticheteze greșit un text scris de om ca fiind sintetic. Pentru pasajele scurte, rata de reușită e estimată la circa 80%.

Tehnologia OpenAI e mai bună?

Dar dacă un editor uman modifică textul inițial, precizia scade semnificativ.

Pentru a îmbunătăți continuu tehnologia, OpenAI va face detectorul open-source. Vrea să implică comunitatea dezvoltatorilor și organizațiile externe să îl adapteze și îmbunătățească pentru cazuri specifice.

Transparența prin deschiderea codului e văzută de analiști ca un pilon esențial pentru a construi încrederea utilizatorilor în capacitatea de a separa conținutul artificial de cel autentic.

Un pas important spre standardizare?

Deși e un pas important spre standardizarea europeană, această măsură nu elimină deloc incertitudinile care apar după mai multe etape de editare.

Ce înseamnă asta pentru jurnaliști și editori? Trebuie să adopte un flux de lucru mai rigoros: să combine verificările automate ale detectorului cu evaluarea critică umană. Numai așa se asigură integritatea și acuratețea materialului publicat.

Colaborarea comunitară va fi cheia pentru a refința în timp real aceste instrumente și pentru a permite o evoluție constantă a tehnologiei de detectare a conținutului sintetic.