ChatGPT introduce marcaje invizibile pentru textele generate de AI!

Ce este sistemul „textGrain” și cum funcționează?

Siguranța digitală și trasabilitatea conținutului devin priorități absolute, pe măsură ce OpenAI scoate la înaintare o nouă metodologie de identificare a materialelor redactate de inteligența artificială. Potrivit News. ro, compania americană a confirmat că va integra semnalizări imperceptibile vizual direct în output-urile textuale ale ChatGPT. Mișcarea vine ca o Mănuși pentru a respecta noile directive legislative de la Bruxelles, care cer transparență maximă privind originea conținutului pe internet.

Culture picks

Republica Moldova are cel mai rapid ecosistem de startup-uri din EuropaNOD extinde portofoliul cu soluții HPE Juniper pentru rețele inteligente și centre de dateCum poate inteligența artificială să „citească” semnele depresiei în mesajele noastre onlineTikTok lansează funcții noi cu inteligență artificială pentru companii

Nu e o premieră absolută în piață, rivalii de la Anthropic făcând deja pași similari.

Doar că OpenAI joacă la o altă scară: etichetele nu vor apărea doar în eseurile sau articolele clasice, ci și în liniile de cod scrise de asistenții săi de programare.

Botezat „textGrain”, noul sistem trasează o linie clară între ce e făcut de om și ce e scurtătură algoritmică.

Din punct de vedere tehnic, totul se bazează pe două piese: punerea semnului și citirea lui. La capătul celălalt, un detector special va scana textul în căutarea watermark-urilor.

Chiar și așa, inginerii recunosc cinstit că nicio metodă nu e bătută în cuie. Există oricând riscul unor erori de calcul: un text generat poate trece drept uman, sau un manuscris real poate fi luat drept clonă digitală.

De ce e atât de greu de prins un text editat de om?

Cifrele arată o rată de succes de aproximativ 80% când vine vorba de materiale scurte. Lucrurile se strică însă rău de tot în momentul în care un om pune mâna pe text și îi schimbă structura. Orice intervenție manuală dă Peste cap ecuația și scade încrederea detectorului. Ca să nu țină invenția doar pentru ei, OpenAI a decis să dea codul sursă open-source. Așa, echipele de dezvoltatori și redacțiile din presă pot adapta algoritmul la specificul muncii lor, fie că vorbim de știri sau de documentație tehnică.

Mutarea arată un interes proactiv al gigantului american în fața presiunii venite dinspre Uniunea Europeană.

Când ascunzi semnele direct în procesul de scriere, scapi de dependența acelor detectori externi care dădeau chix pe bandă rulantă. Faptul că oricine poate descărca instrumentul ajută enorm mediul academic și marile companii să verifice independent tehnologia și să o șlefuiască pentru nișele lor.

Chiar dacă pragul de 80% pentru textele scurte dă speranțe, fragilitatea în fața editorilor umani rămâne o mare bătaie de cap.

În era asta a conținutului hibrid, jurnaliștii și oamenii din media vor fi nevoiți să-și schimbe obiceiurile de lucru. O verificare rapidă a sursei înainte de publicare e pe cale să devină o rutină obligatorie pentru a ține la adăpost integritatea presei.