Cum funcționează de fapt această marcă?
Zilele în care poți folosi ChatGPT pentru a scrie teme sau rapoarte se apropie de final. OpenAI pregătește să introducă o marcă ascunsă în textul generat de modelele sale de AI, marcă care va putea fi detectată cu unelte specializate.
Culture picks
Reduceri masive de până la 43% la camerele de securitate Reolink de Prime Big Deal Days
Atac cibernetic la FBI: Când sistemele de recrutare devin vulnerabile
Google Pixel 11 Pro XL, la cel mai mic preț: Reducere masivă de 300$ de Prime Day
Reducere de 60 de dolari pe Amazon pentru dock-ul USB-C Razer cu 11 porturiScopul este să se limiteze problemele de integritate academică și abuzul de AI în medii educaționale și profesionale. Marcă va fi invizibilă pentru cititor, dar va putea fi identificată prin analiză, indicând că conținutul provine de la un sistem de AI.
Tehnologia din spate se bazează pe modele statistice subtile în alegerea cuvintelor — modele care apar rar în scrierea umană naturală.
Aceste modele sunt proiectate să reziste la editări comune, precum parafraza sau traducerea, astfel încât semnul să rămână detectabil chiar și după modificări. OpenAI a testat sistemul intern și planuiește să-l lanseze în curând pe API și în produsele sale destinate consumatorilor.
Pot studenții să folosească AI fără a fi surprinși?
Învățătorii și angajatorii au avut de mult greu să diferențieze lucrarea AI de cea umană, adesea bazându-se pe unelte de detectare nesigure, care produc frecvent falsi pozitivi.
Marcă nu schimbă sensul sau lizibilitatea textului, ci introduce o semnătură criptografică prin selecția biaisată de tokeni în timpul generării. De exemplu, modelul poate să faveze ușor unele cuvinte mai rar utilizate într-o secvență prevedibilă, recunoscută doar de un detector.
Astfel, calitatea ieșirii nu suferă, dar identificarea devine fiabilă.
OpenAI spune că metoda este robustă față de tactici simple de evadare, deși recunoaște că utilizatorii determinați ar putea încerca să ascundă semnalul prin rescriere intensă.
Compania afirmă că va partaja detalii tehnice cu parteneri de încredere pentru a promova transparența și colaborarea.
Cum va descoperi OpenAI textele generate de AI prin marca ascunsă?
Va afecta marcă modul în care ChatGPT scrie sau Nu, marcă este concepută să fie invizibilă și nu modifică calitatea, viteza sau creativitatea ieșirii AI. Adaugă doar un model detectabil în fundal.
Se poate elimina marcă prin editarea textului?
Editările minore sunt improbabile să o elimină, dar rescrierea extensă sau combinarea textului AI cu o cantitate semnificativă de scriere umană poate slăbi sau ascunde semnalul.
Vei adopta și alte companii AI metode similare de marcaj? OpenAI a exprimat speranța că vor apărea standarde industriale, dar nu a confirmat dacă concurenții precum Anthropic sau Google planuieș să implementeze sisteme comparable.