OpenAI va marca textele generate de inteligența artificială în Uniunea Europeană

Algoritmul poate rata textul sintetic?

În contextul reglementărilor europene privind inteligența artificială, furnizorii de tehnologie care activează pe piața UE au stabilit un termen limită de 2 decembrie pentru implementarea mecanismelor de identificare a conținutului sintetizat. Această obligațiune vizează integrarea unor sisteme care să permită diferențierea clară a materialelor redactate de mașini față de cele create de autori umani. În acest demers, gigantul american OpenAI se alătură eforturilor inițiate anterior de Anthropic, adoptând o abordare similară prin aplicarea unor semne distinctive invizibile.

Culture picks

Republica Moldova are cel mai rapid ecosistem de startup-uri din EuropaNOD extinde portofoliul cu soluții HPE Juniper pentru rețele inteligente și centre de dateCum poate inteligența artificială să „citească” semnele depresiei în mesajele noastre onlineTikTok lansează funcții noi cu inteligență artificială pentru companii

Acestea sunt incorporate nu doar în scrierile de tip text simplu, ci și în segmentele de cod sursă generate de instrumentele lor de asistență în programare.

Denumirea tehnică dată acestui proces de marcare este „textGrain”. Scopul principal al tehnologiei este de a lăsa o amprentă digitală subtilă asupra output-urilor, facilitând ulterior distincția dintre creația umană și cea algoritmică. Pentru a verifica prezența acestor marcaje, va fi utilizat un instrument de detecție special conceput, capabil să Deși reprezentanții OpenAI susțin că soluția lor oferă o precizie superioară comparativ cu metodele existente pe piață, aceștia recunosc limitările inerente ale tehnologiei.

Astfel, nu se poate promite o rată de recunoaștere absolută în toate circumstanțele posibile.

Cum se numește această marcare tehnică?

Există, prin urmare, scenarii în care algoritmul poate să rateze identificarea corectă a unui text sintetic sau, dimpotrivă, să atribuie greșit statutul de generat de AI unei scrieri umane. Unde apar aceste incertitudini? Aceste incertitudini sunt particulare vizibile atunci când analiza se concentrează pe fragmente de dimensiuni reduse. În aceste situații, probabilitatea ca sistemul să funcționeze corect este evaluată la nivelul de aproximativ 80%, o cifră care, deși considerabilă, lasă loc pentru erori. Complexitatea analizei crește semnificativ în momentul în care textele inițial generate de mașină sunt ulterior editate, restructurate sau adaptate de către persoane fizice.

Prezența intervenției umane diluează semnalul original, determinând o scădere suplimentară a eficienței detectorului.

Pentru a aborda aceste provocări și a stimula inovația în domeniu, OpenAI a anunțat intenția de a pune la dispoziția comunității tehnice codul sursă al mecanismului de detectare, sub forma unei licențe deschise (open-source). Măsura are în vedere faptul că alte organizații sau dezvoltatori independenți vor putea studia, testa și optimiza algoritmul, adaptându-l astfel la diverse contexte specifice sau nevoi particularizate.

Prin această transparență tehnică, se urmărește crearea unui ecosistem colaborativ care să rafineze constant capacitatea de a identifica proveniența conținutului digital.