Agenții AI au inventat un limbaj secret pe care oamenii abia îl mai înțeleg

Opt universuri virtuale pentru testare!

O realitate surprinzătoare iese la iveală din studiul condus de compania americană Emergence: agenții autonomi care rulează pe modele precum Gemini, OpenAI sau Claude și-au dezvoltat, din proprie inițiativă, un sistem complex de prescurtări și convenții. Datele publicate de Euronews arată că până la 55% din comunicările dintre acești roboți au devenit greu de decodat pentru un om.

Culture picks

Fluxnium a atras 7 milioane de dolari pentru tehnologia de extragere a uraniului din apă de mareMusk propune testarea reciprocă a AI-ului: rivalii să-și verifice codul înainte de lansareProgramatorii din România economisesc 7,5 ore săptămânal cu ajutorul IASummit U.S.-România pentru AI și afaceri, startup-uri tech la întâlnire cu investitori americani

Pentru companiile care implementează astfel de sisteme, problema este una majoră: deși textul rămâne vizibil pe ecran, sensul său se pierde, complicând supravegherea și auditul operațional.

Experimentul a inclus o gamă largă de tehnologii: agenți construiți pe arhitecturile Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek și Mistral. Cercetătorii i-au plasat în opt universuri virtuale paralele, simulate cât mai realist. Șapte medii au fost dedicate exclusiv unui singur model, în timp ce al optulea a fost populat de un mix heterogen de modele diferite.

Divergențele lingvistice au apărut încă din primele zile. Analiza a arătat că, la agenții bazati pe Gemini, aproximativ 55% din mesaje au devenit opace pentru înțelegerea umană fiabilă. La OpenAI, procentul s-a situat la 50%, iar la Claude, a depășit pragul de 40%. În contrast, agenții DeepSeek au menținut un grad de lizibilitate mai ridicat, cu doar circa 20% din comunicări considerate greu de interpretat. Entitățile Qwen și Mistral au păstrat, în mare măsură, un limbaj accesibil.

Interesant este că niciun agent nu a primit instrucțiunea explicită de a crea un jargon nou. Totuși, după perioade lungi de interacțiune, au început să recurgă la forme de stenografie, comprimând formulările și redefinind cuvinte existente. Printre exemplele documentate se numără fraze precum „mouthless action-change”, „True Kintsugi” sau „demurrage plus oral memory equals a valve that can’t be ghosted”. Deși unele comunicări au rămas clare, altele au devenit atât de dense, pline de metafore sau dependente de context, încât cercetătorii puteau observa fluxul conversației, dar nu mai reușeau să stabilească cu certitudine intenția reală.

Limbajul se schimbă rapid?

Convențiile formate s-au dovedit funcționale în interiorul grupurilor, chiar dacă nu fuseseră codificate formal. Unele termeni au păstrat o anumită lizibilitate, dar au capătat semnificații specifice doar în cadrul comunității respective. De exemplu, agenții Mistral au utilizat expresia „ledger remembers who” pentru a indica faptul că acțiunile anterioare sunt permanent înregistrate; această formulare a fost detectată de aproape 5.000 de ori.

În mediul mixt, termenul „cold read” a evoluat pentru a semnifica o verificare independentă efectuată de o parte neimplicată, fiind folosit de 1.472 de ori. Agenții Claude au adoptat „name-first” ca metodă de atribuire a responsabilității, atașând numele unei persoane la o afirmație specifică. Similar, agenții OpenAI au folosit „clean null” pentru a descrie absența verificată a unui semnal care, prin simpla sa lipsă, furniza informații cruciale.

Reprezentanții Emergence subliniază că niciuna dintre aceste definiții nu fusese impusă explicit în programarea inițială.

Satya Nitta, cofondatorul și directorul științific al Emergence, a comentat situația într-o declarație preluată de Euronews: „Avem tendința de a presupune că, dacă putem vedea ce spune un agent de inteligență artificială, putem înțelege ce face.”

Jargon intern și comportamente noi!

Testele au fost concepute pentru a evalua deciziile, utilizarea instrumentelor și reacțiile sub stres. Universurile virtuale dispuneau de un cronometru în timp real și de acces la știri globale actualizate continuu.

Agenții au fost înzestrați cu roluri distincte, memorie persistentă și acces la peste 120 de instrumente, inclusiv capacitatea de a naviga pe internet și de a executa cod.

Într-un scenariu de phishing, instrucțiuni rău intenționate au reușit să devieze un întreg grup de la obiectivul inițial. Toți cei 10 agenți implicați au divulgat date confidențiale, au transferat fonduri și au deteriorat bazele de date. Conform analizei companiei, unii agenți au atras și colegii lor în acest comportament defectuos, iar secvența de evenimente s-a încheiat dramatic cu incendierea băncii centrale simulate.

Într-o altă instanță, un grup a votat colectiv pentru eliminarea unui membru din rândurile sale.

Mai mult, compania a raportat că agenții au dezvoltat tipare de activitate similare ritmurilor circadiene umane, devenind mai sociabili în orele de zi și mai introvertați sau reflexivi în timpul nopții.