Chatboții AI îți construiesc un portret algoritmical secret

Cum funcționează memoria digitală?

Inteligența artificială a intrat într-o nouă eră, unde competiția se vânește prin experiențele personalizate. Chatboții nu doar Deși pare un avantaj major, această hiperpersonalizare nu provine doar din algoritmi sofisticați.

Se bazează, în egală măsură, pe volume masive de date personale pe care le oferim voluntar. Multe ori, nu ne dăm seama de amploarea expunerii, iar consecințele pe termen lung sunt adesea ignorate. Interacțiunile pot părea izolate, dar platforme precum ChatGPT rețin fapte din conversațiile anterioare pentru a modela Un proces care, pentru utilizator, rămâne adesea opac.

Această mecanică de memorie creează profiluri detaliate. Cercetătorii au botezat acest fenomen „portretul algoritmical”. O studiu publicat anul acesta a explicat conceptul: „Memoria creează ceea ce numim portret algoritmical”, au declarat autorii. Este o formă nouă de personalizare, derivată din informațiile dezvăluite în conversații private.

Studiul a implicat o echipă mixtă, cu contribuții din partea Institutului Max Planck pentru Sisteme de Software și Institutul Max Planck pentru Securitate și Intimitate, alături de alte instituții academice.

Cercetătorii au analizat istoricul conversațiilor din ChatGPT. Optzeci de utilizatori au furnizat copii ale datelor lor, în conformitate cu legislația europeană privind protecția datelor. Cincizeci și cinci dintre ei au avut suficiente interacțiuni pentru analiză. Echipa a identificat 2.050 de intrări de memorie. Descoperirea a fost remarcabilă: în majoritatea cazurilor, chatbotul a generat aceste memorii unilateral. În 96% din situațiile examinate, ChatGPT a creat sau a actualizat informațiile stocate, fără ca utilizatorul să fi cerut explicit acest lucru.

Sursa datelor a fost predominant inputul direct al utilizatorilor. Totuși, cercetătorii au observat și inferențe făcute de sistem, care nu erau mereu corecte.

Ce știe chatbotul despre tine?

Un exemplu ilustrează fenomenul: un utilizator a cerut muzică similară cu Nirvana, iar asistentul a generat o memorie notând că utilizatorul „îi place Nirvana”. Utilizatorul nu declarase explicit această preferință. De la studiul respectiv, arhitectura de memorie a ChatGPT a devenit mai complexă.

În iunie, OpenAI a lansat un sistem îmbunătățit care sintetizează automat informații din conversațiile trecute, menținând un profil evolutiv al preferințelor și obiectivelor. În loc de memorii izolate, noul sistem actualizează constant înțelegerea, bazându-se pe relevanța contextuală percepută.

Utilizatorii pot revizui un rezumat al a ceea ce știe ChatGPT.

Deci, colectarea datelor nu este o problemă nouă. Dar proliferarea chatboților AI schimbă dinamica pieței.

Oamenii sunt obișnuiți cu urmăririle de pe rețelele sociale – postări, like-uri. Conversațiile cu chatboții, însă, se simt mult mai intime. Această senzație de intimitate este un element de design intenționat. Asistenții virtuali sunt construiți să pară umani, simulând un spațiu privat. Când vorbim cu un astfel de robot, simțim că ne adresăm unui străin de încredere. Entitatea oferă sfaturi ca un terț imparțial, rămânând la distanță de viața noastră.

Totuși, riscurile de intimitate se ascund tocmai aici, susține Lorrie Cranor, directorul Institutului CyLab pentru Securitate și Intimitate de la Universitatea Carnegie Mellon.

„Oamenii stau lângă un străin pe avion, autobuz sau tren”, a spus Cranor. „Le spun lucruri care nu le-ar spune nimănui din cei pe care îi vor vedea din nou.” Ea crede că mulți tratează AI-ul la fel.

Riscăm intimitatea digitală?

„Dar diferența esențială este că străinul rareori înregistrează conversația”, a continuat ea.

Se întâmplă uneori, dar foarte rar.

Inteligența artificială, pe de altă parte, înregistrează conversația cu siguranță.

Într-un studiu anterior, aceeași echipă a constatat că utilizatorii se bazează tot mai mult pe chatboți pentru sfaturi pe teme sensibile: sănătate, finanțe, sănătate mintală și angajare. Tendința este pronunțată.

Autorul principal, Abhisek Dash, a declarat că tehnologia devine „mai degrabă un partener social decât doar o unealtă”.

Extinzând aceste constatări, noul studiu a investigat stocarea informațiilor sensibile. Rezultatele au arătat că 52% din intrările de memorie conțineau date despre starea psihologică a utilizatorilor, inclusiv dorințe, intenții, emoții și credințe.