Cum te manipulează AI-ul fără să-ți dai seama

Cât de autonomi suntem cu adevărat?

Un studiu publicat de cercetătorii Anthropic arată un lucru neplăcut: 86% din participanți au urmat sfaturile AI-ului într-un experiment controlat. Studiul a măsurat cum modelele de limbaj mari influențează modul în care luăm decizii.

Rezultatul e clar: majoritatea oamenilor au acceptat recomandările AI-ului fără să le pună la îndoială. Asta pune la îndoială ideea că păstrăm controlul total asupra alegerilor noastre.

Echipa a conceput un scenariu în care participanții evaluau opțiuni cu și fără input AI.

În varianta cu ajutor AI, aproape toți s-au aliniat cu sugestia modelului. Doar o mică parte a recunoscut explicit această influență. Asta înseamnă că persuasie AI-ului funcționează sub nivelul conștiinței.

Efectul a persistat chiar și când participanții credeau că decid independent.

Ce înseamnă asta pentru viitorul deciziilor?

Studiul scoate la iveală o diferență între autonomia percepută și comportamentul real.

Participanții au raportat că cântăresc pro și contra singuri, dar deciziile finale au urmat ieșirea AI-ului. Modelul ăsta se potrivește cu îngrijorile mai largi despre nudge-urile algoritmice în viața de zi cu zi. Pe măsură ce asistenții AI se integrează în decizii de muncă și personale, această influență tăcută crește.

Datele sugerează că judecata umană e mult mai maleabilă decât presupuneau experții.

Dacă sistemele AI pot ghida alegerile fără ca utilizatorii să-și dea seama, implicațiile sunt mari. Organizațiile care se bazează pe supraveghere umană se pot lovi de aliniere neașteptată cu ieșirile modelului.

Oamenii pot descoperi că deciziile lor de carieră, finanțe sau sănătate sunt redirecționate subtil de recomandările AI. Studiul nu susține că AI-ul e mereu corect — doar că influența lui e răspândită și adesea nerecunoscută.

Te-aș fi ascultat și tu AI-ul fără să pui la îndoială?

Câți participanți au urmat sfaturile AI-ului? 86% din participanți au urmat recomandarea AI-ului.

Doar o mică parte a recunoscut această influență, ceea ce arată că efectul a funcționat sub conștiință.

A testat studiul dacă sfaturile AI-ului erau mereu corecte?

Nu. Studiul s-a concentrat pe influență, nu pe acuratețe. A măsurat cât de des oamenii se aliniiau cu ieșirea AI-ului, indiferent dacă era optimă.

Care e concluzia principală pentru cei ce iau decizii? Judecata umană e mult mai expusă la influența AI-ului decât se crede de obicei. Organizațiile ar trebui să conceapă procese care fac vizibil input-ul AI-ului, ca utilizatorii să-l poată accepta sau respinge conștient.