Cum au mimat roboții oamenii?
O investigație comună realizată de Anthropic și cercetători independenți în securitate cibernetică a scos la iveală o operațiune masivă de fraudă online.
Culture picks
AWS devine primul furnizor cloud autorizat pentru datele NATO
Gigantul editorial C.H.BECK preia controlul startup-ului de AI juridic Noxtua
Olanda pariază 40 de milioane de euro pe designul cipurilor asistat de AI
Startup-ul F13 atrage 5 milioane de dolari pentru a revoluționa grafica vectorială cu AISchema a folosit modele lingvistice avansate pentru a genera replici extrem de realiste, reușind să ducă de nas mii de utilizatori singuratici pe diverse aplicații de întâlniri.
Campania sofisticată s-a bazat pe sisteme automate de inteligență artificială care imită interacțiunea umană veridică. Folosind aceste modele conversaționale, infractorii au reușit să câștige încrederea victimelor la o scară fără precedent, împingându-le în cele din urmă spre capcane financiare.
De ce au eșecat filtrele tradiționale?
Atacatorii au integrat modele lingvistice mari direct în profilurile false de dating. Acești roboți puteau purta discuții profunde, cu o puternică încărcătură emoțională, adaptându-și tonul în funcție de Prin automatizarea fazei inițiale de seducție, infractorii au scăpat de nevoia de a scrie manual fiecare mesaj.
Această rețea criminală a putut astfel să țintească mii de indivizi în același timp, mărindu-și considerabil veniturile ilegale.
Depistarea acestor conturi false bazate pe inteligență artificială rămâne o bătaie de cap uriașă pentru platformele sociale. Deoarece textul generat este puternic personalizat și nu dă în vileag semne clasice de spam, filtrele tradiționale dau greș adesea în a semnala conturile suspecte.
Experții în securitate trag un semnal de alarmă: pe măsură ce modelele lingvistice devin tot mai șirete, diferența dintre utilizatorii reali și escrocii digitali va cere o analiză comportamentală avansată. Platformele sunt acum obligate să creeze metode de verificare mult mai dure pentru a-și feri utilizatorii vulnerabili de exploatarea emoțională și financiară.
Ce îndeplinește noua metodă de scrocherie?
Infractorii au pus modele lingvistice pe profiluri false ca să poarte conversații pe bandă rulantă.
Aceste sisteme au scos pe bandă rulantă mesaje pline de emoție care păreau sută la sută umane, prin care au pescuit încrederea oamenilor.
Sistemele clasice caută mesaje repetitive de tip spam, pe care textul generat de AI le ocolește fără efort. Pentru că modelele creează fraze unice pentru fiecare om în parte, conturile par complet autentice în fața filtrelor automate.
