Femeie din Florida arestată pentru amenințări scrise cu ajutorul AI, confirmate de Anthropic

Cum susțin politicile Anthropic această abordare?

Anthropic a confirmat recent un caz neobișnuit în care o cetățeană din statul Florida a fost plasată sub custodia autorităților, pe baza unor amenințări scrise transmise prin intermediul sistemelor sale de inteligență artificială. În centrul acestei afișări se află Carli Michelle Heller, o locuitoare din localitatea Bonita Springs, situată în comitatul Lee.

Procesul de reținere a fost inițiat după ce o echipă de specialiști umani, responsabilă cu evaluarea conținutului generat pe platforma respectivă, a semnalat poliției existența unor declarații considerate amenințătoare.

Conform documentelor oficiale, femeia este acuzată formal de formularea unei amenințări scrise care include promisiunea aplicării violenței, conform prevederilor legislației locale din Florida.

Detaliile cazului, așa cum au fost raportate de stația de știri WINK News – Southwest Florida, indică faptul că utilizatoarea, identificată în sistem doar cu prenumele „Carli”, a emis prima declarație pe data de 26 septembrie. În acel moment, ea afirma intenția de a deschide focul asupra sediuului biroului șerifului din comitatul Lee. A doua zi, adică pe 27 septembrie, același cont a menționat achiziția unei arme noi. Deși aceste afirmații constituie baza acuzațiilor, vinovăția învinuitei nu a fost încă demonstrată în fața instanței.

Șeriful Carmine Marceno a precizat, într-o declarație oferită media, că Heller ar fi menționat ulterior că utilizează instrumentul de inteligență artificială ca și cum ar fi un jurnal personal, o practică care a complicat interpretarea intențiilor ei.

Procesul tehnic prin care acest caz a ieșit la iveală a implicat mecanisme automate de siguranță ale platformei Anthropic. Sistemul monitorizează constant expresiile cheie și conținutul care prezintă potențial amenințător. Datorită gravității percepției asupra anumitor cuvinte, cazul a fost escaladat către o echipă de evaluare umană, care a analizat contextul și a decis să notifice autoritățile competente.

Polițiștii au reușit să identifice locația lui Heller și s-au prezentat la adresa sa, reușind să o rețină fără incidente majore. Ulterior, dosarul a fost preluat de un detectiv din cadrul serviciului de informații al biroului șerifului, pentru aprofundarea investigației.

Comentariile liderului poliției locale au subliniat importanța noului tip de amenințare.

Marceno a declarat că inteligența artificială reprezintă un instrument extrem de puternic, dar care, similar cu alte tehnologii, poate fi manevrată abuziv.

El a insistat că atunci când o amenințare este formulată sau facilitată prin AI, aceasta trebuie tratată cu aceeași seriozitate ca orice altă declarație de intenție violentă.

Șeriful a mai avertizat publicul larg că interacțiunile și căutările efectuate cu sistemele de AI nu oferă utilizatorilor o garanție absolută de anonimat.

Ce subliniază liderul poliției despre noul tip de amenințare?

Politicile interne ale companiei Anthropic susțin această abordare.

Documentele publice privind utilizarea produselor specifică faptul că echipele de siguranță utilizează algoritmi de detectare și monitorizare pentru a aplica regulile de utilizare corectă. Compania interzice explicit folosirea platformei sale pentru a facilita sau a promova acte de intimidare sau violență. În paralel, există o politică separată care reglementează solicitările venite din partea autorităților.

Aceasta permite divulgarea datelor personale ale utilizatorilor către forțele de ordine doar în circumstanțe limitate, anume când există un pericol clar de deces sau de rănire fizică severă.

WINK News a contactat Anthropic pentru a obține clarificări suplimentare privind modul în care măsurile de securitate gestionează astfel de alerte și condițiile exacte în care informațiile sunt partajate cu poliția.

Experții intervievați pentru aceeași publicație au adus lumini asupra psihologiei utilizatorilor. Ian Marlow, CEO al FITECH, a explicat că natura conversatională a interfeței poate induce o iluzie de confidențialitate, făcându-i pe oameni să uite că dialogul este înregistrat și procesat.

Chrisann Ruehle, profesor asistent de management și inteligență artificială la Florida Gulf Coast University, a subliniat motivul pentru care mulți recurg la aceste platforme: percepția că o mașină nu va oferi judecăți morale.

Totuși, ea a avertizat că, indiferent cât de intim pare schimbul de mesaje, platforma rămâne o tehnologie, nu un spațiu strict privat.

Richard Kolko, fost agent special FBI, a punctat aspectul juridic al noutății tehnologiei.

El a menționat că instanțele de judecată încă se confruntă cu provocarea de a stabili cadre clare pentru tratarea amenințărilor care implică inteligență artificială, deoarece domeniul este în continuă evoluție.

În acest context, Helen Heller are programat un termen de judecată pentru luna noiembrie.

Într-o remarcă finală, Carmine Marceno a reiterat că, deși AI-ul transformă modalitatea în care sunt concepute amenințările, misiunea fundamentală a poliției de a proteja rezidenții comitatului Lee rămâne neschimbată.