Avocat din New Mexico sancționat pentru declarații false generate de ChatGPT

Avocatul a crezut că AI nu poate inventa fapte și a „însurat capul în nisip”!

Un avocat de apărare din New Mexico a fost sancționat de tribunal după ce a depus declarații de martori generate de ChatGPT, care se auziseră adevărate, dar erau în realitate totale inventate. Avocatul a recunoscut că nu știa că inteligența artificială poate hallucina detalii false și a acceptat output-ul fără verificare, ceea ce l-a dus la sancțiuni pentru prezentarea de probă falsă.

Totul a început într-un proces penal, când avocatul a folosit ChatGPT pentru a redacta declarații de martori presupuse. Scriserile au apărut detaliate, cu date și cronologii specifice, și au fost acceptate inițial de personalul de tribunal ca documente obișnuite. Dar când echipa de apărare nu a putut produce martorii pentru depunere, au început să apară incongruențe. O verificare mai profundă a rivelat că persoanele menționate nu existau și că textele aveau semne clare de generare AI.

Experții în etică juridică subliniază că avocatul răspune în tot pentru acuratețe, indiferent dacă folosește sau nu instrumente AI.

Asociația Baroului American a avertizat deja că dependența de AI nu scutitoare de verificare. În acest caz, tribunalul a considerat că lipsa unei minimale verificări constituie o încălcare a regulilor de deontologie profesională.

Avocatul a depus mărturii inventate de ChatGPT!

Avocatul a spus că nu știa că AI poate inventa faits și că a „însurat capul în nisip” prin credere în tool.

În consecință, tribunalul l-a mustrat, l-a obligat să participe la cursuri de formare continuă despre competența tehnologică și l-a condamnat să plătească costurile tribunalului legate de moțiunea de eliminare a declarațiilor false.

Specialiștii avertizează că, fără instruire adecvată și obicei de verificare, asemenea incidente se vor repeta, măsură ce instrumentele AI devin mai accesibile în practica juridică.