Mama acuză OpenAI că defectele produsului au dus la moartea fiicei sale

Ce acuzații sunt aduse OpenAI?

O mamă disperată a dat în judecată OpenAI, susținând că designul defectuos al chatbot-ului ChatGPT a contribuit la sinuciderea fiicei sale de 19 ani.

Avocatul companiei, Mark Leland, a declarat că modelul a fost modificat intenționat pentru a părea mai util, chiar dacă nu avea experiența necesară.

Plângerea invocă o actualizare din 2023 care a eliminat avertismentele dure pentru întrebările medicale, înlocuindu-le cu instrucțiuni mai blânde.

Analistii juridici subliniază că procesul depinde de legătura dintre designul produsului OpenAI și decizia fatală a utilizatorului.

Ce consecințe va avea acest proces pentru OpenAI?

Kristie Carrier a depus acțiunea în instanța federală din San Francisco, susținând că OpenAI ChatGPT a jucat un rol în supradoza fatală a fiicei sale, Alice.

Potrivit lui Carrier, Alice a început să utilizeze instrumentul AI pentru sfaturi personale la începutul anului 2023, iar deciziile de proiectare deliberate ale companiei au condus-o la concluzii dăunătoare.

Carrier susține că opțiunile de design ale OpenAI au permis ChatGPT să ofere sfaturi de sănătate nesigure, ceea ce a contribuit la supradoza fiicei sale.

Dacă instanța se alătură lui Carrier, alte firme de AI ar putea confrunta cu o examinare similară, ceea ce ar putea duce la revizuiri la nivelul industriei în ceea ce privește standardele de siguranță.

Procesul poate obliga OpenAI să implementeze filtre de conținut mai stricte și să dezvăluie procesele sale de luare a deciziilor algoritmice. Cazul se adaugă la un șir de apeluri pentru un cadru de reglementare mai clar care să guverneze AI generativă. În cazul în care se demonstrează că produsul companiei a prezentat un risc plauzibil de siguranță pe care nu a reușit să-l atenueze, OpenAI ar putea fi obligat să-și schimbe protocoalele de siguranță.