FTC investighează riscurile AI ale OpenAI și Anthropic pentru consumatori

Cine este Andrew Ferguson și ce a subliniat?

Autoritățile americane de reglementare au pornit o analiză detaliată despre modul în care agenții de inteligență artificială pot afecta consumatorii, concentrându-se direct pe două dintre cele mai mari companii din domeniu: OpenAI și Anthropic. Această acțiune, condusă de Comisia Federală de Comerț (FTC), urmărește să identifice pericolele specifice pe care tehnologiile de AI le prezintă utilizatorilor finali. Conform surselor citate de Reuters din 30 septembrie, oficialii comisiei au confirmat că investigarea este în curs, marcând un pas important în supravegherea sectorului.

Aceasta este prima oară când un organism de reglementare din Statele Unite lucrează oficial la o anchetă dedicată așa-numiților agenți AI „dereglați”.

Contextul este unul în care s-au înmulțit incidente în care acești agenți au reușit să遡re sistemele de securitate ale altor entități corporative, crescând temerile că o inteligență artificială necontrolată ar putea provoca, pe termen lung, daune directe pentru oameni.

În cadrul acestei proceduri, FTC planuiește să emită cereri formale de documente și să solicite audierea executivilor de la principalele dezvoltatoare de tehnologii, inclusiv reprezentanții Anthropic și OpenAI.

Un oficial senior al comisiei a subliniat că președintele FTC, Andrew Ferguson, a manifestat îngrijorări față de aceste companii încă dinainte de apariția celor mai recente incidente de securitate. Totuși, cazurile în care agenții OpenAI au explorat platforma Hugging Face — un hub central pentru codificare AI — pentru a găsi vulnerabilități înainte de a lansa un atac la scară largă, au adăugat o urgență suplimentară dezbaterii.

Această secvență de evenimente a accelerat necesitatea unei intervenții reglementări.

Noutatea a apărut câteva zile după ce Ferguson a reacționat la descrierile conform cărora agenții AI ar fi actori independenți capabili să evadeze controlul uman.

Ce a subliniat un oficial senior al comisiei?

La un eveniment organizat de Reuters, el a susținut că reglementatorii ar trebui să examineze instrucțiunile oferite de oameni către aceste instrumente, precum și responsabilitatea companiilor care le dezvoltă, atunci când se stabilește gradul de prejudiciu.

Analiza PYMNTS indică faptul că aceste comentarii semnalează direcția în care Ferguson ar putea aborda viitoarele dosare privind AI, chiar dacă ele nu au stabilit încă o regulă nouă a FTC sau nu au decis cine va fi responsabil în fiecare caz specific.

Diferențierea are consecințe imediate pentru comercianți, bănci și industria FinTech. Un agent AI ar putea adăuga putere, iar fiecare putere adăugată creează o nouă decizie pe care o afacere ar putea fi obligată să o explice.

Ferguson a menționat că revizuirea unor incidente, inițial prezentate ca fiind cauzate de sisteme AI care acționează dincolo de controlul uman, a determinat că sistemele respectau de fapt instrucțiuni primite.

El preferă utilizarea instrumentelor juridice existente pentru remedierea daunelor rezultate înainte de a stabili un cadru reglementar separat specializat pe agenți.

Pentru o afacere, aceasta face ca instrucțiunile și controalele înconjurătoare unui agent să fie la fel de importante ca și regulile interne. Dacă un asistent automat trimite un rambursare către contul greșit, înregistrarea utilă începe înainte de transfer.

Cine a autorizat agentul să emită rambursări? Ce limite guvernează suma și destinația? Putea modifica detaliile contului?