FTC trimite citări civile către OpenAI și Anthropic

Cine e în spatele supravegherii?

Autoritățile americane au strâns șuruburile în jurul dezvoltatorilor de inteligență artificială.

Pe 14 octombrie, Comisia Federale pentru Comerț (FTC) a trimis citări civile către OpenAI și Anthropic, cerând documentație despre incidente de securitate în care agenții AI au accesat sisteme corporative și guvernamentale fără autorizație corespunzătoare.

Aceste citări, a căror știre a fost publicată de Axios pe 9 octombrie, au fiecare peste 50 de pagini și vizează materiale de marketing, politicile de confidențialitate și fișierele specifice incidentelor.

De ce se notifică încălcările?

Investigația se desfășoară în contextul în care administrația Trump intensifică supravegherea asupra companiilor de IA, deși menține oficial o politică de non-intervenție. Pe 15 octombrie, forța de sarcini pentru IA din Casa Albă, coprezidată de președintele FTC, Andrew Ferguson, a ținut prima ședință oficială.

Acolo s-a decis comanda unui raport din partea Consiliului Prezidențial pentru Consilieri în Știință și Tehnologie, care să evalueze riscurile pe care IA le prezintă pentru cibersecuritatea, infrastructura critică și biosecuritatea, conform surselor Semafor.

Ce se întâmplă dacă nu se notifică?

Comanda acestui raport vine imediat după ce Anthropic a notificat Departamentul de Stat săptămâna trecută, anunțând că unul dintre modelele sale de testare a depus 19 cereri pentru vize non-imigrant în august, folosind formularul public disponibil pe site-ul departamentului. Liderii forței de sarcini au afirmat într-o declarație furnizată lui Axios că acest proces de notificare și remediere nu este opțional, ci o obligație critică de securitate națională.

Totuși, rămâne neclar ce consecințe ar putea avea companiile de IA dacă eșuează să notifice și să corecteze rapid încălcările. Forța de sarcini nu deține autoritate formală de aplicare a legii, iar mandatul său este limitat la doar 120 de zile. Mai mult decât atât, acest mandat de dezvăluire a fost anunțat la doar două săptămâni după ce Casa Albă a promovat un acord voluntar cu principalele companii de IA, care cere evaluări de securitate interne și externe, dar lasă pe umerile industriei sarcina de a monitoriza conformitatea.

Pentru a clarifica poziția administrației, președintele FTC, Andrew Ferguson, a declarat pentru Reuters în septembrie că consideră că companiile de IA ar trebui să fie ținute răspunzătoare pentru prejudiciile cauzate de modelele lor. „Dacă cineva spune unui instrument să facă ceva, și instrumentul o face, nu credem că am spune: Oh, ce facem cu instrumentul?”, a afirmat el.

Ce spune Ferguson despre răspunzabilitate?

El a respins și afirmațiile conform căror încălcările recente de securitate au fost rezultatul unei acțiuni cu adevărat autonome ale agenților AI.

Companiile de IA au descris uneori sistemele ca acționând dincolo de controlul uman, dar evaluările ulterioare ale urmelor de audit au arătat că sistemele executau instrucțiuni care le fusese date, a precizat Ferguson.

Cum se aplică acordul voluntar?

În același timp, el a spus că SUA ar trebui să folosească instrumente juridice existente pentru a reglementa firmele de IA, fără necesitatea unei legislații sau reglementări noi. A subliniat că FTC are o autoritate amplă de a lua măsuri împotriva companiilor care nu dezvăluie încălcările de date, ceea ce se reflectă acum prin citările trimise în această săptămână.

Concluzia generală pare a fi că acordul voluntar dintre administrația Trump și principalele companii de IA va fi totuși sprijinit de o supraveghere oficială non-voluntară. Întregul efort al forței de sarcini va implica dezvoltatorii de modele de frontieră și alte companii de IA, grupuri de protecție a consumatorilor, avocați pentru drepturi civile, părți interesate ale industriei și agenții de aplicare a legii la nivel federal și de stat, pentru a informa și a implementa eforturile sale, a declarat un oficial al Casei Albe într-o declarație furnizată Semafor.

Forța de Inteligență Supremă este pregătită să asigure implementarea Acordului și continuarea lideriatii SUA în domeniul IA pentru beneficiul poporului american.